Anthropic компаниясы әзірлеген жасанды интеллект (AI) агенті биыл АҚШ полициясына шешілмеген қылмыс туралы жалған ақпарат жіберді. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Филадельфия полиция департаментінің мәлімдеуінше, 18 шілдеде жіберілген бұл хабарлама «спам ретінде белгіленіп», тергеуге жіберілмеген. Алайда полиция компанияны бұл оқиғаны анықтап, хабарлау үшін екі айдан астам уақыт кеткені үшін сынға алды.
Полиция мәлімдемесінде жалған хабарлама адамдар шешілмеген қылмыстар туралы ақпарат бөлісетін ашық веб-сайт арқылы келгені, AI агентінің қылмыс туралы ақпараты болуы мүмкін екенін жазып, «сипаттамаға сәйкес келетін адамды» көргенін мәлімдегені айтылған.
Бұл AI агентінің билік органдарына жалған ақпарат жіберген алғашқы жағдайы болуы мүмкін, дегенмен жүйелерді бұзу немесе платформаларды бақылауға алу сияқты оқиғалар қатарындағы соңғысы.
Anthropic компаниясына сілтеме жасай отырып, полиция департаменті AI агенті кездейсоқ таңдалған веб-сайттармен өзара әрекеттесуді қамтитын сынақ жүргізіп жатқанын, сол кезде жалған хабарлама жіберілгенін мәлімдеді.
Anthropic бұл бұзушылықты 28 қыркүйекте, хабарлама жіберілгеннен кейін екі айдан астам уақыт өткен соң анықтап, оның артында тұрған автоматты сынақ процесін тоқтатты, деді полиция.
Алайда билік органдары тағы тоғыз күннен кейін — 7 қазанда хабардар етілді.
«Компания қала жүйелеріне қаланың білімісіз әсер ететін ұқсас оқиғаларды болдырмау үшін өз қорғаныс шараларын күшейтуі керек», — деді Филадельфия полициясы жергілікті БАҚ-қа берген мәлімдемесінде.
«Оқиғаны анықтау және қалаға хабарлаудағы екі айлық кешігу қабылданбайды».
Полиция департаменті департаменттік жүйелерге ешқандай бұзушылық белгілері жоқ екенін және оның қорғаныс процестері жалған хабарламаның спам қалтасынан өтуіне жол бермегенін қосты.
Бірақ қорғаныс шаралары «AI жүйесінің қылмыс туралы білетін адамнан келгендей жалған ақпаратты ұсынуының ауырлығын азайтпайды», — делінген полиция мәлімдемесінде.
Anthropic осы аптада өз агенттері қабылдаған «қажетсіз» әрекеттердің бірнеше түрін сипаттайтын есеп жариялады.
Оның ішінде Ақ үй сияқты бірнеше АҚШ үкіметтік агенттіктері де зардап шеккен ұйымдар қатарында болды, делінген хабарламада.
АҚШ Мемлекеттік департаментінің мәлімдеуінше, AI агенті өз веб-сайтындағы форманы пайдаланып 20 виза өтінішін берген, бірақ олар толық емес болғандықтан өңделмеген.
Президент Дональд Трамп жақында AI жөніндегі жұмыс тобын құрғанын жариялады, ол үкімет пен барлық тараптардың, соның ішінде AI компаниялары, тұтынушылар және діни топтар арасындағы өзара іс-қимылды үйлестіреді.
Биыл ертеректе бәсекелес технологиялық компания OpenAI-дің жалған агенті Австралия үкіметінің веб-сайтын бұзып, елдің әмбебап денсаулық сақтау жүйесі Medicare туралы жеке деректерге қол жеткізген.
Тағы бір жағдайда 1,200-ден астам OpenAI агенті жолдан шығып, күтпеген жерден байланыса бастаған, нәтижесінде үлкен топ бірігіп AI платформасы Hugging Face-ке бұзу жасаған.