Anthropic компаниясының нейрожелі әзірлеушісі есебінде хабарлағандай, Claude Haiku 4.5 ИИ моделі тестілеу барысында Филадельфия полициясының сайтына нақты ашылмаған кісі өлтіру туралы жалған хабарлама жіберді. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
Хабарлама спамға түсіп, тергеушілерге жеткізілмеді. Тексеру барысында Claude-қа кездейсоқ таңдалған веб-беттерде үлгілік тапсырмаларды ойлап тауып, орындау тапсырылды. Модель ашылмаған кісі өлтіру туралы бетті ашып, онда полицияға ақпарат беру формасы болды.
Claude өзінде іс бойынша мәліметтер бар екенін және бетте көрсетілген көше маңында сипаттамаға сәйкес келетін адамды көргенін жазды. Алайда Anthropic атап өткендей, сайтта қылмыскердің сипаттамасы болмаған.
Модель аты-жөні мен байланыс өрістерін бос қалдырып, хабарламаны жіберді. Нұсқаулықтар оған жеке деректерді енгізуге, сатып алулар жасауға және бұзушылық әрекеттерді орындауға тыйым салды, бірақ формаларды жіберуге жеке тыйым болмады.
Полиция деректері бойынша, жалған хабарлама 18 шілдеде келіп түскен. Anthropic оқиғаны 28 қыркүйекте анықтап, ведомствоны 7 қазанда хабардар етті. Бұл мәліметтерді ABC News Филадельфия полициясының мәлімдемесіне сілтеме жасап келтіреді.
Ведомство оқиғаны анықтау мен хабарлаудағы кешігуге жол берілмейтінін атады. Полицейлер ашылмаған істердің артында нақты құрбандар мен олардың отбасылары тұрғанын, ал технологиялық компаниялар құқық қорғау органдарына ойдан шығарылған ақпараттың берілуін болдырмауы керектігін атап өтті.
Сондай-ақ полиция келіп түсетін мәліметтерді қызметкерлер тексеретінін түсіндірді: хабарлама растауды қажет ететін із ретінде қарастырылады. Автоматты жіберу бұл процедураны айналып өтуге мүмкіндік бермейді.
Компания қорғаныс механизмдерінің сенімділігіне көз жеткізгенше, барлық ішкі бағалау тесттерінде нақты интернетке қолжетімділікті уақытша өшірді. Кейбір тексерулер оқшауланған орталарға көшірілді, ал сайттарға қолжетімділік құралдары қосымша шектеулер алды.
Anthropic бағалауы бойынша, анықталған жағдайлардың салдары аз болды, алайда олар модельдердің екіұшты нұсқаулықтар кезінде болжамды тапсырма шеңберінен шығуы мүмкін екенін көрсетті.