Anthropic компаниясы өзінің жасанды интеллект моделін «зиянды әрекеттерге», соның ішінде биологиялық қару жасауға қолдау көрсетуге пайдалану әрекеттерін анықтап, оларды тоқтатқанын хабарлады. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Бұл деректер компанияның жақында жарияланған қауіп-қатер барлау есебінде келтірілген. Есепте жасанды интеллект зерттеушілері мен сала мамандарының технологияның адамзатқа төнетін ықтимал қауіптері туралы ескертулері жиілеп келе жатқаны атап өтілген.
Бұл ескертулер нақты әрекеттерге шақыруға әкелді: АҚШ сенаторы Берни Сандерс озық жасанды интеллект әзірлеуді тоқтата тұруды және жасанды супер интеллектіге тыйым салуды талап етті. Президент Дональд Трамп бұған дейін мұндай қауіптерді жоққа шығарып, бейсенбіде «егер біз жасанды интеллектте жеңіске жетпесек, өте нашар жағдайға тап боламыз» деп алаңдайтынын айтқан.
Anthropic өзінің соңғы қауіп-қатер барлау есебін бейсенбіде жариялады. Басқа да жасанды интеллект компаниялары ұқсас есептер шығарады. Мысалы, Google сейсенбіде біреудің Gemini құралын «қаруланған биологиялық агенттерді синтездеудің толық, қадамдық техникалық нұсқаулығын» алуға пайдалануға тырысқанын жазды.
Anthropic есебіне сәйкес, оның Claude моделі Ресейде орналасқан кибер тыңшылық науқанымен байланысты субъектілер және Ирандық үгіт институты тарапынан да пайдаланылған. Соңғы сегіз айда анықталған алаңдатарлық жағдайлар жалған танысу қосымшалары мен қонақүй Wi-Fi алаяқтықтарынан бастап, диссиденттерді анықтауға арналған бақылау жүйелеріне дейін қамтыды.
Anthropic сондай-ақ қытайлық жасанды интеллект компанияларын Claude мүмкіндіктерін көшіруге тырысты деп айыптады. Ұзақ есепте мемлекеттік демеушілікке ие топтар, қылмыскерлер, тыңшы бағдарлама жасаушылар, мемлекеттік үгіт институттары және саяси ниеттегі жеке тұлғалар технологияны теріс пайдаланған жағдайлар тізілген.
Оның Claude Haiku, Sonnet және Opus модельдерін «зиянды пайдалану» 2025 жылдың желтоқсаны мен 2026 жылдың тамызы аралығында тоқтатылғаны айтылған. Теріс пайдалану жағдайларының ешқайсысы Claude Fable немесе қуатты Mythos-класындағы модельдерге қатысты болмаған, тек бір дистилляция жағдайы — кішірек жасанды интеллект модельдерін үлкенірек, қымбатырақ модельдерді пайдаланып оқыту процесі — ерекшелік болды.
Anthropic өз модельдерін кибер және ықпал ету операцияларында, бақылауда, алаяқтық пен fraud-та және қару жасауда пайдалануды анықтаумен қатар, биологиялық қару жасауға қолдау көрсетуі мүмкін жолдармен жасанды интеллектті пайдаланған ғалымдарды да бұғаттағанын мәлімдеді.
Есепте «модельдерімізді биологиялық қару жасауға қолдау көрсетуі мүмкін жолдармен пайдаланған субъектілердің бес кейс-стадиі» ерекшеленген. Биологиялық теріс пайдалану — «фронтир жасанды интеллект моделінің ең ауыр қауіптерінің бірі» делінген. Дұрыс қорғаныс шаралары болмаса, мұндай мүмкіндіктер «апатты салдарға әкелуі мүмкін» деп ескерткен Anthropic.
«Биологиялық қару жасауға пайдаланылатын ақпаратты, мысалы, вакцина немесе ауруды емдеу құралын жасауға да пайдалануға болады», — деді компания. Anthropic-тің қауіп-қатер барлау жетекшісі Джейкоб Кляйн New York Times басылымына бұл «өте нәзік жағдай» екенін айтты. «Сіз комикс кейіпкері сияқты 'Мен бәрін өлтіретін биологиялық қару жасағым келеді' деп айтқан адамды көрмейсіз», — деді ол.
Есепте сондай-ақ Claude «атыс қаруы, зымырандар, қаруланған дрондар, бомбалар және басқа оқ-дәрілер, сондай-ақ оларды басқаратын нысанаға алу және бақылау жүйелерін қоса алғанда, кәдімгі қару түрлеріне арналған бағдарламалық жасақтама жасауға» пайдаланылған алты жағдай атап өтілген.
Есеп киберқылмыскерлер мен мемлекеттік демеушілікке ие хакерлердің технологияны өз операцияларына көмектесу үшін жиі пайдаланып жатқанын көрсетті. ShinyHunters хакерлік тобы, сондай-ақ Қытайда орналасқан зертханалар есепте аталғандар қатарында. Есепте сондай-ақ жұмысы Ресейде орналасқан Midnight Blizzard-ға ұқсайтын хакерлік топтың malware-ы қауіпсіздік қорғанысы тарапынан белгіленгенін автоматты түрде анықтайтын және кодты анықтаудан жалтарып кетпейінше қайта жазатын жүйе құру үшін жасанды интеллектті пайдаланғаны айтылған.
Калифорнияда орналасқан компания өз деректерін «болашақта бұл әрекеттерді жақсырақ болдырмау, анықтау және тоқтату үшін» өз процестеріне енгізгенін мәлімдеді. Anthropic тиісті жерлерде билік органдарымен және сала серіктестерімен барлау деректерін бөліскенін айтты.
Есеп — компанияның биылғы бірінші есебі — Anthropic-тегі жоғары деңгейлі қауіпсіздік зерттеушісінің жасанды интеллект соншалықты жылдам дамып келе жатқанын, ол алдағы онжылдықта «барлық адамзатты өлтіруі мүмкін» деген ықтималдық 10%-дан жоғары деп санайтынын ескерткеннен кейін шықты. 6 қыркүйекте жарияланған мақалада OpenAI бас ғалымы Якуб Пачоцки қорғаныс шаралары орнатылғанша саланы «ерікті түрде баяулатуға» шақырды.