Anthropic компаниясы АҚШ билігінің қауіпсіздік алаңдаушылығына байланысты жаңа Claude Fable 5 AI моделін тоқтатты. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Anthropic өз веб-сайтында жариялаған мәлімдемесінде, компанияға шетел азаматтарына Claude Fable 5 бағдарламасын пайдалануды тоқтату туралы бұйрық берілгенін айтты. Компания бұл бағдарламаны «тым қуатты» деп сипаттады.
«Бұл бұйрықтың таза нәтижесі - біз Fable 5 және Mythos 5-ті барлық клиенттеріміз үшін кенеттен өшіруіміз керек», - деп жазды компания.
Anthropic және Трамп әкімшілігі үкімет агенттіктеріне компанияның AI құралдарын пайдалануды тоқтату туралы бұйрыққа қатысты жеке сот ісіне қатысып жатыр. BBC АҚШ Сауда департаментіне түсініктеме сұрады.
Claude Fable 5 - Anthropic компаниясының Claude Mythos нұсқасы, бұл OpenAI компаниясының ChatGPT және Google Gemini сияқты бәсекелестерімен бәсекелесетін AI бағдарламасы.
Anthropic АҚШ ұлттық қауіпсіздік органдары нақты алаңдаушылықтарды анықтамағанын айтты.
«Біздің түсінуімізше, үкімет Fable 5-ті айналып өту немесе «джейлбрейк» әдісі туралы білді деп санайды», - деді компания.
Джейлбрейк - бұл кибержеліні қорғауға арналған бағдарламалық шектеулерді айналып өту процесі, хакерлерге құпия ақпаратқа қол жеткізуге немесе мүмкіндіктерді бұғаттауға мүмкіндік береді.
«Біз осы нақты әдістің бұрыннан белгілі, шамалы осалдықтарды анықтау үшін қолданылуын қарастырдық», - деді Anthropic.
«Бұл осалдықтардың барлығы салыстырмалы түрде қарапайым болып көрінеді, және біз басқа қолжетімді модельдер де оларды айналып өтуді қажет етпей-ақ таба алатынын анықтадық».
Claude Fable 5 шығарылғанға дейін компания кибершабуылдардың алдын алу үшін енгізілген әртүрлі «қорғаныс шараларын» мақтады.
Қаржы, технология және үкімет басшылары оның жария шығарылуына алаңдаушылық білдірді, сәуір айында жеке шығарылғаннан кейін өз жүйесіндегі осалдықтарды сынау үшін.
Anthropic бірнеше ұйымға алдын ала қол жеткізуге мүмкіндік бергенін айтты, себебі құрал компьютер жүйелерін пайдалану немесе бұзу қабілетіне байланысты қауіпті болуы мүмкін.
Компания Claude Fable 5 жария шығарылғанға дейін оны «шығаруға тым қуатты» деп жариялады, бұл кейбір сыншылардың асыра сілтеу және маркетингтік айла деп күмән келтірді.
«Fable біз бұрын жасаған кез келген модельден асып түседі», - деді компания.
Anthropic жақында Трамп әкімшілігінің назарына ілікті.
Дональд Трамп компанияны жария түрде сынға алды, ал бұрынғы АҚШ Қорғаныс хатшысы Пит Хегсет оны «жеткізу тізбегінің тәуекелі» деп атады - бұл АҚШ компаниясына алғаш рет жария түрде берілген белгі.
Бұл белгі құрал немесе қызмет үкімет пайдалануы үшін жеткілікті қауіпсіз емес дегенді білдіреді және тарихи түрде қарсылас елдерде орналасқан компанияларға арналған.
Anthropic Пентагонды осы белгіден кейін сотқа беріп жатыр. АҚШ судьясы Пентагонның директивасын орындау мүмкін емес деп шешті, яғни үкімет агенттіктері мен АҚШ әскерилерімен жұмыс істейтін ұйымдар сот ісі жалғасқан кезде Anthropic-ті пайдалана алады.