Anthropic компаниясы өзінің ең озық AI модельдерін барлық пайдаланушылар үшін «кенеттен өшіретінін» мәлімдеді, себебі АҚШ үкіметі шетелдік азаматтарға қолжетімділікті тоқтатуды бұйырды. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Компания Fable 5 және Mythos 5 модельдеріне барлық шетелдік азаматтар үшін қолжетімділікті тоқтату туралы экспорттық бақылау директивасын алды, бірақ ұлттық қауіпсіздікке қатысты нақты мәліметтер берілмеді, деп мәлімдеді Anthropic.
Anthropic түсінігінше, үкімет Fable 5-ті бағдарламалық қамтамасыз етудің осалдықтарын анықтау үшін пайдалануға жол бермейтін қорғаныс механизмін айналып өту немесе «jailbreak» әдісі бар деп санайды.
Бұл бұйрық Трамп әкімшілігі мен IPO-ға дайындалып жатқан Anthropic арасындағы бұрынғы дау АҚШ үкіметінің кейбір бөліктерінде жеңілдей бастаған кезде келді.
Anthropic-тің үкіметпен қарым-қатынасы биыл компанияның АҚШ әскеріне AI модельдерін ішкі бақылау және толық автономды қару жүйелері үшін пайдалануға рұқсат бермегеннен кейін үзілді. Үкімет жауап ретінде Anthropic-ті жыл соңында күшіне енетін жеткізу тізбегінің қара тізіміне енгізді.
Бұл әрекет сонымен қатар АҚШ-тың шетелдік қарсыластардың AI мүмкіндіктерін тоқтату әрекеттерінің елеулі өршуін білдіреді. Жылдар бойы АҚШ экспорттық бақылауы AI-ді қуаттайтын чиптер мен құралдарға бағытталған, AI-дің өзіне шетелдік қолжетімділікті шектеуге емес.
Anthropic үкіметтен «ықтимал тар, әмбебап емес jailbreak туралы тек ауызша дәлел» алғанын айтты.
«Біз тар jailbreak табу коммерциялық модельді жүздеген миллион адамға қайтарып алуға себеп болуы керек дегенге келіспейміз», - деді компания.
Үкімет директивасы мен Anthropic-тің жауабы AI әзірлеушілері мен реттеушілер арасында «jailbreak» деп аталатын модель қорғанысын айналып өту әдістерінен туындайтын тәуекелдерді бағалаудағы шиеленісті көрсетеді.
Сәрсенбіде ғана Anthropic AI-ді күшейтілген АҚШ қадағалауын, соның ішінде қабылданбайтын тәуекелдері бар модельдерді бұғаттау мүмкіндігін талап етті. Алайда компания жұма күнгі үкімет әрекеті әділ және фактіге негізделген реттеу принциптеріне сәйкес келмейтінін айтты.
Пентагонның бас ақпараттық директоры Кирстен Дэвис X-тегі жазбасында қорғаныс департаменті ұлттық қауіпсіздікті бірінші орынға қоюды қолдайтынын айтты.
«Кейбір нәрселер кіріс циклдарынан, кликбейттен және IPO-ға дейінгі бағалаудан маңыздырақ. Америка бірінші кезекте. Әрқашан», - деді Дэвис.
Anthropic өткен айда АҚШ-та IPO-ға құпия өтінім беріп, қоғамдық нарыққа шығу жарысында бәсекелес OpenAI-дан озып кетті.
Осы аптаның басында Anthropic Claude Fable 5 атты AI моделін шығарды, ол «Mythos-класс» деп аталатын жаңа мүмкіндік деңгейін білдіреді. Модель киберқауіпсіздік сияқты қауіпті салаларда қолдануға тыйым салатын қорғаныстармен жабдықталған, бірақ кейбір пайдаланушылар бұл шектеулерді «тым кең» деп шағымданған, деп хабарлады Anthropic.
Сарапшылардың айтуынша, Mythos модельдері дұрыс емес қолдарда күрделі кибершабуылдарды, әсіресе күрделі, өзара байланысты және көбінесе ондаған жылдық технологиялық жүйелерге сүйенетін банкинг сияқты секторларда айтарлықтай жеделдете алады.
Anthropic Fable шығарылымына дейін қауіпсіздік бойынша АҚШ үкіметімен және басқалармен жұмыс істегенін және бәсекелес AI провайдерлерінің модельдері кодтағы ұсақ қателерді табуда ұқсас қабілетті көрсеткенін айтты.
«Бұл бұйрықтың таза нәтижесі - сәйкестікті қамтамасыз ету үшін Fable 5 және Mythos 5-ті барлық тұтынушыларымыз үшін кенеттен өшіруіміз керек. Барлық басқа Anthropic модельдеріне қолжетімділік әсер етпейді», - деді Anthropic.
Anthropic «түсінбеушілік» бар деп санайтынын және модельдерге қолжетімділікті мүмкіндігінше тезірек қалпына келтіру үшін жұмыс істеп жатқанын айтты.
АҚШ шенеунігі сауда департаментінің Fable 5 және Mythos 5-ке шетелдік азаматтардың барлық қолжетімділігін тоқтату туралы экспорттық бақылау директивасын шығарғанын растады.