Компания Anthropic заявила, что «внезапно отключит» свои самые передовые модели ИИ для всех пользователей после того, как правительство США приказало приостановить доступ к моделям для иностранных граждан, ссылаясь на проблемы национальной безопасности. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Компания получила директиву экспортного контроля о приостановке доступа к Fable 5 и Mythos 5 для всех иностранных граждан без предоставления конкретных деталей угрозы национальной безопасности, говорится в заявлении Anthropic.

По мнению Anthropic, правительство считает, что существует метод обхода, или «джейлбрейка», защиты, которая должна предотвращать использование Fable 5 для выявления уязвимостей программного обеспечения.

Приказ поступил как раз в тот момент, когда предыдущий спор между администрацией Трампа и готовящейся к IPO Anthropic начал ослабевать в некоторых частях правительства США.

Отношения Anthropic с правительством разорвались в этом году после того, как компания отказалась разрешить военным США использовать свои модели ИИ для внутреннего наблюдения и полностью автономных систем вооружения. В ответ правительство внесло Anthropic в черный список цепочек поставок, который вступит в силу позже в этом году.

Это действие также знаменует собой значительную эскалацию усилий США по ограничению возможностей ИИ иностранных противников. В течение многих лет экспортный контроль США был сосредоточен на чипах и инструментах, питающих ИИ, а не на ограничении доступа иностранцев к самому ИИ.

Anthropic заявила, что правительство предоставило ей только «устные доказательства потенциального узкого, неуниверсального джейлбрейка».

«Мы не согласны с тем, что обнаружение узкого джейлбрейка должно быть причиной для отзыва коммерческой модели, развернутой для сотен миллионов людей», — заявила компания.

Правительственная директива и ответ Anthropic подчеркивают растущую напряженность между разработчиками ИИ и регуляторами по поводу оценки рисков от так называемых «джейлбрейков» — методов обхода защиты моделей.

Еще в среду Anthropic призвала к усилению надзора за ИИ в США, включая возможность блокировать модели с неприемлемыми рисками. Однако компания заявила, что действия правительства в пятницу не соответствуют принципам справедливого и основанного на фактах регулирования.

Главный информационный директор Пентагона Кирстен Дэвис в посте в X заявила, что министерство обороны поддерживает приоритет национальной безопасности.

«Некоторые вещи просто важнее, чем циклы доходов, кликбейт и пред-IPO оценка. Америка прежде всего. Всегда», — сказала Дэвис.

Anthropic конфиденциально подала заявку на IPO в США в прошлом месяце, опередив конкурента OpenAI в гонке за выход на публичные рынки.

Ранее на этой неделе Anthropic выпустила модель ИИ под названием Claude Fable 5, представляющую новый уровень возможностей, который она называет «Mythos-класс». Модель сопровождается защитными механизмами, запрещающими ее использование в рискованных областях, таких как кибербезопасность, на которые некоторые пользователи жаловались как на «чрезмерно широкие», сообщила Anthropic.

Эксперты заявили, что модели Mythos в чужих руках могут значительно ускорить сложные кибератаки, особенно в таких секторах, как банковское дело, которые полагаются на сложные, взаимосвязанные и часто десятилетиями старые технологические системы.

Anthropic заявила, что перед запуском Fable работала над безопасностью с правительством США и другими сторонами, и что модели от конкурирующих поставщиков ИИ демонстрируют аналогичную способность находить мелкие ошибки в коде.

«Чистый эффект этого приказа заключается в том, что мы должны внезапно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соответствие. Доступ ко всем другим моделям Anthropic не пострадает», — заявила Anthropic.

Anthropic заявила, что считает, что произошло «недоразумение», и работает над восстановлением доступа к моделям как можно скорее.

Представитель США подтвердил, что министерство торговли выпустило директиву экспортного контроля о приостановке всего доступа к Fable 5 и Mythos 5 иностранными гражданами.