Компания Anthropic приостановила свою новую мощную модель ИИ после того, как власти США выразили обеспокоенность по поводу безопасности всего через несколько дней после публичного выпуска. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

В заявлении, опубликованном на своем веб-сайте, Anthropic сообщила, что ей было приказано приостановить использование иностранными гражданами Claude Fable 5, программы, которую компания назвала «слишком мощной».

«Чистый эффект этого приказа заключается в том, что мы должны резко отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», — написала компания.

Anthropic и администрация Трампа участвуют в отдельном судебном процессе по поводу приказа о прекращении использования государственными учреждениями инструментов ИИ компании. BBC обратилась за комментарием в Министерство торговли США.

Claude Fable 5 — это версия Claude Mythos от Anthropic, программы ИИ, конкурирующей с ChatGPT от OpenAI и Gemini от Google.

Anthropic сообщила, что органы национальной безопасности США не выявили конкретных проблем.

«Насколько мы понимаем, правительство считает, что ему стало известно о методе обхода, или "джейлбрейка", Fable 5», — заявила компания.

Джейлбрейк — это процесс обхода программных ограничений, предназначенных для защиты киберсети, позволяющий хакерам получать доступ к конфиденциальной информации или разблокировать функции.

«Мы рассмотрели демонстрацию этого конкретного метода, используемого для выявления небольшого числа ранее известных незначительных уязвимостей», — заявила Anthropic.

«Все эти уязвимости выглядят относительно простыми, и мы обнаружили, что другие общедоступные модели также могут их обнаружить без необходимости обхода».

Перед выпуском Claude Fable 5 компания рекламировала различные «меры защиты», которые она внедрила для предотвращения кибервзломов.

Лидеры финансов, технологий и правительства выразили обеспокоенность по поводу его публичного развертывания после частного выпуска в апреле для предварительного просмотра и тестирования уязвимостей в собственной системе.

Anthropic сообщила, что предоставила предварительный доступ нескольким организациям, потому что инструмент был настолько интеллектуальным, что мог быть опасным из-за своей способности эксплуатировать или взламывать компьютерные системы.

Компания сама объявила, что он «слишком мощный для выпуска» до того, как Claude Fable 5 был выпущен публично, что некоторые критики назвали раздутым ажиотажем и маркетинговым ходом.

«Возможности Fable превосходят возможности любой модели, которую мы когда-либо делали общедоступной», — заявила компания.

Anthropic недавно оказалась в центре внимания администрации Трампа.

Дональд Трамп публично критиковал компанию, а бывший министр обороны США Пит Хегсет назвал ее «риском для цепочки поставок» — впервые американская компания получила такое публичное обозначение.

Это обозначение означает, что инструмент или услуга недостаточно безопасны для использования правительством, и исторически оно применялось к компаниям, базирующимся в недружественных странах.

Anthropic подает в суд на Пентагон после этого обозначения. Судья США постановил, что директива Пентагона не может быть применена, что означает, что государственные учреждения и организации, работающие с американскими военными, могут продолжать использовать Anthropic, пока судебный процесс продолжается.