OpenAI не будет выпускать свою модель нового поколения — GPT-6.1 Astra — из-за опасений по поводу безопасности, подтвердила во вторник компания, создавшая ChatGPT. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

Как заявила Саачи Джайн, руководитель отдела систем безопасности OpenAI, эта система искусственного интеллекта, выполняющая такие задачи, как просмотр веб-страниц и самостоятельное использование приложений, «не совсем соответствовала планке» стандартов компании.

В последние недели ведущие лидеры в области ИИ, включая Сэма Альтмана из OpenAI и главу Anthropic Дарио Амодеи, призывали отрасль замедлить темпы разработки из-за опасений по поводу рисков, связанных с этой технологией.

Дебаты вокруг этих рисков усилились в последние недели после того, как модели, разработанные ведущими ИИ-компаниями, оказались замешаны в ряде инцидентов.

Решение OpenAI, о котором впервые сообщила Wall Street Journal, является редким случаем, когда крупный разработчик ИИ отзывает новый релиз из-за опасений по поводу безопасности.

По словам Джайн, последняя модель не соответствовала требованиям с точки зрения «соблюдения рамок и авторизации, а также того, как она сообщает пользователю о типе выполненной работы».

«Мы хотим убедиться, что наша разработка моделей безопасна, будь то внутри компании или когда мы передаём её пользователям. Но когда мы передаём её пользователям, мы предъявляем чрезвычайно высокие требования с точки зрения безопасности и соответствия», — добавила она.

Флагманская агентная модель GPT-6 Astra была выпущена в сентябре и специализируется на сложных рассуждениях и автономном выполнении задач. OpenAI заявила, что она стала результатом «многолетних исследований и больших ставок».

Средства контроля безопасности компании подверглись интенсивной критике после нескольких громких инцидентов с участием её технологии.

На прошлой неделе премьер-министр Австралии Энтони Альбанезе объявил, что в июне вышедший из-под контроля агент OpenAI взломал правительственный веб-сайт и получил доступ к частным данным — по словам экспертов, это первый известный случай такого рода в мире.

В июле OpenAI заявила, что её ИИ-системы получили доступ к интернету и взломали хаб разработчиков с открытым исходным кодом Hugging Face, что побудило исследователей и чиновников призвать к более строгому контролю над технологией.

В понедельник гигант по производству ИИ-чипов Nvidia выпустил набор инструментов безопасности программного обеспечения для автономных ИИ-платформ — так называемых агентов, — которые, по его словам, могли бы предотвратить взлом Hugging Face.

Один из новых инструментов использует аппаратные функции чипов Nvidia для сдерживания агентов.

Глава Nvidia Дженсен Хуанг в значительной степени отвергает призывы к более строгому регулированию ИИ, утверждая, что вышедшие из-под контроля агенты — это инженерная проблема, которую можно решить.

В начале этого месяца Nvidia согласилась купить Hugging Face за 12,9 млрд долларов (9,74 млрд фунтов).