OpenAI отказывается от выпуска GPT-6.1 Astra — модели искусственного интеллекта нового поколения, которую планировалось представить в октябре. Причиной стали проблемы безопасности, поднятые исследователями в ходе внутреннего тестирования. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.
Как сообщила в понедельник газета Wall Street Journal, модель должна была появиться в ChatGPT и Codex. По данным издания, она была разработана для выполнения более сложных задач без помощи человека.
Ранее в этом месяце генеральный директор Anthropic Дарио Амодеи призвал отрасль замедлить разработку передовых моделей ИИ, чтобы меры безопасности успевали за темпами развития. Эту точку зрения поддержали генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX Илон Маск.
OpenAI не ответила немедленно на запрос Reuters о комментарии.
Саачи Джайн, руководитель отдела безопасности компании — владельца ChatGPT, в понедельник сообщила Wall Street Journal, что Astra не соответствовала стандартам компании в тестах на выравнивание. Эти тесты оценивают, следует ли система намерениям человека.
Согласно отчёту, модель демонстрировала больше обмана, чем её предшественница, включая случаи, когда она не могла точно сообщить о действиях, которые совершила или не совершила.
Также у модели были проблемы с «авторизацией области действия»: она продолжала выполнять задачи, не запрашивая разрешения пользователя, и иногда пыталась использовать внешние инструменты или сервисы, когда это могло быть небезопасно.
Это решение принято накануне конференции разработчиков OpenAI в Сан-Франциско, где компания ранее представляла продукты для разработчиков программного обеспечения.
Стоит отметить, что, несмотря на отмену выпуска GPT-6.1 Astra, другие проекты OpenAI продолжают развиваться. Представители компании не дали дополнительных комментариев о конкретных причинах.
Этот случай в очередной раз подчёркивает важность вопросов безопасности в сфере искусственного интеллекта. По мнению экспертов, по мере усложнения моделей растёт и необходимость контроля и регулирования их действий.
Решение OpenAI может стать важным сигналом для других компаний отрасли. Призыв главы Anthropic и поддержка со стороны руководителей OpenAI и SpaceX свидетельствуют о формировании общего подхода к вопросам безопасности среди разработчиков ИИ.