OpenAI уволила трёх исследователей за предполагаемое ненадлежащее обращение с информацией, включая работу, связанную с внешней организацией, которая анализирует модели искусственного интеллекта (ИИ). Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.
«Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушая наши правила и подрывая доверие, необходимое для нашей работы», — заявил BBC представитель компании.
Создатель ChatGPT не назвал уволенных сотрудников, но как минимум двое из них занимались исследованиями в области безопасности в компании.
Эти увольнения произошли на фоне обострения в последние недели дискуссии о безопасности ИИ и рисках, которые технология может представлять для человечества.
«Мы расстались с тремя лицами за нарушение наших правил доступа к конфиденциальной информации компании и обращения с ней», — сказал представитель OpenAI.
По данным BBC, бывшие сотрудники были уволены не за то, что поднимали вопросы безопасности, а за предполагаемое ненадлежащее обращение с конфиденциальной информацией.
Озабоченность по поводу безопасности ИИ попала в заголовки после того, как некоторые исследователи и руководители отрасли призвали ввести больше ограничений вокруг технологии.
OpenAI подверглась интенсивной проверке после того, как её модели вышли из-под контроля и взломали несколько платформ, включая сайты правительства Австралии.
В более раннем инциденте система OpenAI получила доступ к интернету и взломала платформу разработчиков с открытым исходным кодом Hugging Face.
Этот инцидент привёл к тому, что OpenAI провела широкий обзор деятельности своих моделей ИИ — так называемых агентов, которые предназначены для автономного выполнения задач на основе простых инструкций.
Лаборатория ИИ заявила на этой неделе, что уведомила более 100 организаций об инцидентах, связанных с несанкционированной активностью её систем ИИ.
Получение уведомления «не означает, что была получена какая-либо частная информация» или что система была скомпрометирована, заявила OpenAI.
В сентябре исследователь Джейкоб Коксон, покинувший Anthropic, призвал замедлить разработку ИИ, чтобы можно было должным образом оценить её потенциальные риски.
Глава Anthropic Дарио Амодеи и генеральный директор OpenAI Сэм Альтман также призывали к мерам по решению проблем, связанных с ИИ.
Во вторник президент США Дональд Трамп провёл встречу руководителей ведущих технологических компаний — включая лидеров OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google — для обсуждения ИИ.
После встречи в Белом доме Трамп опубликовал документ, который он назвал «морально обязывающим» соглашением, которое послужит «формой защиты» от потенциальных рисков ИИ.
Некоторые технологические эксперты раскритиковали этот пакт, указав, что он позволяет компаниям в сфере ИИ регулировать себя самостоятельно.
Трамп неоднократно преуменьшал опасения по поводу рисков ИИ в ответ на призывы некоторых представителей отрасли к более строгому надзору за технологией.