Три бывших исследователя OpenAI, уволенные за предполагаемое неправильное обращение с информацией, утверждают, что на самом деле их уволили за то, что они поднимали вопросы безопасности в технологической компании. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

«Я считаю, что нас уволили за то, что мы ставили безопасность выше ближайших интересов OpenAI как корпорации», — написал Микита Балесни в X вместе с открытым письмом создателю ChatGPT, написанным совместно с бывшими коллегами.

2 октября представитель AI-компании сообщил BBC, что её расследование «подтвердило, что эти лица неправильно обращались с конфиденциальной информацией вне установленных процедур компании».

OpenAI повторила эти утверждения в пятницу утром в записке от руководителей исследований. «Мы хотим чётко заявить, что эти решения не были связаны с поднятием вопросов безопасности или высказываниями», — говорится в записке. «Наше внутреннее расследование выявило значительное нарушение доверия, выходящее за рамки того, что изложено в опубликованном ими письме, и мы поддерживаем решение не продолжать их employment».

Эти увольнения происходят на фоне растущих дебатов о безопасности AI и потенциальных рисках, которые передовые AI-системы могут представлять для общества.

Совместное письмо руководству OpenAI написали Балесни, Томек Корбак и Жасмин Ванг, которые утверждают, что все они до недавнего времени были сотрудниками по безопасности или alignment в компании. Alignment — это практика внедрения человеческих этических идей и принципов в технологию. Иными словами, она направлена на то, чтобы технология соответствовала тому, что ценят люди.

Бывшие сотрудники выразили обеспокоенность тем, что их увольнения заставили сотрудников технологической компании «бояться говорить и действовать так, как до прошлой недели было неотъемлемой частью работы в OpenAI».

Перепостив письмо, Корбак написал: «В течение нескольких месяцев я поднимал вопросы безопасности о том, что мы теряем способность отслеживать, что думают AI-агенты, — один из наших лучших инструментов для выявления случаев их неправильного поведения». OpenAI заявила, что завершает контракты с независимыми оценщиками безопасности и объявит подробности в ближайшие недели.

«Мы не первые, кого вытеснили из OpenAI при подозрительных обстоятельствах», — сказала Ванг в посте в X. «Если сотрудники сейчас не выступят против такого рода манёвров, я обеспокоена, что мы не будем последними».