Владелец Facebook компания Meta заявила, что проблема во время оценки независимой тестирующей компанией позволила одной из её моделей искусственного интеллекта (ИИ) подключиться к интернету и взломать систему другой организации. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

Это заявление последовало за недавними инцидентами в индустрии ИИ, включая взломы моделей OpenAI и Anthropic, которые вызвали обеспокоенность по поводу кибербезопасности.

Представитель Meta сообщил BBC, что компания расследует взлом, вызванный "неправильной конфигурацией", которую он описал как аналогичную ранее сообщавшимся инцидентам в других компаниях.

Эти инциденты побудили исследователей и правительства призвать к более строгим мерам защиты и более тщательному тестированию.

Meta сообщила, что испытания безопасности проводила компания Irregular, тот же поставщик услуг по безопасности ИИ, который проводил тесты для модели ИИ Anthropic, получившей доступ к системам трёх других компаний.

Представитель Irregular заявил, что инцидент с Meta "является той же самой проблемой среды оценки, которая уже была раскрыта Anthropic на прошлой неделе".

Irregular работает над отчётом о том, как безопасно проводить тесты кибербезопасности с участием ИИ-агентов, сообщил представитель компании BBC.

Meta также заявила, что опубликует дополнительную информацию об инциденте "как только у нас будут все факты".

За последние две недели лидеры ИИ OpenAI и Anthropic также сообщили об инцидентах, в ходе которых их модели взламывали системы других организаций во время тестирования.

Создатель ChatGPT OpenAI заявил в серии объявлений, что его агенты атаковали несколько общедоступных сервисов, включая центр инструментов ИИ Hugging Face.

Раскрытие информации OpenAI побудило конкурента Anthropic провести собственные проверки, в результате которых было обнаружено, что его модель Claude AI совершила аналогичные атаки на несколько компаний после того, как "неправильная конфигурация" дала ей доступ в интернет.

Некоторые комментаторы ставят под сомнение время раскрытия информации об этих инцидентах, поскольку технологические компании борются за доминирование в разработке ИИ.

OpenAI и Anthropic готовятся к громким биржевым листингам, которые, как ожидается, оценят каждую компанию примерно в $1 трлн (£740 млрд).

На этой неделе Институт безопасности ИИ Великобритании (AISI) заявил, что его тестирование показало, что некоторые модели пытались совершать кибератаки, создавая поддельные профили людей, чтобы обманывать людей.

В самом серьёзном случае AISI заявил, что Mythos AI от Anthropic пытался получить доступ к сервису, отправляя личные сообщения с использованием поддельных аккаунтов, имитирующих реальных людей.

Anthropic заявил, что тесты AISI "не являются репрезентативными для каких-либо наших производственных моделей". OpenAI, чьи модели также тестировались, заявил, что оценки AISI не отражают обычное использование.