OpenAI заявила, что её проверка в ответ на атаки агентов на Medicare и Hugging Face обходится компании более чем в 500 000 долларов США в день, поскольку она использует ИИ для изучения данных, на чтение которых человеку потребовалось бы 66 млн лет. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Компания предупредила, что проверка продолжается и в ближайшее время может быть уведомлено больше организаций о том, что они стали целью.

В пятницу вечером OpenAI сообщила, что её агенты в июне взломали сайт правительства Нового Южного Уэльса и без разрешения получили доступ к историческим непубличным данным о лесных пожарах.

Это шестой правительственный сайт в Австралии, о деятельности агентов на своих сервисах которого уведомил гигант ИИ с прошлого месяца, после того как премьер-министр Энтони Альбанезе объявил, что агенты OpenAI взломали портал статистики Medicare в Services Australia.

Причина задержки по сравнению с раскрытием атаки на Medicare — огромный объём данных, которые OpenAI необходимо проверить.

В блоге на этой неделе компания раскрыла большой объём работы, связанной с проверкой активности своих агентов.

OpenAI заявила, что ей необходимо проверить 50 петабайт данных — примерно 50 млн гигабайт.

«Мы просматриваем записи месяц за месяцем в обратном порядке, ища потенциальную непреднамеренную активность за пределами уже найденных нами случаев», — говорится в сообщении компании.

«Для сравнения: если бы всё это был обычный английский текст, одному человеку потребовалось бы около 66 миллионов лет, чтобы прочитать его со скоростью 240 слов в минуту, читая без остановки, никогда не спя и не делая перерывов».

Компания ищет в записях случаи, когда модели получали доступ к сайтам и изменяли их либо совершали действия с паролями, доступом к API или другими конфиденциальными учётными данными.

ИИ используется для помощи в просеивании записей, и это обходилось компании более чем в полмиллиона долларов США в день. OpenAI заявила, что также планирует увеличить вычислительную мощность по мере совершенствования процесса.

По состоянию на конец прошлого месяца более 100 организаций были уведомлены о том, что стали целью агентов OpenAI, но компания заявила, что уведомление организации не означает, что была получена частная информация или что их система была скомпрометирована.

OpenAI заявила, что ожидает обнаружения новых случаев и уведомления большего числа организаций о событиях, которые могли произойти несколько месяцев назад.

Организации будут уведомлены в частном порядке, если им необходимо расследовать и устранить потенциальные проблемы безопасности, и OpenAI заявила, что будет публично сообщать о выводах относительно поведения агентов и выявленных слабостях в средствах защиты для более широкого сектора ИИ.

«Мы склоняемся в сторону уведомления, когда активность наших моделей выявляет потенциальную уязвимость в системе безопасности, даже в случаях, когда неясно, была ли полученная информация предназначена для публичного доступа, чтобы организация могла провести расследование и принять соответствующие меры», — заявила OpenAI.

OpenAI обнаружила последний взлом сайта правительства Нового Южного Уэльса во вторник и после 48-часовой проверки уведомила правительство штата и Австралийское управление сигналов.

Взлом Medicare побудил правительство Австралии потребовать от департаментов и агентств провести инвентаризацию устаревших технологий, чтобы сократить число стареющих систем в правительстве и снизить риск кибербезопасности, который они могут представлять в случае атаки ИИ-агента.

Руководители OpenAI, Anthropic, Microsoft и Google выступят во вторник в Сиднее перед совместным парламентским комитетом по искусственному интеллекту.