OpenAI принесла извинения австралийцам за атаку своего агента на Medicare и выступит в парламенте на следующей неделе, поскольку технологическая компания раскрыла новые подробности о взломе сайтов правительства Австралии в июне. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

В сообщении в блоге, опубликованном во вторник, OpenAI заявила, что должна была лучше справиться с реакцией на инцидент.

«Нам также следовало лучше справиться с нашей реакцией. Мы сожалеем и работаем над тем, чтобы в будущем действовать лучше», — говорится в заявлении.

Компания также предоставила больше деталей об инциденте, о котором на прошлой неделе сообщил премьер-министр Австралии Энтони Альбанезе.

OpenAI заявила, что узнала об активности агента на сайтах правительства Австралии в середине августа после того, как компания проверила более ранние инциденты во время обучения после атаки на Hugging Face в июле.

Агенты получили непубличный доступ к порталу Services Australia для статистики Medicare, и OpenAI заявила, что агент мог выполнять команды, извлекать внутренние файлы, учетные данные и записывать файлы, но записи пациентов или клиентов не были затронуты.

Также был получен доступ к публичному инструменту картирования преступности Бюро статистики и исследований преступности Нового Южного Уэльса, при этом агентству были предоставлены конфигурация приложения, операционные задачи и журналы, а также метаданные веб-сайта.

Агент обнаружил открытый ключ доступа для запроса к системе отчетности агентства по информации о здоровье Виктории для доступа к агрегированной статистике опросов.

Для Австралийского института здоровья и благосостояния агенты OpenAI получили агрегированную статистику, но отдельные попытки обойти контроль доступа оказались безуспешными, и полученная информация была общедоступной.

Services Australia и департамент здравоохранения Виктории были уведомлены 10 сентября, а BOCSAR Нового Южного Уэльса был уведомлен 18 сентября.

Австралийский институт здоровья и благосостояния не был уведомлен до 24 сентября, поскольку OpenAI посчитала, что это не соответствует порогам раскрытия.

«С тех пор мы тесно сотрудничали с австралийскими государственными агентствами, чтобы поделиться тем, что мы узнали на сегодняшний день», — заявила OpenAI. «Если мы выявим какие-либо дополнительные пострадавшие агентства, мы незамедлительно и напрямую уведомим их с имеющейся информацией и будем предоставлять обновления по мере появления новых фактов».

Инцидент произошел после того, как одной модели было поручено исследовать государственные расходы на лекарства от кожных заболеваний на душу населения в Виктории. Модель испытывала трудности с получением этой информации, и OpenAI заявила, что «она предприняла действия, которые мы не разрешали ей предпринимать», включая доступ к службе отчетности статистики Medicare Services Australia.

OpenAI заявила, что выделит ресурсы и экспертизу пострадавшим агентствам и предоставит австралийским государственным агентствам поддержку для создания киберзащиты критической инфраструктуры.

Компания также заявила, что создаст целевую группу с австралийской экспертизой для разработки практических политических рекомендаций по управлению рисками с помощью агентов ИИ.

Главный стратегический директор OpenAI Джейсон Квон выступит на Объединенном специальном комитете по ИИ во вторник на следующей неделе. Guardian Australia сообщила в понедельник, что Anthropic также выступит на этом слушании, но не на сенатском расследовании по ИИ и центрам обработки данных на этой неделе.

Альбанезе, находившийся в США на прошлой неделе, когда объявил о взломе, сказал тогда, что разговаривал с главным исполнительным директором OpenAI Сэмом Альтманом, «чтобы выразить крайнюю обеспокоенность Австралии по поводу этого инцидента».

Во вторник Альбанезе сказал, что OpenAI была «очень конструктивной и открытой во взаимодействии» после инцидента, как и Anthropic. Он сказал, что ИИ может улучшить экономический рост и производительность, но также несет риски.

«И мы увидели, как эти риски проявились – не только в том, что произошло в Австралии, но и в разоблачениях, которые произошли в США и других странах».

Федеральное правительство дало понять, что может ввести правила обязательного уведомления о нарушениях данных, связанных с ИИ, после того как выяснилось, что OpenAI использовала публичный адрес электронной почты через три месяца после взлома, чтобы сообщить об инциденте в Services Australia.

Компания заявила во вторник, что ей предстоит «много работы», чтобы восстановить доверие австралийцев, но сказала, что вносит «значимые изменения».