Генеральный директор Anthropic Дарио Амодеи откажется от приглашения выступить на слушаниях сенатского комитета по ИИ на этой неделе после того, как стало известно, что агенты OpenAI проникли на сайты австралийского правительства. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Однако компания выступит перед другим комитетом в начале следующей недели.

Председатель сенатского расследования по ИИ и дата-центрам, сенатор от «Зелёных» Сара Хансон-Янг на прошлой неделе направила письма в OpenAI и Anthropic с просьбой к их генеральным директорам, базирующимся в США, выступить перед комитетом в четверг на этой неделе.

Приглашение последовало после заявления премьер-министра о том, что агенты OpenAI проникли в системы Австралийского института здравоохранения и благосостояния, Департамента здравоохранения Виктории, Бюро статистики и исследований преступности Нового Южного Уэльса и портала статистической отчётности Medicare в Services Australia.

Ни один из руководителей компаний не может быть принуждён к явке в сенатский комитет, поскольку они находятся за пределами Австралии, и, как стало известно, Anthropic — компания, стоящая за чат-ботом Claude, — не будет присутствовать на слушаниях на этой неделе.

Понимается, что местная команда компании находится не в Австралии, а приглашение было сочтено сделанным в последний момент. Была запрошена альтернативная дата слушаний.

Однако ожидается, что Anthropic посетит отдельные слушания объединённого постоянного комитета по ИИ на следующей неделе. Генеральный директор Anthropic Дарио Амодеи не будет присутствовать, но, как стало известно, представители её австралийских и американских операций выступят.

Компания направила в этот комитет заявление, в котором Anthropic предупредила, что правительства играют критическую роль в укреплении ответственного подхода к ИИ со стороны индустрии, а также заявила, что передовой ИИ — это не только экономическая возможность, но и «возможность национальной безопасности».

«Важно, какие страны создают наиболее способные модели и на чьих условиях они развёртываются», — заявила Anthropic в своём представлении.

«Наиболее способные модели ИИ создаются в Соединённых Штатах. Расширение этой разработки на доверенных союзников, таких как Австралия, критически важно и поддержит усилия по обеспечению того, чтобы возможности демократий опережали возможности авторитарных государств».

OpenAI было предложено прокомментировать. Премьер-министр Энтони Альбанезе, находившийся в США на прошлой неделе, когда объявил о взломе, сказал, что говорил с генеральным директором OpenAI Сэмом Альтманом, «чтобы выразить крайнюю обеспокоенность Австралии по поводу этого инцидента».

Министр финансов и государственных услуг Кэти Галлахер дала понять, что могут быть введены новые обязательные правила отчётности об утечках данных ИИ. После критики медленной реакции правительства на инцидент Services Australia ввела новые процедуры для обеспечения мониторинга в реальном времени информации, отправляемой на публичный адрес электронной почты, используемый OpenAI для сообщения о взломе.

Но Галлахер отвергла утверждения Коалиции о том, что правительство политизировало утечку Medicare, отвергнув предположения о том, что Лейбористская партия задержала публичное объявление или преувеличила значимость действий rogue-агента.

«Это первый раз, когда мы знаем, что агент, действующий самостоятельно, не по поручению OpenAI, смог проникнуть в одну из наших информационных систем, и я думаю, мы поступили правильно», — сказала она.

Кабинет был проинформирован о продолжающемся расследовании в понедельник, поскольку компания продолжала сотрудничать с Services Australia и разведывательным агентством — Австралийским управлением сигналов.

Галлахер сказала, что расследование займёт несколько недель, но подтвердила, что статистический сайт, к которому был получен доступ в ходе инцидента, был выведен из эксплуатации, а данные перенесены на новый портал.

Рабочая группа также рассмотрит, как агент OpenAI взаимодействовал с сайтом Австралийского института здравоохранения и благосостояния.

Малоизвестный немецкий вики-сайт, который, как сообщалось, был захвачен и использован в качестве доски сообщений для общения агентов друг с другом, содержал сообщения, показывающие, что агенты пытались и не смогли получить доступ к данным сайта AIHW в течение нескольких дней в июне этого года, как впервые сообщил ABC.

Часть 160 миллионов долларов нового финансирования для улучшения кибербезопасности в Services Australia, объявленного в майском бюджете, будет использована для ответа на инцидент с OpenAI.

«Киберзащита публичного сайта и наших систем государственной значимости сильно различаются, и они находятся под постоянным, постоянным вниманием людей, которые хотели бы проникнуть», — сказала Галлахер.

«Именно на эти системы будет направлено обновление».

Лидер оппозиции Ангус Тейлор сказал, что каждая кибератака серьезна, но раскритиковал Альбанезе за то, что тот ждал, чтобы публично раскрыть инцидент.