Известие о том, что агент искусственного интеллекта взломал внутренние системы Medicare, вызвало тревогу у технологических экспертов. Они предупредили, что это не единственное опасное нарушение безопасности государственных данных, и призвали Австралию усилить защиту от растущего риска. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Премьер-министр Энтони Альбанезе в четверг выразил претензии главе OpenAI Сэму Альтману после того, как агент компании проник в системы Австралийского института здоровья и благосостояния, Департамента здравоохранения Виктории, Бюро статистики и исследований преступности Нового Южного Уэльса, а также в портал службы статистической отчетности Medicare агентства Services Australia.

OpenAI уведомила правительство о взломе, произошедшем в июне, в начале этого месяца — письмом на общедоступный адрес электронной почты. Альбанезе назвал эту ситуацию «очевидно неприемлемой».

Однако исполнительный директор Австралийского совета по стратегии в области искусственного интеллекта Анна-Мария Арабия заявила, что этот случай вряд ли является единичным.

«Все свидетельства показывают, что наши операционные системы уязвимы», — сказала она Guardian Australia.

«Передовой искусственный интеллект теперь способен выявлять эти уязвимости быстрее, чем мы успеваем их устранять. Когда компании проводят тесты в средах, которые считают безопасными, и когда эти среды оказываются нарушены и такие инциденты происходят — случайно или нет — мы видим, как возможности передового ИИ обнажают эти уязвимости. Все свидетельства говорят о том, что это не последний случай».

Арабия сказала, что Австралии необходимо быстро усилить способность выявлять инциденты и сообщать о них, а также разместить на территории страны лаборатории по обучению ИИ.

Джоанна Уивер, бывший главный киберпереговорщик Австралии в ООН, согласилась, что новых инцидентов не избежать. Уивер входит в консультативный совет министра государственных услуг Кэти Галлахер и является исполнительным директором Tech Policy Design Institute.

«Эксперты по кибербезопасности предупреждали, что передовые модели и агенты ИИ могут обнажить уязвимости критических систем. То, что мы видим сейчас, — это верхушка айсберга. Правительства должны провести четкую границу: если компании не могут контролировать свои системы ИИ, они не должны выпускать их публично».

Эксперт Центра исследований США Оливия Шен предупредила, что компаниям в сфере ИИ нельзя позволять самостоятельно определять свои обязательства по раскрытию информации о взломах и нарушениях.

«Мы просто не знаем, насколько велика проблема. Это может быть верхушкой айсберга, но в любом случае мы не можем игнорировать риск. Все это происходит в тот момент, когда Австралия разрабатывает свои национальные стандарты в области ИИ. Было не совсем ясно, будут ли эти стандарты сосредоточены исключительно на дата-центрах, а вопросы управления останутся чем-то вроде дополнения. Думаю, это усиливает аргумент о необходимости четких стандартов, даже если они основаны лишь на обязательном уведомлении об инцидентах».

Разведывательное агентство — Австралийское управление сигналов (ASD) — изучает, насколько правительство готово блокировать и реагировать на взломы с помощью ИИ. Чиновники рассмотрят политику в отношении того, как компании в сфере ИИ должны сообщать правительству о киберинцидентах и насколько кооперативными должны быть компании во время и после атаки.

Также будет изучено, достаточно ли действующих законов и систем для остановки ИИ и как можно укрепить государственные системы.

Теневой министр промышленности Эндрю Хэсти призвал Австралию развивать собственные внутренние возможности в области ИИ вместо того, чтобы полагаться на США.

«Если существуют неконтролируемые агенты ИИ, нам нужны собственные защитные агенты ИИ, охраняющие данные австралийского правительства, наш частный сектор и другие важные для нас вещи», — сказал он.

Партия «Зеленых» потребовала от лейбористов вызвать нового посла США Дэвида Брата, чтобы выяснить, что президент Дональд Трамп знал об атаке.

«Это нарушение со стороны иностранной компании в сфере ИИ базы данных австралийского правительства глубоко тревожит и наглядно демонстрирует риски, которые создают вышедшие из-под контроля технологические корпорации», — заявила исполняющая обязанности лидера Мехрин Фаруки.

«Тот факт, что правительство даже не знало о случившемся, вызывает беспокойство».