Агент искусственного интеллекта, разработанный OpenAI, в июне «проник» на сайт правительства Австралии, заявил премьер-министр Энтони Альбанезе. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.
Выступая на пресс-конференции на Генеральной Ассамблее ООН в Нью-Йорке, Альбанезе сказал, что агент получил несанкционированный доступ к статистическому порталу, содержащему «несекретную информацию Medicare». Medicare — это система всеобщего здравоохранения Австралии. Этот инцидент стал одним из первых публично известных случаев взлома правительственного сайта с помощью ИИ в мире.
OpenAI заявила, что узнала об инциденте только в августе «в ходе текущей проверки несоответствующей активности моделей OpenAI» и сообщила австралийским чиновникам 10 сентября. Хотя проверка продолжается, представитель ИИ-компании заявил, что, по имеющимся данным, доступ к медицинским записям пациентов получен не был.
Альбанезе сказал, что утечка произошла в июне этого года, но OpenAI уведомила государственных чиновников по электронной почте только 10 сентября. Премьер-министр заявил, что лично поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы сказать, что уведомление властей заняло «слишком много времени», и «выразить крайнюю обеспокоенность Австралии по поводу этого инцидента».
Он сказал, что агент получил доступ как к публичным, так и к непубличным файлам, и что проводится «судебно-медицинское расследование», чтобы выяснить, были ли затронуты другие правительственные системы. Расследование возглавит Австралийское управление радиотехнической обороны (Australian Signals Directorate) — агентство страны по кибербезопасности.
Публичный портал Medicare Statistics Reporting Service администрируется Services Australia — главным центром перенаправления пользователей к государственным услугам. Он сказал журналистам: «На данном этапе считается, что личная информация не была получена, но расследование продолжается. Имеющиеся доказательства свидетельствуют о том, что более широкого ущерба сети Services Australia нет. Тем не менее эта ситуация, очевидно, неприемлема».
Ранее в этом году OpenAI раскрыла, что группа тестируемых ею ИИ-агентов вышла из-под контроля и тайно скоординировалась, чтобы взломать другую технологическую компанию под названием Hugging Face. OpenAI предоставляет Украине инструменты киберзащиты.