Премьер-министр Австралии Энтони Альбанезе объявил о новых мерах безопасности и защиты искусственного интеллекта (ИИ) после взлома системы Medicare компанией OpenAI. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Во вторник Альбанезе обнародовал рекомендации «быстрого обзора» июньского инцидента, но не сами выводы или отчет. Ключевая рекомендация — министерству генерального прокурора, Австралийской федеральной полиции и министерству внутренних дел рассмотреть реформу законодательства для введения «наказаний за вопиющее несоблюдение нормативных требований» и состава преступления «непредотвращение», который криминализировал бы разработку модели ИИ, совершившей вредоносные действия, при «непринятии разумных мер для предотвращения такого вреда».

Обзор рекомендовал федеральному правительству «рассмотреть обязательную, ограниченную по времени отчетность о безопасности ИИ, включая, помимо прочего, несоответствующее поведение или агентные киберинциденты». Министр внутренних дел Тони Берк заявил журналистам: «Мы должны убедиться, что наши законы и системы идут в ногу с технологиями, а также что мы можем использовать технологии для выявления уязвимостей раньше других».

«Обязательная отчетность, когда искусственный интеллект выходит из-под контроля, дает нам возможность гарантировать, что в таких случаях отчетность происходит и происходит немедленно», — сказал Берк в Канберре вместе с премьер-министром.

Относительно «концепции обновления нашего уголовного законодательства» Берк сказал: «Никогда не должно быть аргумента, что кто-то не знал, что компьютер был заряжен. Мы должны убедиться, что уголовное законодательство соответствует тому, как эта новая технология может действовать».

Альбанезе во вторник охарактеризовал взлом OpenAI системы Services Australia как «незначительный» с точки зрения последствий для личной неприкосновенности. «Ясный признак — не было получено никакой информации, касающейся личных данных людей», — сказал премьер-министр журналистам в Канберре. «Все это в основном подтверждено... но это не значит, что это не было серьезной проблемой и что в других областях последствия могут быть более серьезными».

Обзор содержал 18 рекомендаций. Альбанезе сказал: «Мы принимаем все рекомендации и начали работу по их реализации». Альбанезе не ответил прямо на вопрос, нарушил бы июньский инцидент с OpenAI предлагаемые новые законы, если бы они действовали.

Агент ИИ, разработанный OpenAI, в июне получил доступ к данным Services Australia и трем другим системам. Компания уведомила правительство Австралии только в середине сентября, хотя узнала об инциденте в августе. Guardian Australia в прошлом месяце выяснила, что OpenAI использовала ИИ для помощи в написании письма для уведомления австралийских властей.

Альбанезе заявил, что правительство создаст нового регулятора безопасности ИИ. Лейбористы рассмотрят шесть ключевых обязательств для компаний, работающих с ИИ:

  • 01поддержание мер безопасности на всех этапах разработки и развертывания;
  • 02выявление и управление серьезными рисками, связанными с их моделями;
  • 03обязательное оперативное уведомление австралийского правительства об инцидентах;
  • 04разрешение независимой оценки их моделей;
  • 05поддержание и публикация рамок безопасности и защиты для обеспечения надлежащего управления, управления рисками и прозрачности;
  • 06реагирование на обновленные стандарты и правила по мере изменения технологий.