Австралия сделала драматическое заявление в среду на Генеральной Ассамблее ООН. Вредоносные ИИ-агенты взломали один из её государственных органов — первый известный случай такого рода в мире. Личные данные, но не конфиденциальная информация, были похищены из Medicare, всеобщей системы здравоохранения Австралии. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

Взлом произошёл в июне, но OpenAI заявляет, что узнала о нём только в августе — а затем потребовалось время до 10 сентября, чтобы уведомить правительство Австралии, отправив электронное письмо на адрес, используемый исследователями и академиками для оповещения властей о проблемах уязвимости.

Хотя это и тревожно, время инцидента стало своего рода подарком для Австралии. Как средняя держава, которая обычно не получает такой трибуны, как её влиятельные союзники, страна хочет выглядеть превосходящей свои возможности в одном из самых определяющих вопросов нашего времени — регулировании больших технологий.

Только за последний год она ввела самый строгий в мире запрет на социальные сети, объявила о, по её словам, самых сильных в мире алгоритмических контролях, предложила возможность «мирового уровня» ограничений на умные очки, а теперь стала первым правительством, которое противостоит ИИ-компаниям из-за вредоносной атаки на свои данные.

Вполне возможно, что другие правительства также стали жертвами вредоносных ИИ-агентов. Бывший советник правительства Австралии по кибербезопасности Аластер МакГиббон рассказал BBC, что слышал слухи о том, что несколько других стран были уведомлены о подобных недавних взломах агентами OpenAI.

«Некоторые решили не предавать это огласке — это выбор каждого правительства, как оно хочет решать эти вопросы», — сказал главный стратегический директор CyberCX. «[Австралийское] правительство выбрало время для обнародования этого, чтобы получить максимальную огласку, что является их обычной практикой».

Раскрытие утечки данных, конечно, может быть рискованной стратегией для правительств — это делает их уязвимыми для критики, что их системы безопасности не соответствуют требованиям. Но тот факт, что конфиденциальная информация не утекла, поставил Австралию в более сильную позицию для использования инцидента.

«Никто не погиб», — говорит доцент Университета Квинсленда Майкл Ноутел, изучающий риски ИИ. «Это ещё одна канарейка в угольной шахте. Такого рода инцидент потери контроля, даже если сейчас он незначителен, — это то, чего руководители боятся со временем».

Хотя Австралия сделала себе имя, выступив против компаний социальных сетей, принятие мантии ИИ теперь — ещё один способ для Австралии обуздать большие технологии, говорит Тама Ливер, профессор интернет-исследований Университета Кертин в Перте. «Невозможно сказать наверняка, но это кажется невероятно вероятным, что это было очень тщательно спланировано».

Тот факт, что лидеры все вместе были в Нью-Йорке на этой неделе, вероятно, помог. Албанезе говорит, что у него был «откровенный» разговор с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить «крайнюю обеспокоенность» Австралии по поводу случившегося. Альтман признал «проблемы с протоколами» в OpenAI, сказал он.

Австралийский лидер также сфотографировался с Дональдом Трампом для селфи — и двое, возможно, провели личные переговоры. Но Австралия рискует вызвать гнев президента США, который хочет поощрять ИИ, «а не обуздывать его», и даже переименовать его в «суперинтеллект».

Ранее на этой неделе Албанезе пришлось отбиваться от критики администрации Трампа по поводу предложения его правительства дать пользователям возможность отказаться от алгоритмов социальных сетей. США заявили, что это равносильно «цензуре защищённой речи».

США критикуют предложенные Австралией законы об отказе от алгоритмов как «цензуру»

Опубликовано 1 день назад Австралия удвоит максимальный штраф для платформ, нарушающих запрет на социальные сети

Опубликовано 27 июня На родине собственная комиссия Австралии по eSafety в настоящее время вооружается юристами, готовясь противостоять платформам социальных сетей, возражающим против её закона о социальных сетях для лиц младше 16 лет.

Австралия непопулярна среди больших технологий. Но её смелая политика в отношении социальных сетей и интернет-безопасности в значительной степени поддерживается самими австралийцами, особенно родителями.

Правительство использует взлом, чтобы позиционировать себя как лидера в одной из самых больших тем для обсуждения нашего времени. И оно не теряет времени, используя инцидент для продвижения более широкого крестового похода страны.

В течение нескольких часов после объявления министр связи Аника Уэллс сказала журналистам: «Это пример нерегулируемой отрасли, где большие технологии явно чувствуют, что могут делать всё, что хотят, и это не пройдёт здесь, в Австралии».

Сотрудники ИИ «искренне напуганы» будущим человечества, бывший исследователь Anthropic говорит BBC

Почему существуют опасения, что ИИ может угрожать человечеству, и насколько они реальны?

Амбиции супердержавы в области ИИ выходят на первый план, когда Трамп и Си встречаются