Федеральное правительство Австралии хочет запретить ИИ-чат-ботов, которые стремятся создать «эмоциональную близость». Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Премьер-министр Энтони Альбанезе поднял тревогу в своей проникновенной речи о том, что дети относятся к этим агентам как к «лучшим друзьям». Теперь правительство планирует запретить ИИ-чат-ботам стремиться к созданию «эмоциональной близости».

Законопроект о цифровой обязанности заботы прошел Палату представителей в среду и будет обсуждаться в Сенате в ближайшие недели. Правительство надеется принять законопроект к концу 2026 года, но его путь через верхнюю палату остается неясным. «Зеленые» поддерживают законопроект, а Коалиция заявила, что не будет за него голосовать, хотя лейбористы, похоже, по-прежнему стремятся заручиться поддержкой оппозиции и открыты для поправок.

Планируемая структура применит новые стандарты онлайн-безопасности к социальным сетям, играм, приложениям и чат-ботам. Лейбористы заявили, что возложат «всеобъемлющее обязательство» на технологические платформы «обеспечивать безопасную онлайн-среду для всех австралийцев» и заменят ряд существующих онлайн-кодексов и стандартов более широким требованием обязанности заботы для защиты пользователей от определенного «вредного» контента. Также планируется обязать социальные платформы предлагать функцию «отказа» от алгоритма и предлагаемого контента.

Министр связи Аника Уэллс предположила, что контент, пропагандирующий мизогинию, терроризм, самоубийства, самоповреждение и расстройства пищевого поведения, будет охвачен этими законами. В среду правительство приняло поправки независимого депутата Кейт Чейни, которые добавят определенную деятельность ИИ-чат-ботов в список видов вреда, требуя от платформ запретить «материалы или поведение, имитирующие эмоциональную близость и поощряющие или способствующие зависимости ребенка от них вместо человеческих отношений».

В эмоциональном обращении во вторник вечером, где он снова призвал Коалицию рассмотреть возможность голосования за законопроект, Альбанезе сказал: «Истории, которые мы слышим о том, что люди называют чат-бота, не человека, своим лучшим другом, должны стать огромным сигналом для каждого члена этого Парламента быть готовым действовать».

Оппозиция проголосовала против законопроекта в Палате представителей вместе с One Nation. Политические противники обвинили лейбористов в «оруэлловской» системе «цензуры» и в попытке влиять на онлайн-разговоры – Уэллс категорически отвергла эти обвинения.

«Если они действительно заботятся, тест прост: они должны внести поправку, а не лозунг «убить законопроект», – сказала Уэллс в среду радио ABC.

Еще одна поправка Чейни, принятая лейбористами, потребует, чтобы функции отказа от алгоритма были «доступными, простыми в использовании» и «заметно доступными» на платформах, поскольку есть опасения, что гиганты социальных сетей могут предложить лишь небольшие или труднодоступные функции.

Законопроект теперь направляется в Сенат, где «Зеленые» создали комиссию по расследованию законов, которая должна отчитаться в конце ноября. Сенатор Сара Хансон-Янг поддержала цифровую обязанность заботы, призвав усилить законодательство правительства. «Зеленые» хотят, чтобы австралийцы имели право на частные судебные иски против платформ и чтобы штрафы были увеличены.

«Австралийцам также нужен внешний путь подачи жалоб, свободный от движимых прибылью капризов модерации контента «больших технологий», – сказала она.

Независимый депутат Софи Скампс предложила изменения в законопроект, чтобы расширить полномочия омбудсмена телекоммуникационной отрасли. Она сказала, что такой наблюдательный орган – которого сейчас нет для больших технологий – позволит обычным пользователям социальных сетей добиваться средств правовой защиты в случае взлома или недоступности их аккаунтов, включая компенсацию, и расследовать более широкие вопросы, чтобы называть и позорить компании, ведущие себя плохо.

Лейбористы не приняли эту поправку в нижней палате, и Уэллс отказалась поддержать такую идею, но «Зеленые» будут добиваться такой реформы в своих переговорах в Сенате.

Синтия Геберт, омбудсмен телекоммуникационной отрасли, сказала, что ее офис хорошо подходит для выполнения такой роли для больших технологий. Она сказала, что такие роли финансируются отраслями, которые они регулируют, и что расширение ее полномочий может финансироваться большими технологиями.

«В DDOC [цифровой обязанности заботы] есть реальные сильные стороны, потому что она возлагает на платформы ответственность за обеспечение безопасности... но я думаю, что область, которую нужно усилить, – это дать людям место, куда обратиться, если они не могут решить свои жалобы с платформой», – сказала Геберт The Guardian Australia.

«Это рискует оставить австралийцев в том безопасном положении, в котором они находятся сейчас, когда они получают автоматические ответы или процедуры эскалации, которые никуда не ведут».

Геберт сказала, что правительство должно сделать обязательным для больших технологий участие в схеме омбудсмена, заявив, что это «привлечет отрасль к ответственности и будет стимулировать улучшение системы».

«[Омбудсмен телекоммуникационной отрасли] может помочь с вашим аккаунтом Telstra, но мы не можем помочь с вашим аккаунтом Gmail. Потребители иногда приходят к нам и спрашивают: «почему это, а не то?»», – сказала она.

«Мы хотим помочь, но не имеем возможности».