В отчете, поддерживающем запрет на соцсети для подростков в Австралии, обнаружены возможные ИИ-галлюцинации, как сообщили на слушаниях в Сенате. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Анализ Guardian Australia показал, что один раздел отчета содержит ссылки на несуществующие академические статьи, однако авторы отрицают, что ссылки были выдуманы ИИ.

Авторы отчета, тестировавшего технологию, лежащую в основе запрета на соцсети в Австралии, признали, что ChatGPT использовался при редактировании, но отрицали, что ряд ошибок в цитировании в отчете связан с ИИ-галлюцинациями.

Испытание технологии подтверждения возраста стоимостью $3,48 млн, проведенное в прошлом году британской Age Check Certification Scheme (ACCS), тестировало различные типы технологий, которые могли бы использоваться социальными платформами в рамках австралийского запрета на соцсети для лиц младше 16 лет.

Министр связи Аника Уэллс заявила, что отчет демонстрирует «множество эффективных вариантов» для проверки возраста, и это проложило путь к введению запрета в декабре прошлого года.

Большая часть отчета основана на тестах, которые авторы проводили с различными существующими технологиями проверки возраста, но одна глава посвящена «новым технологиям» и ссылается на ряд журнальных статей о потенциальных новых способах проверки возраста.

Продолжающееся сенатское расследование, направленное на дальнейшее усиление закона о запрете соцсетей, получило представление, в котором указывалось как минимум на две ошибки в цитировании в отчете. «Цитаты ... похоже, являются ИИ-галлюцинациями, а не основаны на реальных источниках», - говорится в нем.

Когда Guardian Australia в этом месяце спросила об этом, представитель ACCS сначала отрицал использование ИИ в отчете, но позже признал, что ИИ использовался для более лаконичного переписывания абзацев.

«Мы не использовали ИИ при создании отчета или цитируемых материалов ... Каждая из них была проверена как подлинная ссылка и отчет, и что они соответствуют конкретному вопросу, на который ссылаются», - сказали они.

Однако собственный анализ Guardian Australia выявил шесть ссылок в том же разделе, содержащих ошибки.

Ошибки включают: цифровые идентификаторы объектов (DOI - уникальные комбинации букв и цифр, связанные с конкретными академическими статьями), ведущие на несуществующие статьи; DOI, указывающие на неправильные статьи; комбинации имени автора, журнала и года публикации, не соответствующие известным ссылкам; и DOI-ссылки на статьи, которые не говорили того, что предполагалось в отчете.

Позже представитель предоставил разъяснения и новые ссылки на исследования, на которые опиралась ACCS, но и этот ответ содержал ошибки.

Список журнальных статей, предназначенных для исправления ошибок в отчете, включал годы, авторов и названия журналов, не соответствующие оригинальным цитатам в отчете.

Одна статья, на которую ссылалась ACCS, по-видимому, была доступна в марте 2025 года. Однако один из ведущих авторов этого исследования подтвердил Guardian, что их статья не была публично доступна до ее публикации в июне 2025 года. Они также подтвердили, что человек, первоначально указанный ACCS как ведущий автор статьи, «Джамиль», никогда не был в статье, и что отчет ACCS неточно резюмировал их статью.

Представитель предоставил дополнительные разъяснения относительно другой ссылки, которую не удалось найти в указанном журнале - «Weber et al. 2011» - заявив, что она цитируется в исследовании Университета Монаша, которое они предоставили Guardian. Однако в документе Монаша, присланном ACCS, не было ссылки на Weber.

Представитель признал использование ИИ только после того, как Guardian обнаружил четыре ссылки в частях E и K отчета, содержащие метаданные, указывающие на то, что источником ссылки был ChatGPT.

Они утверждали, что, включив метаданные ChatGPT в ссылки, организация раскрыла его использование, и, поскольку ссылки были правильными, они не видели в этом проблемы.

Они сказали, что ИИ использовался для более лаконичного переписывания некоторых абзацев, но не использовался для проведения исследований или создания отчета.

«Все ссылки были проверены и подтверждены, и, хотя я приношу извинения, если есть непреднамеренная ошибка, все это было сделано путем проверки человеком».

Федеральное правительство ранее негативно относилось к использованию ИИ подрядчиками в отчетах для правительства. Deloitte в прошлом году вернула часть своего контракта с правительством на сумму $440,000 после обнаружения ошибок, и консалтинговая фирма признала использование ИИ.

Вопросы в офис Уэллс были перенаправлены в ее департамент.

«Департамент изучает поднятые ниже вопросы и свяжется с ACCS по мере необходимости», - заявил представитель департамента в прошлую пятницу.

На слушаниях в Сенате в пятницу официальные лица департамента заявили, что встретились с ACCS, которая утверждала, что ошибки связаны с разрывом ссылок, которые ранее работали. Чиновники не проверили это независимо, заявив, что «очень сложно» вернуться и проверить.

Они сказали, что это «несколько ошибок» в 26 страницах цитат для 1000-страничного отчета.

«[ACCS] заверила нас, что все ссылки были проверены на момент публикации документа, и все они тогда работали», - сказала первый заместитель секретаря департамента Сара Ванденбрук. «Так что, возможно, что-то изменилось за это время. Они также заверили нас, что хотя некоторые ссылки могли быть сломаны, исходные документы...»

Слушания в Сенате продолжаются.