Федеральное правительство Австралии «идёт во сне к новому скандалу в духе robodebt» из-за отсутствия прозрачности и законодательства вокруг использования алгоритмов и искусственного интеллекта при принятии решений, заявила исполнительный директор независимого аналитического центра Centre for Public Integrity. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Доктор Кэтрин Уильямс представила в четверг доклад центра «Computer Says No», в котором рассматривается использование правительством инструментов автоматизированного принятия решений (АПР) и содержится призыв к срочной реформе.

Центр обеспокоен тем, что австралийцы могут не знать, применялось ли АПР в решениях, затрагивающих их.

Среди восьми рекомендаций доклада — обязательный аудит и публичный реестр всех случаев использования АПР, а также создание независимого надзорного органа с полномочиями мониторить, проверять и расследовать действия правительства в этой сфере.

Уильямс сказала, что доклад был подготовлен на фоне растущей обеспокоенности центра использованием алгоритма в рамках интегрированного инструмента оценки (ИИО) правительства, который применяется для оценки уровня домашней поддержки, положенной пожилым австралийцам.

Было установлено, что ИИО систематически занижает потребности людей и их права на пакеты услуг, при этом правительство запретило оценщикам ухода за пожилыми отменять ошибочные алгоритмические решения.

«Мы наблюдали за появлением доказательств в отношении алгоритмического инструмента для ухода за пожилыми и всё больше беспокоились из-за явного отсутствия надлежащей и надёжной основы для регулирования использования АПР правительством», — сказала Уильямс.

«Такое ощущение, что мы идём во сне к новому сценарию robodebt, и поэтому мы решили представить эту работу сейчас, надеясь также, что она поможет informировать любую основу, которую правительство предложит в отношении АПР».

Департамент генерального прокурора разрабатывает основу для АПР, публичные консультации завершились в январе 2025 года.

Генеральный прокурор Мишель Роуленд не ответила на вопросы о том, когда проект основы может быть завершён и обнародован, но заявила, что правительство «привержено обеспечению безопасного и ответственного использования АПР для предоставления своевременных и эффективных услуг австралийскому сообществу».

По её словам, основа будет реализовывать рекомендации королевской комиссии по robodebt.

Доклад омбудсмена Содружества, опубликованный в октябре, показал, что рекомендации королевской комиссии по robodebt о прозрачности были проигнорированы правительством при разработке и внедрении ИИО.

Роуленд не ответила на вопросы о том, будет ли какая-либо основа для АПР иметь обратную силу, но сказала, что она «будет разработана для повышения точности и согласованности административных решений, внедрения надёжных гарантий, включая обязательства по прозрачности, и обеспечения того, чтобы АПР использовался законно, ответственно и с надлежащим человеческим надзором».

По её словам, основа также повысит производительность и поможет предоставлять более быстрые и надёжные услуги.

В сентябре независимый депутат Кейт Чейни внесла законопроект частного члена парламента о создании первой законодательно закреплённой обязательной основы для использования АПР правительством.

Она сказала, что процесс консультаций департамента генерального прокурора по основе для АПР «завершился почти два года назад».

«Я встречалась с генеральным прокурором по этому поводу, и они говорят: «Мы работаем над этим». Я думаю, очень важно продолжать давление, чтобы это не было отброшено, потому что это слишком сложно».

Чейни сказала, что правительственные департаменты принимают решения об использовании АПР с малой согласованностью или прозрачностью.

«Правительство хочет найти экономию средств в государственной службе, и автоматизация принятия решений может быть способом достижения этой экономии», — сказала она.

«Но я думаю, что доверие к правительству низкое. Необходима прозрачность в отношении того, когда решения автоматизированы и когда их автоматизация неуместна, чтобы люди могли ясно понимать, почему было принято решение, и чётко знать, каковы пути его пересмотра.

«Это то, чего люди ожидают от правительства».