Аустралияның Достастық омбудсмені Иэн Андерсон федералды үкіметтің егде жастағы аустралиялықтарға тиесілі күтім деңгейін бағалау үшін пайдаланатын алгоритмді «негізсіз, әділетсіз және адам бақылауынсыз» деп сынға алды. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.

Тергеу нәтижесінде рободет корольдік комиссиясының ашықтық жөніндегі ұсынымдары еленбегені анықталды. Омбудсменнің 104 беттен тұратын есебінде заңнамаға өзгерістер енгізіп, егде жастағы адамдарға күтім көрсету жөніндегі бағалаушыларға клиникалық тұрғыдан қате алгоритмдік шешімдерді өз бетінше өзгертуге рұқсат беру қажеттігі айтылған.

«Заң бойынша бұл автоматтандырылған шешімдерді клиникалық тұрғыдан орынсыз болса да, өзгертуге немесе қайта қарауға болмайды», — делінген есепте. «Алгоритмнің кіріс деректерін қалай қорытындыға айналдыратынын түсіндіретін қоғамдық ақпарат жоқ. Осысыз IAT — технологиялық қара жәшік».

Guardian Australia басылымының хабарлауынша, егде жастағы адамдар үйдегі қолдау қажеттіліктері «адамгершілікке жат» алгоритм арқылы бағаланғаннан кейін күйзеліске ұшырап, тиісті күтімсіз қалып отырған. Бұл үкіметтің міндетті Интеграцияланған бағалау құралының (IAT) бөлігі ретінде енгізілген.

Егде жастағы адамдарға күтім көрсету жөніндегі бағалаушыларға IAT ұсынған қаржыландыру пакетінің ұсынымын өзгертуге тыйым салынған, тіпті шешім қате болса да.

«Бұл автоматтандырылған шешімдер клиникалық тұрғыдан орынсыз болса да, заң бойынша оларды өзгертуге болмайды», — деп атап өтілген омбудсмен есебінде. «Алгоритмнің кіріс деректерін қалай қорытындыға айналдыратынын мағыналы түрде түсіндіретін қоғамдық ақпарат жоқ. Осысыз IAT — технологиялық қара жәшік».

Бұл IAT және оның алгоритмі «әділ және дәйекті бағалау жүйесін басқаруға деген қоғамдық сенімді әлсірету әлеуетіне ғана ие емес» екенін көрсетеді, — делінген есепте. «Керісінше, біздің ойымызша, парасатты адам жүйенің шын мәнінде әділ және дәйекті екеніне сенімсіздік танытады».

Guardian Australia басылымы IAT әзірлеуге қатысқандар үкіметтің 2025 жылдың қарашасында өзгерістер енгізілгенге дейін оған алгоритм қосылатынын білмегенін хабарлады. Ақпаратқа қол жеткізу бостандығы бойынша жарияланған құжаттар департаменттің дүрбелеңін, майдандағы бағалаушылардың ауыр клиникалық күйзелісін және алгоритм іске қосылар алдындағы сағаттарда заңнама адамның араласуына жол бермейтінін түсінгеннен кейінгі жасырын IT амалдарын көрсетеді.

«Департаменттің адамдарға бұл жүйенің белгілі бір тәртіппен жұмыс істейтінін айтып, оның нұсқаларын көрсетіп, кейін оны өзгертуі қатты алаңдатады», — деді Андерсон Guardian Australia басылымына.

Есепте: «Департаменттің қоғамға ұсынған ақпараты бірнеше жыл бойы жүргізілген негізгі сынақтар мен консультациялар IAT және оның қазіргі нысандағы шешім қабылдау жүйесін тікелей қолдағанын көрсетеді, бірақ бұл дұрыс емес», — делінген. «Бұл сынақтар мен консультациялар IAT-тың бұрынғы нұсқаларына және бұрынғы заңнамаға қатысты болды. Мағыналы консультация болған жоқ».

Тергеу алгоритм енгізілгеннен бері бақылаудың жеткіліксіздігін анықтады. Бағалаушылардың біліктілігі мен дағдылары IAT үшін өте маңызды, бірақ Омбудсмен департаменттің келісімшарттық сапа бақылауын қамтамасыз етпегенін немесе бағалаушылардың міндетті клиникалық біліктілігінің бар-жоғын тексермегенін анықтады.

Омбудсмен алгоритм енгізілгенге дейін аға қызметкерлердің қате шешімдерді қайта қарау жолдарының жоқтығы туралы алаңдаушылық білдіргенін анықтады. Бір электрондық хатта: «Мен қазіргі жүйеміз осы талаптардың біріншісін (зардап шеккендердің қайта қарауға жүгінуі үшін нақты жол болуы керек) қанағаттандырмайтынына алаңдаймын, өйткені қайта қарау жолдары алгоритм нәтижелерін растауға ғана мүмкіндік береді» делінген.

Андерсон IAT-тың үйдегі қолдау пакеттері үшін жұмысы туралы БАҚ мен қоғамнан бірқатар алаңдаушылықтар түскенін, бұл сәуірде тергеуді бастауға түрткі болғанын, әсіресе IAT алгоритмінің шешім қабылдаудағы ашықтығының жеткіліксіздігін атап өтті.

«Департамент рободет схемасы бойынша корольдік комиссияның үкіметтің автоматтандырылған шешім қабылдауының ашықтығы туралы ұсынымдарын орындамады», — делінген есепте.

Есепте қажеттіліктерді бағалау процесіне қатысты заңнаманы және алгоритмнің негізінде жатқан ережелерді жан-жақты қайта қарауға шақырылады.

«Рободет корольдік комиссиясы үкімет автоматтандырылған шешім қабылдауды немесе жасанды интеллектті пайдаланған кезде адамдарға оларға елеулі әсер ететін шешімдердің қалай қабылданатынын түсінуі үшін өте ашық болуы керек деді», — деді ол. «Біздің ойымызша, департамент бағалау провайдерлеріне бақылауды әлдеқайда тиімді жүргізуі керек, өйткені бағалау провайдерлері алгоритмге беретін кіріс деректері оның нәтижесін анықтауда өте маңызды».