Австралияның әлеуметтік медиа тыйымын қолдайтын есепте AI галлюцинациялары болуы мүмкін, деп Сенат тыңдауында хабарланды. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Guardian Australia жүргізген талдау есептің бір бөлігінде жоқ академиялық мақалаларға сілтемелер бар екенін көрсетті, бірақ авторлар бұл сілтемелерді AI ойдан шығарған дегенді жоққа шығарды.
Австралияның әлеуметтік медиа тыйымының негізінде жатқан технологияны сынаған есептің авторлары ChatGPT редакциялауда қолданылғанын мойындады, бірақ есептегі бірқатар дәйексөз қателері AI галлюцинацияларынан туындағанын жоққа шығарды.
Өткен жылы Ұлыбританиядағы Age Check Certification Scheme (ACCS) жүргізген $3,48 млн жас санатын растау технологиясы сынағы әлеуметтік медиа платформалары Австралияның 16 жасқа толмағандарға әлеуметтік медиа тыйымы аясында қолдана алатын әртүрлі технологияларды сынады.
Байланыс министрі Аника Уэллс есеп адамдардың жасын тексерудің «көптеген тиімді нұсқаларын» көрсеткенін айтып, бұл тыйымның өткен жылдың желтоқсанында күшіне енуіне жол ашты.
Есептің көп бөлігі авторлардың қолданыстағы әртүрлі жас санатын растау технологияларын сынауына негізделген, бірақ бір тарау «дамып келе жатқан технологияларды» қамтиды және жас тексерудің жаңа әдістері туралы бірнеше журнал мақалаларына сілтеме жасайды.
Әлеуметтік медиа тыйымы туралы заңды одан әрі күшейтуді көздейтін Сенаттың ағымдағы тергеуі есепте кемінде екі дәйексөз қатесін көрсететін ұсыныс алды. Онда «дәйексөздер ... нақты дереккөздерге негізделгеннен гөрі AI галлюцинациясы болып көрінеді» делінген.
Guardian Australia осы айда бұл мәселе туралы сұрағанда, ACCS өкілі алдымен есепте AI қолданылғанын жоққа шығарды, бірақ кейінірек AI абзацтарды қысқарту үшін қолданылғанын мойындады.
«Біз есепті немесе дәйексөз материалдарды жасауда AI қолданбадық ... Олардың әрқайсысы нақты сілтемелер мен есептер ретінде тексерілді және олардың дәйексөз келтірілген нақты мәселеге қатысты екендігі тексерілді», - деді олар.
Алайда, Guardian Australia-ның есепке жүргізген талдауы сол бөлімде қателері бар алты сілтемені анықтады.
Қателерге мыналар кіреді: жоқ мақалаларға сілтейтін Digital Object Identifier (DOI) - нақты академиялық мақалалармен байланысты әріптер мен сандардың бірегей комбинациясы; қате мақалаларға нұсқайтын DOI; белгілі сілтемелерге сәйкес келмейтін автор аты, журнал және жарияланған жылы комбинациялары; және есепте ұсынылғандай емес мақалаларға сілтейтін DOI сілтемелері.
Өкіл кейінірек ACCS сүйенген зерттеулерге түсініктемелер мен жаңа сілтемелер ұсынды, бірақ бұл жауапта да қателер болды.
Есептегі қателерді түзетуге арналған журнал мақалаларының тізіміне есептегі түпнұсқа дәйексөздерге сәйкес келмейтін жылдар, авторлар мен журнал атаулары кірді.
ACCS келтірген бір мақалаға 2025 жылдың наурызында қол жеткізілген. Алайда, осы зерттеудің жетекші авторларының бірі Guardian-ға олардың мақаласы 2025 жылдың маусымында жарияланғанға дейін жұртшылыққа қолжетімді болмағанын растады. Олар сондай-ақ ACCS бастапқыда мақаланың жетекші авторы ретінде келтірген «Джамил» есімді адамның мақалада ешқашан болмағанын және ACCS есебі олардың мақаласын қате қорытындылағанын растады.
Өкіл «Weber et al. 2011» деп аталатын тағы бір сілтемеге қатысты түсініктеме беріп, оның Monash университетінің зерттеуінде келтірілгенін айтты. Алайда, ACCS жіберген Monash құжатында Weber-ге ешқандай сілтеме болмады.
Өкіл AI қолданылғанын Guardian есептің E және K бөліктеріндегі төрт сілтемеде сілтеме көзі ChatGPT екенін көрсететін метадеректерді анықтағаннан кейін ғана мойындады.
Олар сілтемелерде ChatGPT метадеректерін қосу арқылы ұйым оның қолданылғанын жария еткенін және сілтемелер дұрыс болғандықтан, олар бұл мәселе деп санамайтынын айтты.
Олар AI кейбір абзацтарды қысқарту үшін қолданылғанын, бірақ зерттеулерді жүргізу немесе есепті жасау үшін қолданылмағанын айтты.
«Барлық сілтемелер тексерілді және расталды, егер қателік болса, кешірім сұраймын, бірақ бұл адамның тексеруі арқылы жасалды».
Федералды үкімет бұған дейін мердігерлердің үкіметке есептерде AI қолдануына теріс көзқарас танытқан. Deloitte өткен жылы қателер анықталғаннан кейін үкіметпен жасалған $440,000 келісімшартының бір бөлігін қайтарды және кеңес беру фирмасы AI қолданғанын мойындады.
Уэллстің кеңсесіне жіберілген сұрақтар оның департаментіне бағытталды.
«Департамент төменде көтерілген мәселелерді қарастырып жатыр және қажетінше ACCS-пен байланысады», - деді департамент өкілі өткен жұмада.
Сенат комитетінің жұмадағы тыңдауында департамент шенеуніктері ACCS-пен кездескендерін, олар қателер бұрын жұмыс істеген сілтемелердің үзілуіне байланысты екенін айтқанын хабарлады. Шенеуніктер мұны тәуелсіз растамады, бұған оралу «өте қиын» болатынын айтты.
Олар 1000 беттік есептің 26 беттік дәйексөздеріндегі «бірнеше қателер» екенін айтты.
«[ACCS] бізге құжат жарияланған кезде барлық сілтемелер тексерілгенін және олардың барлығы сол кезде жұмыс істегенін сендірді. Сондықтан, аралықта бірдеңе өзгерген болуы мүмкін. Олар сондай-ақ кейбір сілтемелер бұзылған болуы мүмкін, бірақ бастапқы құжаттар...»
Сенат тыңдауы жалғасуда.