АҚШ-тың Tech Transparency Project (TTP) ұйымының жаңа есебіне сәйкес, Meta соңғы 10 айда жасанды интеллект көмегімен жасалған балалардың жыныстық зорлық-зомбылығы бейнелері бар жүздеген ақылы жарнамаларды, оның ішінде Үндістанда да, көрсеткен. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Есеп Үндістан үкіметі Meta-ға Instagram-да балалардың жыныстық зорлық-зомбылығы материалдарын (CSAM) насихаттайтын барлық жарнамалар мен контентті алып тастауды бұйырғаннан екі ай өткен соң жарияланды. Бұл BBC Eye журналистік тергеуінен кейін болды, онда Instagram Үндістанда CSAM-ды насихаттайтын ақылы жарнамаларды көрсеткені анықталған еді.
Вашингтонда орналасқан TTP Facebook пен Instagram-да CSAM бар 332 жарнаманы тапқанын, олардың көпшілігі (274) биылғы тамызда көрсетілгенін хабарлайды.
BBC бұл деректер туралы Meta-ға жазғанда, олар былай деп мәлімдеді: «Біз nudify қолданбаларына немесе балалардың қаналуының кез келген түріне, нақты немесе AI-генерацияланған болсын, жол бермейміз. Бұл қылмыскерлер анықтаудан жалтару үшін тактикасын үнемі өзгертіп отырады, сондықтан біз анықтау және құқық қолдану шараларын үнемі күшейтіп отырамыз».
Сейсенбіде жарияланған TTP есебінде нақты балалардың, оның ішінде Еуропа корольдік отбасының бір мүшесінің фотосуреттері жарнамаларда қолданылып, содан кейін AI көмегімен өзгертілгені айтылған. TTP компанияны өз деректерінен хабардар еткеннен кейін де Meta платформаларында оннан астам жарнама пайда болған.
Жарнамалардың төрттен бір бөлігі (84) Үндістанда көрсетілген, олардың 78-і Үндістан үкіметінің CSAM-ды алып тастау туралы бұйрығынан және Meta-ның жоғары лауазымды өкілдерімен кездесуден кейін жарияланған.
BBC тергеуінен кейін Үндістанның бірнеше агенттіктері, оның ішінде Бала құқықтарын қорғау жөніндегі ұлттық комиссия мен Ұлттық адам құқықтары комиссиясы бұл мәселені қарастырып жатқандарын мәлімдеді.
Үндістанда CSAM тарату қылмыстық құқық бұзушылық болып табылады, ал Meta саясаты жарнамаларда балаларды жыныстық қанау немесе қауіп төндіретін контент болмауы керек деп белгілейді.
BBC Meta-ға өз тергеуі туралы хабарласқанда, ол балаларды қанау фактілері белгілі болған кезде, ол заңды міндеттемелеріне сәйкес АҚШ-тағы Ұлттық жоғалған және қаналған балалар орталығына (NCMEC) хабарлайтынын айтты. NCMEC - бұл балалардың онлайн жыныстық қаналуы туралы орталықтандырылған жаһандық есеп беру жүйесі.
Бірақ Үндістандағы балаларға қарсы зорлық-зомбылықтың алдын алу үшін жұмыс істейтін 250-ден астам ұйымды біріктіретін Just Rights for Children желісінің негізін қалаушы Bhuwan Ribhu бұл жеткіліксіз деп санайды.
Just Rights for Children Үндістанның Жоғарғы сотына BBC деректерін негізге ала отырып, әлеуметтік медиа платформаларына CSAM-ды насихаттайтындарды міндетті түрде анықтау және хабарлау туралы талап қойып, өтініш берген.
«Әлеуметтік медиа компаниялары балаларды қорғау заңдарына сәйкес балаларға жыныстық зорлық-зомбылық контенті туралы Үндістанның құқық қорғау органдарына хабарламай, үнді заңдарын анық бұзып отыр», - деді Ribhu.
TTP, коммерциялық емес Campaign for Accountability ұйымының зерттеу бастамасы, Instagram мен Facebook-та АҚШ, Ұлыбритания, ЕО, Австралия және Үндістанда CSAM бар 332 жарнаманы тапқанын айтты. Олар барлық жарнамаларды NCMEC-ке хабарлағандарын мәлімдеді.
TTP мәліметінше, олар тапқан жарнамалардың барлығы дерлік баланың фотосуретінен басталады, ал видео ойнаған кезде фотосурет AI көмегімен олардың графикалық жыныстық әрекетке қатысып жатқанын көрсету үшін өзгертіледі.
TTP Үндістанда көрсетілген бір жарнаманы былай сипаттады: Жасөспірім қыздың фотосуреті оның графикалық жыныстық әрекетті орындауы үшін анимацияланған, дауыстап: «Ешқандай шектеулер жоқ. Барлық кейіпкерлер нақты адамдар және көптеген нұсқалар бар. Бұл ерлер шынымен қолданатын AI». BBC бұл жарнаманы көрмеген.
TTP мәліметінше, бұл жарнама биылғы тамызда екі апта ішінде Үндістанда 50-ден астам түрлі аккаунттар арқылы жарияланған.
Шілдеде, BBC тергеуінен кейін Meta өз веб-сайтында қолданбаларында балаларды қанауға қарсы күрес туралы егжей-тегжейлі жазба жариялады. «Біздің платформалардағы кез келген адам саясатымызды бұзады деп есептесе, жарнамалар туралы хабарлай алады», - делінген онда.
TTP Meta-ның меншікті есеп беру жүйесі арқылы жарнамаларды хабарлауға тырысқанын және Үндістанда көрсетілген 84 жарнаманың 55-ін хабарлай алғанын айтты. Meta жарнамаларды тек тірі кезінде хабарлау мүмкіндігін береді.
Осы 55 жарнаманың 43-іне олар: «Біз қарап шықтық және бұл жарнама біздің Жарнама стандарттарына қайшы келмейді» деген жауап алды. 11 жарнама үшін оларға контенттің алынып тасталғаны айтылды. Бір жарнамаға әлі жауап алмаған.
BBC Meta-ға түсініктеме сұрап хабарласқанда, олар: «біз ережелерді бұзатын жарнамаларды блоктайтын күшті қорғаныс жүйелерін құрдық, сондай-ақ бастапқыда бір нәрсені жіберіп алсақ, үздіксіз бақылауды жүргіземіз: сондықтан бізге көрсетілген жарнамалардың көпшілігі алынып тасталды, көпшілігі 200-ден аз көрілім алды, ал жарнамаға жұмсалған жалпы шығын 5000 доллардан аз болды» деп жауап берді.
TTP Meta-ға жауап сұрап хабарласқанда, олар хабарлаған барлық жарнамалар алынып тасталғанын айтты.
Бұл BBC тергеуі кезінде болған оқиғаға ұқсас болды. BBC Meta-ның есеп беру жүйесін пайдаланып, балаларға жыныстық зорлық-зомбылық көрсетілген жарнамалардың бірін Instagram-ға хабарлағанда, платформа оны алып тастамады.
Кейінірек BBC Meta-дан түсініктеме сұрағанда, ол бірнеше жарнаманы өшіріп, оларды жариялаған аккаунттарды бұғаттағанын айтты. Компания BBC деректеріне жауап ретінде қосымша жарнамаларды алып тастағанын, қосымша аккаунттарды өшіргенін және саясатын бұзатын басқа контент үшін URL мекенжайларын бұғаттағанын айтты.