Қытай билігі Нөл тайфунының салдарымен күресіп жатқанда, олардың тағы бір қиындыққа тап болатыны анық: жасанды интеллект (AI) көмегімен жасалған қауіпті жалған бейнелер. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Соңғы айлардағы қатты дауылдар мен су тасқыны салдарынан әлеуметтік желілерде жалған бейнелер көбейді. Олардың ішінде суда қалқып жүрген өліктердің суреттері, шын мәнінде зардап шекпеген аймақтардағы қатты су тасқынының жалған бейнелері және төтенше жағдайларға ден қою шаралары туралы анық жалған мәліметтер бар. Кейбір аймақтарда электр қуатының өшірілуі туралы жалған ақпараты бар бейнелер тұрғындардың азық-түлік қорын үрейлене сатып алуына себеп болды.
Басқа бейнелер нақты оқиғаларды пайдаланады. Шілде айының басында Гуансидегі Хэнчжоу қаласындағы су тасқыны жылан өсіретін фермадан жүздеген жыланның қашуына әкелді. Содан кейін өзенге қолтырауындардың жіберілгені туралы жалған суреттер жарияланды.
Қазірдің өзінде шиеленісті және қауіпті жағдайда, жаппай эвакуация және күрделі құтқару операциялары жүріп жатқанда, билік дүрбелеңді болдырғысы келеді. Енді олар Қытай миллиардтаған доллар құйып жатқан AI технологиясы жұртшылықты алдау үшін қолдануға болатын қарапайым, қолжетімді құралдарды ұсынады деп қауіптенеді.
Чжэцзян полиция департаментінің онлайн қоғамдық қауіпсіздік жөніндегі орынбасары Хуан Чжихуа мемлекеттік БАҚ-қа берген сұхбатында: «Бұл контент жасаушылардың көпшілігі апат туралы жаңалықтарды көбірек жазылушы жинау үшін пайдаланады, өйткені олар сенсациялық немесе асыра сілтелген мазмұн көбірек лайк пен көру жинайтынын біледі. Олар адамдардың назарын аудару үшін әдейі жалған ақпарат жасайды», - деді.
Соңғы апталарда жалған репортаждар мен бейне мазмұнды жасағаны үшін қамауға алу және жазалау шаралары қолданылды - қылмыстық жауапкершілікке тарту үшін қамауда ұстаудан бастап айыппұлдарға дейін. Бірақ сарапшылар дезинформацияның бұрын-соңды болмаған дағдарысы таяп қалғаны туралы ескертеді.
Коммунистік партия Орталық партия мектебінің газетінде жарияланған мақаласында профессор Чэнь Бин: «AI жалған ақпарат өндіруге техникалық кедергілерді күрт төмендетеді. Жеке адамдарға күрделі техникалық дағдылар қажет емес. AI құралдарына жай ғана нұсқау беру арқылы олар шынайыға ұқсас, бірақ толығымен жалған мәтін, сурет, аудио және бейнелерді тез жасай алады», - деді.
Шығыс Қытай саяси құқық университетінің профессоры Гао Фупин BBC-ге мұндай жалған мазмұнды жариялауға түрткі болатын себептер әртүрлі екенін айтты: «салдары туралы ойланбай көңіл көтеру үшін жасайтындар» «жеке пайда үшін трафик жасағысы келетіндер» және «әдейі дүрбелең немесе әлеуметтік толқу тудырғысы келетіндер».
«Кейбір пайдаланушылар онлайн әлем анонимді және реттелмейді немесе оларды қадағалау мүмкін емес деп ойлайды», - деді ол.
Барлық AI жасаған мазмұнды анық белгілеу туралы шақырулар болды, бірақ басқа пайдаланушылар материалды өңдеп, белгілерді алып тастай алады.
Бейжің қалыпты университетінің профессоры Сюй Сяокэ BBC-ге географиялық орындарды уақыт белгілерімен тексеру және сурет көздерін тексеру үшін көбірек күш қажет екенін айтты. «Дегенмен, мен анықтау технологиясы әлі де генерациялау технологиясынан артта қалып отырғанын атап өткім келеді. Біз үнемі мысық пен тышқан ойынындамыз. Сондықтан технология ғана AI жасаған мазмұнды бір батырманы басу арқылы анықтай алады деп ойламауымыз керек», - деп ескертті ол.
Қытай үкіметі жетекші технологиялық супердержава болуға ұмтылуда AI-ды қолдайды. 2017 жылы ол AI елдің прогрессінің «негізгі қозғаушы күші» болатынын жариялады. AI бизнесіне үлкен қаражат құйылып, ішкі бәсекелестік күшейіп жатыр. Мемлекеттік Синьхуа агенттігінің хабарлауынша, елде 6000-нан астам «AI компаниясы» бар.
Осы жағдайда профессор Сюй Қытайға «сенімді ақпараттық инфрақұрылым» құру қажет деп санайды. Бұл ресми үкіметтің ерте ескерту жүйелері мен апат интерфейстерін қамтуы мүмкін, оларға жаңалық ұйымдары қол жеткізе алады. Бірақ ресми көздердің, соның ішінде үкімет бақылайтын БАҚ-тың апаттарды әдейі төмендететін жағдайлары болды, бұл осы саладағы қоғамдық сенімсіздікке әкелді.
Шілде айының басында жергілікті журналистерге Наньнин маңындағы Люлан бөгетінің қабырғасындағы үлкен жарықшақты «тесік» немесе «саңылау» деп сипаттау үшін тілдерін «жұмсарту» тапсырылды. Шенеуніктер жарықшақты азырақ қорқынышты етіп көрсетуге тырысқан сияқты, бірақ салдары өлімге әкелді. Бөгетті бұзған су ағыны төменгі ағыста кем дегенде 26 адамның өліміне әкелді.
2021 жылы жергілікті шенеуніктер Хэнань провинциясындағы 139 өлімді жасырды немесе толық хабарламады деген айыппен қамауға алынды. Осындай оқиғалар сенім вакуумын тудырды, бұл жаман ниетті адамдарға жалған мазмұнды таратуды айтарлықтай жеңілдетті. Бірақ полиция адамдарды төтенше жағдайлар кезінде аккредиттелген көздерге сенуге шақырады.