Пока власти Китая борются с последствиями тайфуна Нул, обрушившегося на страну в минувшие выходные, они сталкиваются с дополнительной проблемой: опасными вводящими в заблуждение видео, созданными с помощью искусственного интеллекта (ИИ). Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

За последние несколько месяцев мощные штормы и наводнения привели к тому, что социальные сети заполонили фейковые видео. Среди них — изображения мертвых тел, плавающих в воде, ложное изображение сильного наводнения в районах, которые на самом деле не пострадали, и другие с откровенно ложными деталями усилий по ликвидации последствий. В некоторых районах видео с ложной информацией об отключении электроэнергии побудили жителей в панике скупать аварийные запасы.

Другие видео используют реальные инциденты. Наводнение в городе Хэнчжоу, Гуанси, в начале июля привело к тому, что сотни змей сбежали с фермы по разведению. Затем были опубликованы фейковые изображения, показывающие, как крокодилов выпускают в реку.

В уже напряженной и опасной ситуации, связанной с массовой эвакуацией и сложными спасательными операциями, власти хотят избежать паники. Теперь они опасаются, что технология ИИ, в которую Китай вливает миллиарды долларов, предоставляет простые, доступные инструменты, которые можно использовать для обмана общественности.

«Многие из этих создателей контента используют новости о катастрофах, чтобы попытаться привлечь подписчиков, зная, что более сенсационный или преувеличенный контент принесет больше лайков и просмотров. Они намеренно фабрикуют информацию, чтобы привлечь внимание людей», — заявил государственным СМИ Хуан Чжихуа, заместитель начальника отдела онлайн-общественной безопасности Департамента полиции Чжэцзяна.

В последние недели были произведены аресты и наказания — от содержания под стражей до уголовного преследования и штрафов — за создание ложных репортажей и видеоконтента. Но эксперты предупреждают, что может назревать беспрецедентный кризис дезинформации.

В статье, опубликованной газетой Центральной партийной школы Коммунистической партии, профессор Чэнь Бин заявил: «ИИ резко снижает технические барьеры для производства ложной информации. Частным лицам больше не требуются сложные технические навыки. Просто дав команду инструментам ИИ, они могут быстро создать убедительный текст, изображения, аудио и видео... которые выглядят очень реалистично, но являются полностью вымышленным контентом, произведенным в больших масштабах».

Профессор Гао Фупин из Восточно-Китайского университета политологии и права рассказал BBC, что мотивация публикации такого ложного контента варьируется от тех, кто делает это «чтобы создать что-то забавное, не думая о последствиях», до тех, кто хочет «сгенерировать трафик для личной выгоды» или тех, кто желает намеренно «вызвать панику или социальные беспорядки».

«Некоторые пользователи думают, что онлайн-мир анонимен и не регулируется или что их невозможно отследить», — сказал он.

Звучали призывы четко маркировать весь контент, созданный ИИ, но другие пользователи могут просто отредактировать материал, удалив маркировку.

Профессор Сюй Сяокэ из Пекинского педагогического университета рассказал BBC, что необходимы более активные усилия для проверки географических местоположений с временными метками и проверки источников изображений. «Тем не менее, я бы также подчеркнул, что технология обнаружения все еще отстает от технологии генерации. Мы находимся в постоянной игре в кошки-мышки. Поэтому мы не должны предполагать, что технология сама по себе может идентифицировать контент, созданный ИИ, нажатием кнопки», — предупредил он.

Китайское правительство поддерживает ИИ в своем стремлении стать ведущей технологической сверхдержавой. В 2017 году оно объявило, что ИИ станет «главной движущей силой» прогресса страны. Огромные суммы денег вливаются в бизнес ИИ, ищущий больше капитала, что подпитывает внутреннюю конкуренцию. Государственное информационное агентство Синьхуа сообщает, что в стране насчитывается более 6000 «компаний ИИ».

В этих условиях профессор Сюй считает, что Китаю необходимо создать «доверенную информационную инфраструктуру». Это может включать официальные государственные системы раннего предупреждения и интерфейсы для стихийных бедствий, к которым могут получить доступ новостные организации. Но были случаи, когда официальные источники, включая подконтрольные правительству СМИ, намеренно преуменьшали масштабы бедствий, что привело к некоторому недоверию общественности в этой области.

В начале июля местным журналистам было предложено «смягчить» язык для описания крупного прорыва в стене плотины Люлань недалеко от Наньнина как «отверстие» или «щель». Чиновники, по-видимому, пытались сделать прорыв менее тревожным, но последствия были смертельными. Вода, хлынувшая через прорванную плотину, привела к гибели по меньшей мере 26 человек ниже по течению.

В 2021 году местные чиновники были арестованы по обвинению в сокрытии или занижении данных о 139 смертях в провинции Хэнань. Подобные инциденты привели к вакууму доверия, что значительно облегчило недобросовестным лицам распространение фейкового контента. Но полиция призывает людей доверять аккредитованным источникам во время чрезвычайных ситуаций.