ИИ-боты наводнили правительственную консультацию десятками тысяч поддельных ответов в неудачной попытке остановить запрет Великобритании на одноразовые вейпы. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Три четверти всех ответов на консультацию 2023 года по законопроекту о табаке и вейпах были сгенерированы машинами, что, как считается, является первой скоординированной попыткой использовать ИИ для срыва разработки политики в области здравоохранения в Великобритании.

Попытка манипулировать результатами консультации была раскрыта во вторник в исследовании, опубликованном в журнале Tobacco Control экспертами по политике здравоохранения доктором Нейсоном Маани из Эдинбургского университета и профессором Анной Гилмор из Университета Бата.

Департамент здравоохранения и социального обеспечения (DHSC) использовал методы обнаружения ботов, чтобы установить, что 90 835 из 118 756 полученных ответов, или 76%, были отправлены ботами.

Все, кроме двух из этих 90 835 автоматических ответов, отвечали на один и тот же вопрос в консультации «поколение без табака», в котором они выступали против плана консервативного правительства Риши Сунака запретить одноразовые вейпы. По словам DHSC, эти ответы «часто дублировались много раз и отправлялись с высокой частотой с небольшого числа IP-адресов».

По словам исследователей, эта бомбардировка «представляется первым задокументированным случаем крупномасштабного автоматизированного вмешательства в официальную консультацию по политике общественного здравоохранения».

Маани добавил, что, хотя эта попытка была выявлена, «угроза заключается в том, что будущие кампании станет труднее поймать, а о том, что мы не можем поймать, мы не знаем. Такие кампании представляют угрозу, потому что они повышают вероятность того, что горстка влиятельных интересов будет выглядеть как массовое движение».

DHSC исключил 90 835 автоматических ответов из своего процесса принятия решений. Лейбористское правительство Кира Стармера унаследовало законопроект о табаке и вейпах в 2024 году и приняло его в качестве закона, включая запрет для предприятий продавать или поставлять одноразовые вейпы.

Кэролайн Черни, заместитель исполнительного директора Action on Smoking and Health, сказала: «Доказательства того, что ИИ-боты использовались для наводнения консультации Департамента здравоохранения, вызывают глубокую озабоченность.

«Учитывая историю табачной индустрии, стремящейся подорвать регулирование общественного здравоохранения, мы должны быть бдительными к риску того, что технологические достижения могут быть использованы для дальнейшего продвижения коммерческих интересов в сфере политики здравоохранения, и внедрить меры защиты.

«Решения, влияющие на общественное здоровье, должны основываться на надежных доказательствах и экспертизе, а не на манипулированных числах ответов».

Аззура Мурс, заместитель директора по информационным экосистемам аналитического центра Demos, описала попытку сорвать запрет как «весьма тревожную».

«Общественные консультации — один из основных способов, которыми правительство открывает свой процесс принятия решений, поэтому любое вмешательство в них является серьезной проблемой», — сказала она. «Эти выводы весьма тревожны: если консультацию можно так наводнить, она перестает сообщать политикам, что на самом деле думает общественность, и подрывает доверие к процессу.

«Это проблема, не имеющая простых ответов. Каждый барьер, который не пускает ботов, также затрудняет участие реальных людей, а ИИ делает поддельные ответы гораздо труднее обнаружить. Вмешательство может адаптироваться быстрее, чем департаменты обновляют свои проверки. Улучшенный скрининг и большая прозрачность помогут, но единого решения нет».

DHSC заявил, что его «надежные меры контроля» выявили попытку повлиять на консультацию.

Представитель сказал: «У нас всегда есть надежные меры контроля для предотвращения манипуляций с нашими общественными консультациями, и в этом случае эти меры сработали эффективно.

«В результате поддельные ответы были удалены, а консультация помогла обосновать знаковый шаг, который мы предпринимаем для создания поколения без табака.

«Мы будем оставаться бдительными к подобному вмешательству в будущих консультационных процессах и не будем отступать от того, что необходимо для пропаганды более здорового образа жизни».