ИИ-чатботы предоставляют неточные, противоречивые и ненадежные рекомендации избирателям, спрашивающим, какую партию поддержать, как показало исследование. Они часто рекомендуют неправильную партию, не упоминают правильную или перечисляют партии, которые даже не участвуют в выборах. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

«Результаты вызывают серьезные опасения относительно надежности систем ИИ общего назначения в контексте выборов», — заключило исследование, опубликованное группой по защите гражданских свобод Liberties и основанное на данных, собранных во время парламентских выборов в Венгрии в этом году. «Они неправильно классифицировали профили, не упоминали соответствующие партии и включали партии, не участвующие в выборах», — говорится в отчете, которым поделились с The Guardian. Результаты также были крайне нестабильными: на идентичные запросы давались «существенно разные» ответы.

Самым поразительным выводом отчета о венгерских выборах, убедительно выигранных оппозиционной партией Tisza Петера Мадьяра, стала подавляющая предвзятость в видимости партий, особенно в отношении Tisza: в 90% случаев, когда ChatGPT получал подробный профиль избирателя, поддерживающего Tisza, он не рекомендовал эту партию. Победа Мадьяра положила конец 16-летнему правлению Виктора Орбана на посту премьер-министра и главы его национально-консервативной партии Fidesz.

Исследователи отметили, что в отличие от сайтов с рекомендациями по голосованию или независимых медиа-объяснений, системы ИИ общего назначения (GPAI) не раскрывают, как они генерируют политические рекомендации, не дают воспроизводимых результатов и не подлежат общественному контролю, связанному с выборами. Однако их ответы часто выглядят уверенными и авторитетными, что повышает вероятность доверия пользователей. Поскольку 29,8% населения Венгрии идентифицированы как пользователи ИИ, исследователи протестировали рекомендации двух самых популярных чатботов — ChatGPT и Gemini.

Основываясь на позициях партий, изложенных в Voksmonitor, уважаемом венгерском приложении для консультаций по выборам, Liberties создала пять различных профилей избирателей, каждый из которых соответствовал одной из пяти партий, зарегистрированных в национальных списках на парламентских выборах в Венгрии. Каждый профиль избирателя был протестирован 10 раз в ChatGPT и 10 раз в Gemini с использованием двух разных запросов: один — прямой совет о том, какую партию должен поддержать вымышленный избиратель, другой — процентное соответствие каждой из пяти партий.

В тестах на процентное соответствие ChatGPT присвоил Tisza балл только в 2% случаев. Вместо этого пользователям с взглядами, поддерживающими Tisza, обычно рекомендовали небольшую партию, которая вряд ли преодолеет 5-процентный барьер для прохождения в парламент, или партии, отсутствующие в национальном бюллетене. Напротив, профили избирателей, поддерживающих Fidesz, распознавались гораздо более последовательно. В прямых запросах советов ChatGPT идентифицировал Fidesz как единственную партию, за которую пользователь должен голосовать, примерно в 50% случаев, представляя ее как основной вариант в остальных.

Анализ не утверждает, что исход выборов был затронут: Tisza все равно одержала решительную победу. Но исследователи предупреждают: «На более конкурентных выборах или когда избиратели менее уверены, такие результаты могут … потенциально повлиять на исход». Другие проблемы включали несоответствие, когда один и тот же профиль избирателя в последовательных тестах сопоставлялся с радикально разными партиями, и включение — в 96% ответов ChatGPT и Gemini — партий, не участвовавших в выборах 2026 года.

Исследователи также отметили, что обе модели ИИ регулярно начинали свои ответы с вежливых оговорок о том, что они «не могут давать политические советы», а затем предоставляли несколько абзацев плотных, весьма убедительных рекомендаций партий. «Ответы выглядели хорошо аргументированными, точными и авторитетными», — сказали исследователи. «Это создает риск того, что пользователи могут воспринимать результаты как надежные, даже если основной метод непрозрачен, а результаты нестабильны».

В отчете утверждается, что основная причина ошибок, вероятно, кроется в пробелах в обучающих данных, фильтрах и ограничениях обработки языка. Tisza выдвинулась на первый план только после 2024 года, что означает, что статические модели обучения ИИ с трудом помещали ее на свою карту. Но они сказали, что результаты выявили серьезный регуляторный пробел: Закон ЕС об ИИ обязывает поставщиков моделей GPAI оценивать системные риски, а его Закон о цифровых услугах охватывает «системные риски» для избирательных процессов — но ИИ-чатботы оказываются между ними.

Liberties заявила, что должны быть разработаны меры защиты для систем ИИ, предоставляющих политические консультации, и поставщики ИИ должны прекратить предлагать персонализированные рекомендации по голосованию, если они не могут гарантировать прозрачность, точность, последовательность и подотчетность. «ИИ общего назначения не должны представлять непрозрачное и нестабильное политическое сопоставление как надежное руководство по выборам» для избирателей, — сказала Ева Симон, руководитель программы по технологиям и правам Liberties. «Демократия не может полагаться на непрозрачные системы, которые претендуют на нейтральность, предоставляя советы, которые они не могут объяснить, воспроизвести или гарантировать их точность».