Отель, который судят за массовые отравления, был описан как «безупречный», а курорт, где гости жаловались на сексуальные домогательства со стороны персонала, был похвален за «дружелюбное» обслуживание ИИ, предназначенным для обобщения миллионов отзывов на Tripadvisor. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Согласно расследованию, проведенному организацией по защите прав потребителей Which?, ИИ-резюме преуменьшали серьезные жалобы, от запаха плесени до отсутствия водопроводной воды. ИИ-обзоры появляются на страницах отелей туристического сайта, чтобы помочь отдыхающим решить, где забронировать.

В одном случае ИИ-резюме описывало отель Riu Palace Santa Maria в Кабо-Верде как популярный, с просторными номерами, «разнообразными ресторанами» и «безупречной» чистотой. Однако клиенты сообщали о подаче сырой курицы, делились фотографиями мух и птиц на шведском столе и сообщали о «мертвых жареных мышах возле зоны отдыха». Гость, чья семья заболела, написал: «Это место испортит отпуск».

Сеть отелей судят в Высоком суде сотни гостей, утверждающих о заболеваниях, связанных с низкими стандартами гигиены и нарушениями безопасности пищевых продуктов. ИИ-обзор для отеля в Кабо-Верде больше недоступен. Его оператор RIU Hotels & Resorts заявил: «Мы работаем с высочайшими стандартами профессионализма и обслуживания, ставя гигиеническую безопасность на первое место».

ИИ похвалил отдельный отель в Доминиканской Республике за «обильные» удобства, лишь упомянув «непостоянную» чистоту и «проблемы с обслуживанием». Но гости сообщали, что принимали душ с бутилированной водой из-за пересохших кранов, и что каждый второй человек на большой свадьбе заболел.

Тем временем гости отеля в Турции писали, что чувствовали себя небезопасно из-за повторяющихся сексуальных домогательств со стороны мужского персонала, включая просьбы связаться в соцсетях, но ИИ-резюме описывало обслуживание как «дружелюбное» и лишь упоминало «недостатки, отмеченные немногими».

Tripadvisor заявил, что отслеживает и совершенствует свой ИИ-инструмент и «изучает примеры, где отзывы не соответствовали предполагаемому объекту». Но он сказал, что «уверен, что эти функции делают именно то, для чего были созданы: помогают путешественникам быстро понять широту отзывов, облегчая изучение полных обзоров».

Рори Боланд, редактор Which? Travel, сказал: «Платформа обязана пересмотреть точность своих ИИ-резюме и ИИ-чатбота. А пока пользователям следует пролистывать эти резюме и смотреть на отзывы гостей, особенно на одно-звездочные рейтинги, а также на отзывы на других сайтах, чтобы убедиться, что их следующее пребывание будет безопасным».

Tripadvisor заявил, что его системы автоматически подавляют ИИ-резюме, когда путешественники предупреждают о серьезных инцидентах безопасности, таких как смерть, наркотики или сексуальное насилие.

Дункан Брамби, профессор взаимодействия человека и компьютера в Университетском колледже Лондона, сказал, что этот случай совпадает с его исследованиями использования ИИ академиками в процессе рецензирования. Он обнаружил, что ИИ склонен «сглаживать и смягчать» резкую критику, вероятно, потому, что в обучающих данных много банальных наблюдений.

«Здесь гости описывают действительно негативный опыт, но ИИ решил смягчить его. Как будто он вежлив», - сказал он. Другие исследования показали, что технологии, предназначенные для обобщения мнений, часто страдают от слепого пятна, которое сводит богатство отзывов потребителей к поверхностным настроениям.

В этом году Google удалил часть своих ИИ-резюме о здоровье после того, как расследование The Guardian показало, что ложная и вводящая в заблуждение информация подвергает людей риску.