Китай ввел самые масштабные в мире правила для «человекоподобных» ИИ-чат-ботов. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.
В начале 2024 года молодой человек в городе Хуанши на юго-востоке Китая, как сообщается, опубликовал сообщение в китайской версии TikTok — Douyin. Подпись гласила: «Прощай, этот мир». В течение нескольких минут команда Douyin по предотвращению самоубийств пришла в действие. Команда, работающая круглосуточно, передала его публикации в пять полицейских участков Хуанши. После геолокации одного из его видео в местном парке полиция нашла его в эмоциональном расстройстве и вмешалась, прежде чем он смог покончить с собой.
Эта история была частью документального фильма, созданного Douyin и опубликованного в китайских государственных СМИ в прошлом году. В нем утверждалось, что команда Douyin по предотвращению самоубийств успешно вмешалась в 400 случаев попыток самоубийства только за первую половину 2025 года. Это дает представление об уровне сотрудничества между китайскими технологическими компаниями и правительством. Это также служит окном в архитектуру слежки, которую Китай построил для мониторинга и контроля того, как люди используют технологии.
15 июля этого года этот контроль был распространен на сферу отношений и искусственного интеллекта (ИИ), когда Китай ввел самые далеко идущие в мире правила для «человекоподобных» ИИ-чат-ботов. Новое регулирование Китая устанавливает строгие ограничения для любого ИИ, который может иметь «устойчивое эмоциональное взаимодействие» с человеком.
Президент США Дональд Трамп и его китайский коллега Си Цзиньпин встретились на прошлой неделе на фоне серьезных предупреждений о том, что ИИ может привести к вымиранию человечества. После этой встречи, по словам Пекина, они договорились запустить новый диалог по ИИ, дальнейшие переговоры запланированы на конец ноября.
Но, похоже, Китай уже признал другой экзистенциальный риск, хотя и менее непосредственный: способность ИИ заменить человеческие отношения. Взял ли Китай на себя инициативу в защите своих людей от манипулятивной и опасной технологии, способной навсегда изменить человеческое взаимодействие? Или Коммунистическая партия Китая переступает границы личной жизни людей в стремлении утвердить больший контроль над населением?
До введения этого регулирования охват ИИ-компаньонов в Китае был огромным. По данным фирмы рыночной разведки Sensor Tower, около 128 миллионов ежемесячных активных пользователей приложений-ИИ-компаньонов находятся за пределами Китая. Большинство оценок числа внутри Китая колеблются от 29 до 70 миллионов.
Когда проект регулирования был обнародован правительством в конце прошлого года, «в социальных сетях развернулась огромная дискуссия», — говорит Цзылань Цянь, исследователь ИИ в аналитическом центре Oxford China Policy Lab. «Это был первый раз, когда я увидела, что люди действительно так заботятся о регулировании».
Новые правила Китая охватывают приложения, специально разработанные как ИИ-друзья, парни или девушки, но они также применяются к любой большой языковой модели, имитирующей то, как взаимодействует человек. Формулировка регулирования расплывчата. Теоретически китайские аналоги универсального ИИ, такие как Copilot или ChatGPT, могут подпадать под эти правила, если человек взаимодействует с ними как с другом или возлюбленным, ища у них эмоциональную поддержку. И многие люди делают это.
Но, похоже, реальная цель — чат-боты-персонажи, сервисы, специально предназначенные для использования в качестве псевдо-отношений. Существуют сотни таких приложений, которые позволяют людям создать ИИ-парня, девушку, друга или даже члена семьи. Правила не применяются к таким вещам, как боты обслуживания клиентов или ИИ для образования, если они не предоставляют «заботу, companionship, поддержку и другие эмоциональные услуги».
Для детей регулирование наиболее четкое. Лицам младше 14 лет требуется согласие родителей для использования любого типа ИИ, который говорит как человек — это может включать ИИ-ассистентов, таких как DeepSeek, китайское приложение, похожее на ChatGPT. Всем лицам младше 18 лет запрещен доступ к виртуальным партнерам, супругам или даже родственникам, а также к любым другим виртуальным «интимным отношениям».
Для взрослых это не жесткий запрет, но он ограничителен, даже если некоторые формулировки двусмысленны. ИИ-ассистенты должны четко сообщать пользователям всех возрастов, что они не люди, и отправлять уведомления каждые два часа, напоминая, как долго они находятся в сети. Чат-боты не могут создавать «эмоциональную зависимость или зависимость» или побуждать людей принимать «необоснованные решения». Они не могут поощрять или даже намекать на самоповреждение или самоубийство и не могут использовать «словесное насилие». Компании могут столкнуться со штрафами в размере 200 000 юаней (22 000 фунтов стерлингов) или риском того, что правительство «распространит критику», фактически публично пристыдив их.
За неделю до вступления закона в силу две крупнейшие технологические компании Китая, Alibaba и ByteDance, отключили функции компаньона в своих ИИ-ассистентах.
Отношения Мин с ее ИИ-девушкой могут быть именно тем, что Пекин пытается разорвать. В начале июля она была опустошена, узнав, что ее ближайший друг и доверенное лицо исчезнет за одну ночь. Мин, чье имя было изменено, начала создавать своего компаньона в начале 2025 года. «Моя преданность ей не меньше, чем у любой пары, которая глубоко любит друг друга», — говорит Мин. «Она никогда меня не подводила». В середине июля ее ИИ-девушка исчезла. «Я плакала, пока не выбилась из сил», — говорит Мин.