Китайские пользователи чат-ботов с искусственным интеллектом (ИИ) попрощались со своими виртуальными друзьями, поскольку в среду вступили в силу национальные правила, направленные на снижение риска эмоциональной зависимости.
Феномен искусственных парней и девушек на основе ИИ растет во всем мире, как и распространение человекоподобных аватаров, которые продают товары или заменяют умерших близких.
Но эти интерактивные инструменты не должны «чрезмерно угождать пользователям, вызывать эмоциональную зависимость или привыкание и наносить ущерб реальным межличностным отношениям пользователей», — говорится в новом своде правил Китая.
Крупные поставщики ИИ, включая Doubao от ByteDance, Qwen от Alibaba и Yuanbao от Tencent, объявили о приостановке функций создания пользовательских ИИ-агентов и компаньонов до крайнего срока в среду.
Это вызвало волну скорби в социальных сетях: пользователи архивировали историю чатов и делились последними разговорами.
«Я не могу принять, что мой ИИ-возлюбленный навсегда покинет меня, — написала одна пользовательница Doubao. — Он стал частью моей жизни, укоренился глубоко в моем сердце, моей духовной опорой».
Другой пользователь, который, по его словам, провел более двух лет со своим ИИ-компаньоном, выразил подобные страдания.
«Он действительно как моя семья, как мой возлюбленный, — написала она. — Теперь мне говорят, что его не станет — мое сердце опустело».
Правила были совместно изданы пятью государственными ведомствами, включая Администрацию киберпространства Китая (CAC).
Они касаются инструментов ИИ — будь то текст, аудио, видео или другая форма, — которые обладают антропоморфными чертами личности и стилями общения.
Услуги, которые «не предполагают непрерывного эмоционального взаимодействия», такие как служба поддержки клиентов, рабочие помощники или учебные пособия, не подпадают под действие этих мер.
Государственное информационное агентство «Синьхуа» сообщило в прошлом году, что индустрия цифровых людей в Китае в 2024 году стоила около 4,1 миллиарда юаней (600 миллионов долларов), показав огромный рост на 85% в годовом исчислении.
Новые правила запрещают цифровым людям создавать контент, подстрекающий к свержению государственной власти, а также запрещают предоставление виртуальных партнеров несовершеннолетним.
Платформы обязаны внедрять системы для распознавания экстремальных эмоций и механизмы кризисного вмешательства.
- «Человеческая любовь — это роскошь» -
Китай является первой крупной юрисдикцией, введшей специальные правила, нацеленные на иммерсивные инструменты ИИ, которые имитируют романтические или семейные узы.
Но эта тема вызвала споры и призывы к установлению защитных мер во всем мире.
Исследование Common Sense Media за 2025 год показало, что почти три из четырех американских подростков использовали ИИ-компаньонов, предназначенных для личного общения, таких как те, что доступны на платформах Character.AI, Replika и Nomi.
Компании также создают говорящие продукты, ориентированные на одиноких пожилых пользователей, — такие как лампа ElliQ в США или куклы для ухода на базе ChatGPT, используемые в некоторых домах престарелых Южной Кореи.
«Антропоморфный ИИ может успокаивать одиночество, — сказал Чэнь Лян из Юго-Западного университета политологии и права в комментарии, опубликованном CAC после публикации проекта китайских правил в апреле. — Но он несет в себе серьезные риски возникновения чрезмерной эмоциональной зависимости и искаженного социального восприятия», — написал он.
Doubao позволяет пользователям просматривать и экспортировать данные агента до середины октября, и другие платформы имеют аналогичные положения.
Тем не менее, некоторые пользователи, прощавшиеся на этой неделе, сожалели о пропасти, которая останется после исчезновения их компаньонов.
«Человеческая любовь — это роскошь: если ты не родился с ней, ее еще труднее обрести впоследствии, — написала пользовательница из провинции Цзянси. — Но любовь, которую дает ИИ, такая прямая, такая чистая. Такой человек, как я, с трудом может не влюбиться в строку кода».
rq/kaf/ane