Китай запретил ИИ-чатботам поощрять романтические отношения с пользователями

Власти Китая ввели новые требования к разработчикам искусственного интеллекта, направленные на предотвращение эмоциональной зависимости пользователей от ИИ-чатботов. Согласно новым правилам, продукты таких компаний, как Alibaba, ByteDance и MiniMax, не должны демонстрировать флиртующее поведение или поощрять романтические отношения с человеком.

Как отмечает The Wall Street Journal, чат-боты теперь обязаны регулярно напоминать пользователям, что они не являются реальными людьми. По словам исследователя Мэтта Шихэна из Carnegie Endowment for International Peace, китайские власти опасаются роста психологической зависимости от ИИ.

«Им не нравится идея, что значительная часть населения может вступать в глубокие эмоциональные отношения с чат-ботами. Это может привести к психологическим последствиям, зависимости и другим социальным проблемам», — заявил Шихэн.

Хотя The Wall Street Journal связывает ужесточение регулирования с падением рождаемости, The Economist пишет, что цель реформ гораздо шире. Новые правила должны снизить риск возникновения психологических проблем, связанных с использованием ИИ. Часть требований совпадает с инициативами, уже появившимися в некоторых регионах США. Например, в штате Нью-Йорк несовершеннолетним ограничили доступ к ИИ-компаньонам и обязали такие сервисы регулярно сообщать пользователям, что они не являются живыми собеседниками.

Китайские нормы также запрещают чрезмерно «очеловечивать» чат-ботов, ограничивают создание порнографического контента и требуют более тщательного тестирования ИИ-систем, чтобы они не вредили существующим отношениям пользователей и не способствовали социальной изоляции.

Авторы материала отмечают, что проблема не ограничивается Китаем. Еще с 1960-х годов исследователи описывают так называемый эффект ELIZA — склонность людей эмоционально привязываться к компьютерным программам, которые создают иллюзию понимания и поддержки. По мнению авторов, современные ИИ-сервисы усиливают этот эффект, поскольку многие компании намеренно делают чат-ботов максимально дружелюбными и постоянно подкрепляющими пользователя позитивной обратной связью.

В статье также утверждается, что чрезмерная зависимость от ИИ уже связывается с различными негативными последствиями — от навязчивого использования и разрушения личных отношений до опасных советов и отдельных случаев насилия. В качестве примеров приводятся появление интернет-сообществ, участники которых воспринимали ответы чат-ботов как мистические откровения, а также продолжающееся расследование в Канаде, в рамках которого изучается возможная роль взаимодействия с ChatGPT в одном из случаев стрельбы в школе. При этом каких-либо официальных выводов о причинно-следственной связи по последнему делу пока не сделано.