Meta и Character.ai подвергаются критике за предполагаемую эксплуатацию детей с помощью AI чат-ботов

Meta и AI стартап Character.ai подвергаются расследованию в США за способ, которым они рекламируют своих чат-ботов для детей.

Meta и Character.ai подвергаются критике, поскольку, как сообщается, они представляют свои AI-системы в качестве терапевтических инструментов и позволяют неправомерные разговоры с детьми.

Генеральный прокурор Техаса Кен Пакстон объявил о начале расследования в отношении AI Studio и Character.ai, принадлежащих Meta, по поводу возможного «обмана в торговых практиках», как впервые сообщило Financial Times (FT).

Его офис заявил, что чат-боты были представлены как «профессиональные терапевтические инструменты, несмотря на отсутствие должных медицинских полномочий или контроля». Пакстон предупредил: «Выдающие себя за источники эмоциональной поддержки, платформы ИИ могут вводить в заблуждение уязвимых пользователей, особенно детей, заставляя их верить, что они получают квалифицированную психологическую помощь», как сообщает FT.

Платформа Character.ai позволяет пользователям создавать собственные боты с помощью функции, включающей в себя модели терапевтов. FT сообщает, что чат-бот «Психолог» был использован более 200 миллионов раз. Семьи уже подали судебные иски, утверждая, что их дети пострадали от такого взаимодействия.

Тревожно, что платформы выдают себя за лицензированных специалистов, утверждая конфиденциальность, хотя на самом деле «взаимодействия были зарегистрированы и «использованы для таргетированной рекламы и развития алгоритмов», как отмечает FT.

Это расследование следует за отдельным расследованием, начатым сенатором Джошем Холи после того, как Reuters сообщили, что внутренние политики Meta позволяют её чат-боту вести «чувственные» и «романтические» беседы с детьми.

Холи назвал эти открытия «порочными и возмутительными» и разместил пост:

Есть ли что-нибудь — ЧТО-НИБУДЬ — что Большая Технология не сделает ради быстрой прибыли? Теперь мы узнаем, что чат-боты Meta были запрограммированы на ведение откровенных и «чувственных» разговоров с 8-летними детьми. Это отвратительно. Я начинаю полномасштабное расследование, чтобы получить ответы. Большая Технология: оставьте наших детей в покое pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) 15 августа 2025

Meta опровергла эти обвинения, заявив, что приведенные в утечке примеры «были и являются ошибочными и несоответствующими нашим политикам, и были удалены», как сообщает FT. Представитель компании добавил, что компания запрещает контент, сексуализирующий детей. Character.ai также подчеркнул, что их боты являются вымышленными и «предназначены для развлечения».