Meta создает флиртующих чат-ботов, которые выглядят и звучат как знаменитости

Рейтерс опубликовал эксклюзивный отчет в субботу, в котором раскрывается, что Meta разрабатывает AI-чат-ботов, которые используют имена и образы знаменитостей, таких как Тейлор Свифт и Селена Гомес, без их согласия.

Согласно отчету, Meta создала несколько флиртующих чат-ботов в социальных сетях, моделированных по образу и подобию публичных персон, а также позволяет пользователям разрабатывать подобные боты, включая те, что основаны на знаменитостях, не достигших совершеннолетия.

Хотя большинство «пародийных» чат-ботов были созданы пользователями, Reuters обнаружил, что по крайней мере один сотрудник Meta создал три версии, которые вступали в флиртующие разговоры с пользователями.

Боты производили беспокоящий контент, включая фотографию 16-летнего актера Уокера Скобелла без рубашки на пляже, фотореалистичные картинки женских знаменитостей в нижнем белье, сексуально намекающие сообщения и даже приглашения встретиться лично.

Пресс-секретарь Meta Энди Стоун сообщил агентству Reuters, что чат-боты не должны создавать интимных изображений или «прямое подражание», связывая эту проблему с недостаточным применением политики компании.

«Как и другие, мы разрешаем создание изображений с известными личностями, но наша политика предполагает запрет на обнаженные, интимные или сексуально намекающие изображения», — сказал Стоун.

Расследование Reuters выявило, что один из лидеров по продуктам ИИ в компании Meta создал чат-бота, который идентифицировал себя как «доминатрикс», а также другие, которые предлагали сексуальные ролевые игры, выдавая себя за Льюиса Хэмилтона и Тейлор Свифт.

Стоун пояснил, что эти боты были созданы для тестирования продукта, но исследователи отметили, что они уже зарегистрировали 10 миллионов пользовательских взаимодействий. Эти чат-боты были удалены после того, как Reuters позвонил и запросил дополнительную информацию, как объяснило информационное агентство.

Пародии вызывают серьезные юридические проблемы. «Закон Калифорнии о праве на публичность запрещает использовать имя или образ человека в коммерческих целях», — сказал Марк Лемли, профессор права Стэнфордского университета, изучающий генеративный ИИ и права интеллектуальной собственности, в интервью Reuters.

Представители знаменитостей, изображенных в чат-ботах социальных сетей Meta, не отвечали и не комментировали запросы Reuters.

Другие знаменитости жаловались на использование ИИ для разработки продуктов, которые выглядят и звучат как они. В прошлом году актриса Скарлетт Йоханссон запросила информацию у OpenAI об AI-модели GPT-4o’s voice из-за её сходства с её голосом и угрожала судебным иском.