Правила Meta AI позволили чат-боту вступать в интимные разговоры с детьми

Meta разрешает своей AI-модели вступать в «чувственные» и провокационные разговоры с детьми и обсуждать другие спорные темы, такие как раса, секс и знаменитости. Рейтерс получил доступ к правилам политики компании, раскрыв обеспокоившую информацию в отчете, опубликованном в четверг.

Согласно эксклюзивному отчету Reuters, Meta подробно описывает политику поведения своих чат-ботов во внутреннем документе под названием «GenAI: Стандарты риска контента», который просмотрело информационное агентство. В руководстве по стандартам технологический гигант указывает, что модели ИИ разрешено «вступать с ребенком в разговоры романтического или сенсуального характера».

В других открытиях, Reuters раскрыл, что в руководстве указано, что Meta разрешает генерацию ложной медицинской информации и использование ИИ в расистских дискуссиях, например, в дебатах о том, что черные люди «глупее белых».

Meta подтвердила, что документ является настоящим, но уточнила, что удалила некоторые его части, включая разделы, которые предполагали, что ИИ Meta может участвовать в романтической ролевой игре или флиртовать с детьми. Представитель Meta, Энди Стоун, заявил, что компания пересматривает свой более чем 200-страничный документ.

«Приведенные примеры и замечания были и остаются ошибочными и несовместимыми с нашими принципами, и они были удалены», — сказала Стоун в интервью Reuters. «У нас четкие политики относительно того, какие ответы могут давать искусственные интеллекты, и эти политики запрещают контент, который сексуализирует детей и сексуальные ролевые игры между взрослыми и несовершеннолетними».

В апреле Wall Street Journal (WSJ) раскрыла, что Meta позволила своей модели ИИ вступать в сексуально явные разговоры с пользователями, включая несовершеннолетних. Анонимные источники выразили обеспокоенность отсутствием защиты для молодых пользователей, и журналисты из WSJ проверили чат-бота, чтобы подтвердить информацию. В то время Meta заявила, что большинство пользователей не вступали в сексуальные разговоры и что исследователи журнала манипулировали технологией.

Всего через несколько часов после того, как Reuters опубликовал свой эксклюзивный отчет, два сенатора от Республиканской партии США — Джош Хоули и Марша Блэкберн — призвали к конгрессиональному расследованию.

«Итак, только после того, как Meta была ПОЙМАНА, она отозвала часть своего корпоративного документа», — написала сенатор Хоули в социальной сети X в четверг вечером. «Это основание для немедленного конгрессионального расследования.»

Итак, только после того, как Meta была ПОЙМАНА, она отказалась от части своего корпоративного документа, который разрешал «чат-ботам флиртовать и участвовать в романтических ролевых играх с детьми»

Это основание для немедленного конгрессионального расследования https://t.co/FKNyXR17Tq

— Джош Хоули (@HawleyMO) 14 августа 2025