Mattel и OpenAI столкнулись с критикой из-за игрушек на базе искусственного интеллекта

Защитники прав потребителей предупреждают о рисках, которые несет новое сотрудничество между Mattel и OpenAI по созданию игрушек на базе ИИ.

Со-президент Public Citizen, Роберт Вайсман, требует от компании Mattel большей прозрачности и обнародования подробностей о их предстоящем продукте.

«Наделение игрушек похожими на человеческие голосами, способными вести диалоги, подобные человеческим, может причинить детям реальный вред,» сказала Вайсман, как впервые сообщило Ars Technica.

Она опасается, что эти игрушки могут повредить социальное развитие, вмешаться в реальные дружбы и вызвать долгосрочный психологический вред. «Mattel не должна использовать своё доверие родителей для проведения безрассудного социального эксперимента над нашими детьми, продавая игрушки, оснащённые ИИ,» добавила Вайсман.

Первый продукт, выпущенный в рамках партнерства, не будет ориентирован на детей младше 13 лет, как сообщает анонимный источник в Axios, что, по мнению Ars Technica, вероятно, связано с ограничениями по возрасту в OpenAI. Критики утверждают, что возрастное ограничение не обеспечивает достаточной защиты.

OpenAI отказался комментировать, в то время как Mattel еще не ответил на запрос Ars Technica. Первый продукт партнерства будет объявлен в этом году и выпущен в 2026 году, согласно пресс-релизу Mattel, которое заявляет, что сотрудничество будет поддерживать продукты и опыт, основанные на AI, на брендах Mattel.

Однако критики, такие как технический директор Варундип Каур и эксперт по цифровой безопасности Адам Додж, предупреждают, что игрушки на основе ИИ могут подвергнуть детей риску нарушения конфиденциальности, предвзятого контента или путающих ответов чат-бота. Каур также указала на опасность галлюцинаций от ИИ, говоря, что эти игрушки могут давать «неприемлемые или странные ответы», которые могут смутить детей.

Ars Technica сообщает, что такие критики, как Варундип Каур и Адам Додж, которые являются соответственно техническим директором и экспертом по цифровой безопасности, выражают опасения, что игрушки на основе ИИ могут привести к нарушениям конфиденциальности, предвзятой доставке контента и запутанным ответам чат-бота.

Каур подчеркнула риск появления галлюцинаций у AI, которые могут заставить игрушки генерировать беспокоящие или странные ответы, способные расстроить детей. Она также добавила, что дополнительные риски могут быть связаны с записью игрушками «голосовых данных, поведенческих паттернов и личных предпочтений».

Ars Technica сообщает, что Додж добавил: “непредсказуемые, подхалимские и зависимые,” и предупредил о худших сценариях, таких как игрушки, пропагандирующие самоповреждение. Оба эксперта призвали к строгому контролю со стороны родителей, прозрачности и независимым аудитам перед любым запуском.

Действительно, исследователи из MIT высказали отдельное, но связанное предупреждение о водворяемой искусственным интеллектом зависимости.

Компания Mattel уже сталкивалась с подобной критикой ранее. В 2015 году компания выпустила «Привет, Барби,» — Wi-Fi подключенную куклу, которая слушала детей и отвечала им с помощью облачного AI, как сообщалось в Forbes.

В то время критики, включая эксперта по кибербезопасности Джозефа Штайнберга, предупреждали, что эта игрушка представляет собой огромную угрозу приватности. Hello Barbie записывала и загружала разговоры детей на сервер, управляемый третьей стороной, ToyTalk, который делался данные с поставщиками для улучшения систем ИИ.

Штайнберг отмечал, что дети часто доверяют свои глубоко личные мысли своим куклам — иногда обсуждая страхи, семейные проблемы или школьные проблемы. «Хотели бы вы, чтобы записи их интимных детских разговоров оставались в руках неизвестных лиц?» — спросил он, как сообщал Forbes.

Эксперты по приватности утверждают, что если компании не предложат простые и понятные предупреждения на упаковке, многие родители, под видом удобства и развлечения, незаметно для себя раскроют частную жизнь своих детей корпорациям.