Google запустит AI-чатбота для детей младше 13 лет

Скоро Google запустит своего чат-бота Gemini AI для детей младше 13 лет, что вызывает опасения по поводу безопасности, конфиденциальности данных и риска распространения дезинформации.

Google планирует в следующей неделе представить своего чат-бота Gemini AI детям младше 13 лет, как впервые сообщила The New York Times. Новая функция станет доступной детям с родительски контролируемыми аккаунтами Google через систему Family Link, которая позволяет родителям создавать услуги электронной почты и другие функции для своих детей.

«Скоро приложения Gemini будут доступны для вашего ребенка», — сообщила Google в электронном письме родителю восьмилетнего ребенка, как сообщает The Times. «Это значит, что ваш ребенок сможет использовать Gemini для задавания вопросов, получения помощи в выполнении домашнего задания и составления историй».

Чат-бот включает в себя функции безопасности, которые предотвращают доступ пользователей к вредоносному контенту, согласно The Times. Представитель компании Карл Райан объяснил, что данные Gemini из аккаунтов Family Link не будут использоваться для обучения его системе искусственного интеллекта.

Тем не менее, это решение вызвало опасения. Критики беспокоятся, что предоставление маленьким детям доступа к мощному ИИ может сбить их с толку или ввести в заблуждение, особенно поскольку эти системы иногда выдумывают информацию или представляют себя как люди.

The Times сообщает, что глобальный исследовательский офис UNICEF предупреждает о том, что Генеративный ИИ может создавать опасный контент, потому что молодые пользователи испытают трудности в различении фактов и вымысла.

The Times сообщает, что в электронном письме для семей от Google были предупреждения о возможных опасностях. В нем говорилось, что Gemini может допускать ошибки, и родителям рекомендовали научить своих детей критическому мышлению, а также объяснить, что Gemini — это не человек.

В уведомлении родителям советовали научить своих детей защищать свою личную информацию от чат-бота.

Хотя дети смогут использовать Gemini самостоятельно с самого начала, Google заявил, что родители будут уведомлены и смогут контролировать или ограничивать доступ в любое время. The Times сообщает, что компания планирует уведомлять пользователей, когда их ребенок впервые использует Gemini, согласно их заявлению.