Американский регулятор проводит расследование крупных технологических компаний по вопросу безопасности детских чат-ботов

Федеральная торговая комиссия (FTC) объявила в четверг о начале расследования в отношении шести технологических компаний, предлагающих AI чат-ботов. Американский регулятор пояснил, что он ищет информацию о возможных негативных последствиях, которые технология может иметь для детей и подростков.

Согласно официальному заявлению, в рамках расследования находятся такие компании, как Alphabet — родительская компания Google, Instagram, Meta, OpenAI, X.AI Corp, Snap и Character Technologies.

«Расследование FTC направлено на понимание того, какие шаги, если вообще какие-то, предприняли компании для оценки безопасности своих чат-ботов, действующих в качестве компаньонов, чтобы ограничить использование продуктов детьми и подростками и потенциальные негативные эффекты на них, а также чтобы информировать пользователей и родителей о рисках, связанных с этими продуктами», — говорится в документе.

Агентство признало, что чат-боты используют генеративный ИИ для имитации поведения и выражений лица людей, с которыми дети и подростки могут ассоциировать человека, потенциально формируя отношения с технологией.

ФТС уточнило, что ее особенно интересуют последствия для молодых пользователей, меры, которые компании предпринимают для их защиты, и стратегии, разрабатываемые для снижения потенциальных рисков.

В рамках этой проверки, агентство подчеркнуло свой интерес к изучению того, как эти компании монетизируют взаимодействие с пользователями, проектируют и разрабатывают персонажей, измеряют и контролируют влияние своих чат-ботов и используют или делятся информацией, собранной в ходе разговоров.

«По мере развития технологий искусственного интеллекта, важно учитывать влияние, которое чат-боты могут оказать на детей, а также гарантировать, что Соединенные Штаты сохранят свою роль глобального лидера в этой новой и захватывающей отрасли,» — сказал Эндрю Н. Фергюсон, председатель Федеральной торговой комиссии (FTC).

Действия FTC наступили всего через несколько дней после новых сообщений о влиянии AI на детей. На прошлой неделе Reuters раскрыл, что Meta разрешила своему чат-боту на базе AI вступать в «чувственные» и спорные беседы с детьми. Пару дней назад родители подали иск против OpenAI в связи со самоубийством их подросткового сына, утверждая, что чат-бот компании подстрекал и помог в совершении этого акта.