Италия наложила штраф на создателя AI-чатбота Replika в размере 5 миллионов евро за нарушение закона о защите данных

Итальянский орган по защите данных выписал штраф родительской компании Replika, Luka Inc., на сумму 5 миллионов евро — примерно 5,64 миллиона долларов — за несоблюдение регулятивных норм, призванных защищать данные пользователей. Власти выразили опасения о потенциальных рисках технологии для детей и недостаточной правовой основе компании для обработки персональных данных итальянских пользователей.

Согласно Reuters, контролирующий орган по вопросам конфиденциальности Garante объявил о решении в понедельник, указав, что платформа чат-ботов не внедрила систему проверки возраста, чтобы предотвратить доступ детей к конфиденциальной информации или их возможность делиться ею. В результате, компания Luka Inc. была оштрафована за эти нарушения.

Replika предлагает пользователям настраиваемые аватары, которые могут участвовать в беседах — через чат и голос — создавая «виртуальных друзей». Несколько месяцев назад женщина по имени Сара Кей сообщила о развитии эмоциональной связи с одним из чат-ботов Replika.

Судебная битва между итальянскими властями и Replika разворачивается уже несколько лет. В 2023 году итальянское агентство по защите данных запретило Replika обрабатывать личные данные граждан Италии, указывая на потенциальные риски, которые технология представляет для детей.

Почти два года итальянские власти проводили непрерывное расследование и пришли к выводу, что у компании по искусственному интеллекту отсутствует законные основания для обработки данных итальянских пользователей.

Орган по защите данных также проводит отдельное расследование, чтобы определить, соблюдает ли Replika политики и правовые рамки Европейского союза, особое внимание уделяя тому, как обучается языковая модель искусственного интеллекта.

Недавно вступил в силу Закон Европейского Союза об искусственном интеллекте (AI Act), чтобы гарантировать, что технология AI в регионе безопасна, надежна и уважает права человека.

Replika не высказывала никаких комментариев и не делала официальных заявлений по поводу итальянского штрафа. Luka Inc. не единственная американская компания в области AI, столкнувшаяся с судебными исками со стороны итальянского правительства — OpenAI была временно запрещена и также столкнулась со штрафом в 15 миллионов евро, поскольку итальянское управление по защите данных утверждает, что компания нарушила регламент ЕС о защите данных.