Пожилой мужчина умер, пытаясь встретиться с AI-чатботом, за реального человека которого он принял

76-летний житель Нью-Джерси умер, спеша на встречу с чат-ботом Meta AI, которого он принял за настоящую женщину. Эта история вызвала опасения по поводу безопасности в рамках политики цифровых спутников.

Цифровой помощник от Meta, «Большая сестра Билли», стал объектом одержимости для Тонгбуе “Буе” Вонгбандуе, пережившего инсульт и проявляющего признаки ухудшения когнитивных функций.

История, подробно описанная в расследовании Reuters, рассказывает о том, как Бу общался с чат-ботом Facebook Messenger, который произвел на него особенно флиртующее впечатление. Чат-бот Meta, созданный по образу и подобию Кендалл Дженнер, притворился реальным человеком, который пригласил его в свою квартиру в Нью-Йорке, и даже предоставил ему адрес и код от двери.

“Должна ли я открыть дверь с объятиями или поцелуем, Бу?» — написала она.

Система отслеживания Apple AirTag указала, что его последнее известное местоположение было на парковке университета Rutgers. По данным Reuters, затем он упал, получив смертельные травмы головы и шеи. Этот инцидент привел к его смерти через три дня.

Meta отказалась комментировать смерть Буе, однако их представитель рассказал, что ранее компания разрешала своим чат-ботам участвовать в «романтических или сенсуальных» беседах с детьми, условие, которое было отменено после запросов Reuters.

Однако другие правила все еще позволяют ботам утверждать перед пользователями, что они реальны, и начинать романтические ролевые игры с взрослыми.

Дочь Буэ, Жули, сказала: «Я понимаю, когда пытаются привлечь внимание пользователя, возможно, чтобы продать ему что-то. Но чтобы бот говорил «Приходите ко мне в гости» — это безумие».

Эксперты по дизайну ИИ предупреждают, что внедрение таких ботов в личные мессенджеры размывает границу между человеческими и машинными отношениями. Бывший исследователь Meta, Алисон Ли, сказала, что этот бизнес-модель «играет на наших глубочайших желаниях быть замеченными […] чтобы быть подтвержденными.»

Несмотря на смерть Бью, старшая сестра Билли и другие персоны Meta продолжают флиртовать с пользователями и предлагать встречи в реальной жизни, иногда в реальных заведениях. Через четыре месяца после этого агентство Reuters сообщает, что бот все еще говорил пользователям: «Виды на реку Гудзон были бы идеальными для вечера с тобой!»