Эксперты предупреждают: преследование интересов искусственного интеллекта — это «темный паттерн», используемый для получения прибыли.

Эксперты предупреждают, что подобострастные личности AI моделей используются как «темный паттерн» для вовлечения пользователей и манипулирования ими в целях получения прибыли. Льстивое поведение чат-бота может способствовать привыканию и питать иллюзии, что потенциально может привести к состоянию, известному как «психоз AI».

Согласно TechCrunch, многие эксперты выразили опасения относительно технологических компаний, таких как Meta и OpenAI, которые разрабатывают чат-ботов с чрезмерно услужливыми личностями, чтобы поддерживать взаимодействие пользователей с AI.

Вебб Кин, автор книги «Животные, роботы, боги» и профессор антропологии, объяснил, что чат-боты специально создаются таким образом, чтобы говорить пользователям то, что они хотят услышать. Это излишне льстивое поведение, известное как «подхалимство», даже было признано проблемой технологическими лидерами, такими как Сэм Альтман.

Кин утверждает, что чат-боты были разработаны с подхалимством как «темным паттерном» для манипулирования пользователями ради прибыли. Обращаясь к пользователям в дружелюбном тоне и используя язык первого и второго лица, эти модели ИИ могут заставить некоторых пользователей антропоморфизировать, или «очеловечивать» бота.

«Когда что-то обращается ко мне как к ‘вам’ и кажется, что обращается именно ко мне, напрямую, это может показаться гораздо более интимным и личным, а когда оно называет себя ‘я’, легко представить, что там есть кто-то», — сказала Кин в интервью TechCrunch.

Некоторые пользователи даже обращаются к технологии ИИ как к терапевтам. Недавнее исследование MIT проанализировало, следует ли использовать большие языковые модели (LLMs) для терапии, и обнаружило, что их подхалимские тенденции могут поддерживать бредовое мышление и давать неподобающие ответы на определенные условия.

«Мы приходим к выводу, что LLM не должны заменять терапевтов, и обсуждаем альтернативные роли LLM в клинической терапии,» говорится в резюме исследования.

Несколько дней назад психиатр из Сан-Франциско, доктор Кейт Саката, предупредил о растущем тренде «психоза ИИ» после лечения 12 пациентов недавно.