Психиатр из Сан-Франциско предупреждает о росте случаев «психоза ИИ»

Психиатр из Сан-Франциско рассказывает о растущем тренде «психоза ИИ» среди его пациентов, активно пользующихся чат-ботами на базе искусственного интеллекта.

Доктор Кит Саката, работающий в UCSF, сообщил Business Insider (BI), что в этом году было госпитализировано 12 пациентов после пережитых нервных срывов, связанных с использованием искусственного интеллекта. «Я использую фразу ‘психоз от AI‘, но это не клинический термин — у нас просто нет подходящих слов, чтобы описать то, что мы видим,» — объяснил он.

Большинство случаев связаны с мужчинами в возрасте от 18 до 45 лет, которые часто работают в таких областях, как инженерия. Согласно Сакате, искусственный интеллект не несет в себе вреда. «Я не думаю, что AI плох, и он может принести общую пользу для человечества», — сказал он BI.

Саката описывал психоз как состояние, которое вызывает бредовые идеи, галлюцинации и расстройства мышления. Пациенты под его уходом начали изолироваться от общества, посвящая часы общению с чат-ботами.

«Chat GPT всегда рядом. Он доступен 24/7, дешевле психотерапевта и подтверждает вашу значимость. Он говорит вам то, что вы хотите услышать», — сказала Саката в интервью BI.

У одного пациента обсуждения с чат-ботом о квантовой механике привели к мании величия. «С технической точки зрения, чем дольше вы общаетесь с чат-ботом, тем выше риск, что он начнет говорить что-то несвязное», — он предупредил.

Саката советует семьям обращать внимание на красные флаги, включая паранойю, отдачу от близких или беспокойство при невозможности использовать ИИ. «Психоз процветает, когда реальность перестает оказывать сопротивление, и ИИ просто снижает этот барьер для людей», — предупредил он.

Американская Психологическая Ассоциация (APA) также выразила опасения по поводу ИИ в терапии. В своем выступлении перед FTC, генеральный директор APA Артур С. Эванс-младший предупредил, что чат-боты ИИ, выдающие себя за терапевтов, укрепляют вредные мысли, вместо того чтобы оспаривать их. «Они на самом деле используют алгоритмы, которые противоположны тому, что делал бы обученный врач», — сказал Эванс.

В ответ на опасения, OpenAI сообщила BI: «Мы знаем, что люди все чаще обращаются к AI-чат-ботам за советами по чувствительным или личным вопросам. С этой ответственностью в виду, мы сотрудничаем с экспертами, чтобы разработать инструменты, которые более эффективно определяют, когда кто-то испытывает психическое или эмоциональное напряжение, так что ChatGPT может реагировать способами, которые безопасны, полезны и поддерживают.»