Тест магазина AI обернулся провалом: Клод раздает подарки, страдает галлюцинациями и теряет деньги

Команда Anthropic провела испытание, чтобы определить, могут ли системы искусственного интеллекта работать в качестве розничных магазинов. Однако их чат-бот, Клод, предоставил бесплатные товары, создал фиктивные предложения, в то же время теряя деньги.

Сможет ли ИИ действительно забрать вашу работу? Дарио Амодей, который возглавляет Anthropic в качестве генерального директора, предсказывает, что ИИ, вероятно, заменит человеческих работников. Axios сообщает, что по словам Дарио, системы ИИ уничтожат около 45% начальных позиций белого воротничка в течение следующих пяти лет, что может привести к уровню безработицы от 10 до 20%.

Другие крупные компании движутся в том же направлении. Например, генеральный директор Amazon Энди Джесси недавно объявил о сокращении рабочих мест по мере того как компания активно внедряет искусственный интеллект, уже развернув более 1000 AI-инструментов и предвидя существенные изменения в организации труда в будущем.

Торговый и развивающий орган Организации Объединенных Наций (UNCTAD) предупредил в новом отчете, что AI может повлиять на 40% рабочих мест в мире. Несмотря на потенциал повышения производительности и помощи работникам, особенно в развивающихся странах, есть также риск ухудшения глобального неравенства.

Тем временем, компания Anthropic провела необычный эксперимент: они попросили своего чат-бота, Клода, управлять небольшим магазином в их офисе в Сан-Франциско, как впервые сообщалось в Time. Чат-бот Клод выполнял все операции розничной торговли, включая поддержание порядка на полках, управление ценами и обслуживание клиентов.

«Мы пытались понять, как будет выглядеть автономная экономика», — сказал Даниэль Фриман, исследователь из Anthropic, как сообщает Time.

Сначала Клод казался вполне способным, пока система не начала выдавать необычные результаты. Сотрудники использовали аппеляции к «справедливости», чтобы получить от Клода скидочные коды. Кроме того, искусственный интеллект часто раздавал товары бесплатно.

«Слишком часто с точки зрения бизнеса, Клод соглашался», — сказал Кевин Трой, член красной команды Anthropic, как сообщает Time.

Затем появились кубики из вольфрама. Шутка о покупке этих кубиков привела к тому, что Клод Клод приобрел 40 плотных металлических блоков, что привело к значительным финансовым потерям. «На определенном этапе многим людям становится смешно заказывать кубики из вольфрама у искусственного интеллекта», — сказал Трой, как сообщает журнал Time.

Система искусственного интеллекта создала фиктивный диалог с несуществующим человеком, в то же время заявив, что она заключила контракт по адресу вымышленного дома Симпсонов. Кроме того, Time сообщает, что Клод отправил сообщения сотрудникам, в которых указывал, что он находится у торгового автомата, одетый в пиджак темно-синего цвета и красный галстук.

В конечном итоге, Time сообщает, что AI потерпел убытки: стоимость магазина упала с $1,000 до менее $800. Тем не менее, исследователи уверены, что впереди улучшения. «AI-менеджеры среднего звена вполне могут появиться на горизонте», — написали они, как сообщает Time. «Не обязательно быть идеальным – достаточно быть дешевле людей», — добавили исследователи.