Забастовки голода направлены на AI лаборатории на фоне растущих опасений о «сверхчеловеческом» интеллекте

Двое активистов начали голодовку перед офисами Anthropic и DeepMind, требуя от компаний прекратить разработку продвинутых систем искусственного интеллекта.

Гвидо Райхштадтер провел семь дней без еды у здания офиса Anthropic в Сан-Франциско, продолжая свой протест. Активист сообщил Business Insider, что он будет поддерживать свою голодовку до тех пор, пока Anthropic не ответит на его требования.

«DeepMind, Anthropic и другие компании, работающие в области ИИ, соревнуются в создании все более мощных систем искусственного интеллекта. Эксперты предупреждают нас о том, что эта гонка за все более мощным общим искусственным интеллектом ставит под угрозу нашу жизнь и благополучие, а также жизнь и благополучие наших близких», — написал он на X.

Действительно, недавнее исследование предупреждало, что компании, работающие в области ИИ, стремятся к системам уровня человека без должных планов безопасности. В новом отчете Института будущего жизни ни одной компании не была присвоена оценка выше C+ по готовности к экзистенциальному риску.

Эксперты опасаются, что искусственный общий интеллект может появиться уже через десятилетие, тем не менее, стратегии безопасности остаются «неприемлемыми», оставляя общество уязвимым, поскольку модели ИИ становятся все сложнее для понимания.

Рейхштадтер, основатель организации Stop AI, утверждает, что стремление к «сверхчеловеческому» ИИ представляет собой экзистенциальные риски. «В реальном мире, в котором мы живем сейчас, все передовые лаборатории стремятся как можно быстрее к полностью общим сверхчеловеческим системам. Вот что нужно остановить,» — сказал он Business Insider.

В первый день протеста он передал письмо генеральному директору Anthropic Дарио Амодеи с просьбой прекратить разработку модели границ.

Сам Амодеи предупреждал о экономическом влиянии ИИ, заявив в мае: «Искусственный интеллект может уничтожить 50% начальных должностей в сфере белого воротничка в течение следующих пяти лет».

Он заметил в интервью для Business Insider, что ранее проводил 15-дневную голодовку в Майами в связи с климатическим кризисом, и это не повредило его здоровью. Он также был арестован за закрепление дверей офиса OpenAI в Сан-Франциско и готовится к суду в этом месяце.

Его протест вдохновил Майкла Траззи, 29-летнего бывшего исследователя в области безопасности ИИ, который уже три дня проводит голодовку у штаб-квартиры DeepMind в Лондоне. Business Insider сообщает, что Траззи заявил, что его требование простое: «Мое единственное желание, конкретно, я хочу, чтобы Демис сказал, что он больше не будет выпускать пограничные модели, если другие лаборатории ИИ на границе также прекратят это делать».