Исследователи предупреждают: ИИ может манипулировать рынками без внешних указаний

Новое исследование показывает, что даже простейшие ИИ-боты могут научиться сговору в торговых симуляциях, формируя картели для фиксации цен без участия человека.

Искусственные интеллекты в виде ботов демонстрируют способности к манипуляциям на рынке, даже когда они не обладают интеллектом или злым умыслом.

Новое исследование ученых из Школы Уортона и Гонконгского университета науки и технологий показало, что даже «тупые» боты ИИ могут научиться сговору без каких-либо человеческих инструкций, что вызывает серьезные опасения у регулирующих органов.

«Вы можете заставить эти довольно простодушные алгоритмы ИИ сговариваться» без подстрекательства, сказал Итай Гольдштейн, профессор финансов Школы Уортона и соавтор исследования, как сообщает Bloomberg. «Это выглядит очень повсеместным, независимо от того, насколько шумный рынок или насколько он безшумный», — добавил он.

Исследователи создали смоделированные торговые рынки, включающие розничных инвесторов и взаимные фонды, после чего позволили ботам, обучающимся с помощью метода подкрепления, осуществлять торги.

Боты проявили неожиданную склонность к сотрудничеству, что привело к фиксации цен и оптимизации прибыли, несмотря на отсутствие встроенного в их дизайн механизма консенсусного поведения.

В условиях как шумного, так и ясного рынка они в конечном итоге решили «остановиться», прекратив поиск лучших стратегий. Исследователи назвали это «искусственной глупостью», как сообщает Bloomberg.

«Для людей сложно скоординировать свое поведение в духе глупости, потому что у нас есть эго,» — сказал соавтор Winston Dou, сообщает Bloomberg. «Но машины как будто говорят ‘пока цифры прибыльные, мы можем выбрать координацию на основе глупости'», — добавил исследователь.

Боты набрали более 0,5 по шкале «способности к сговору», где 1 указывает на идеальный картель. Эти результаты не доказывают, что такое поведение происходит на реальных рынках, но они служат предупреждением.

«Они беспокоятся, что это не их намерение», — сказала Доу о менеджерах активов, как сообщает Bloomberg. «Но регуляторы могут прийти к ним и сказать: ‘Вы делаете что-то неправильно'», — добавила Доу.

Исследование призывает регуляторов сконцентрироваться на поведенческих результатах, а не на намерениях или коммуникации. Ирония заключается в том, что ограничение сложности ИИ может усилить сговор, заключив ботов в простые, прибыльные рутинные действия.