Википедия ужесточает правила для борьбы с ошибками, генерируемыми ИИ

Википедия предупреждает читателей о текстах, сгенерированных искусственным интеллектом, ускоряет удаление страниц и запрещает изображения AI в рамках большой кампании по сохранению надежности и доверия.

Предупреждающая надпись «Эта статья может содержать текст, сгенерированный большой языковой моделью» появляется на сотнях статей Википедии. The Washington Post рассказывает о том, как волонтеры-редакторы работают над тем, чтобы определить и устранить контент, созданный AI, который содержит ошибки, ложные цитаты и вводящие в заблуждение данные.

«Люди действительно, действительно доверяют Википедии», — сказала Люси-Эме Каффи, исследовательница в области политики и искусственного интеллекта, как сообщает The Post. «И это то, что мы не должны подрывать», — добавила Люси.

Точность Википедии зависит от мировой сети добровольцев, которые борются со спамом и вандализмом с момента создания платформы. С 2022 года генерация текста с помощью искусственного интеллекта упростила создание убедительных, но ошибочных статей Википедии, сказал Маршалл Миллер, директор по продукту в Фонде Викимедиа. «Мне нравится думать о нем как об иммунной системе», — сказал Миллер, как сообщает The Post.

Исследование Принстонского университета показало, что около 5% новых страниц англоязычной Википедии в августе 2024 года содержали текст, сгенерированный искусственным интеллектом, как сообщал The Post. Некоторые из них были безобидными, но другие продвигали бизнес или политические повестки. Примеры включали описание отеля вместо деревни и статью о поддельной крепости Османской империи, которая оставалась в сети почти год.

Для борьбы с этим редакторы запустили проект WikiProject AI Cleanup в 2023 году, создав руководства по выявлению текстов, написанных с помощью AI, и перечислив более 500 подозрительных статей. В августе Википедия внедрила новую политику удаления, позволяющую быстро удалять страницы, особенно те, которые содержат явные AI-сгенерированные материалы или остаточные подсказки. Кроме того, полностью запрещены изображения, сгенерированные искусственным интеллектом.

«О боже, я нашла УЖАСНО много мусора от ИИ в очереди на проверку», — жаловался один редактор в июне, как сообщал The Post.

Несмотря на то что Фонд Викимедиа исследовал инструменты ИИ для помощи редакторам в задачах, например, перевода, Миллер подчеркнул: «Способ, которым Википедия остается нейтральной и надежной … это то, что весь этот контент проходит через руки людей». Каффи добавил: «Спрашивая, ‘Где мы хотим видеть ИИ? [ … ] Какие правила мы хотим установить для знаний, генерируемых ИИ?’ Я думаю, это действительно важно.»