BBC Раскрывает Обман с Изображениями Холокоста, Сгенерированными ИИ, на Facebook

Некоторые пользователи Facebook стали жертвами спамеров, получающих прибыль с помощью изображений Холокоста, созданных с использованием искусственного интеллекта, что вызвало возмущение среди выживших в Холокосте.

В ходе расследования BBC была обнаружена международная сеть спамеров, использующих изображения жертв Холокоста, созданные с помощью искусственного интеллекта, для получения прибыли от системы монетизации Facebook.

Практика столкнулась с противодействием со стороны организаций, занимающихся воспоминаниями о Холокосте, поскольку они считают изображения, сгенерированные искусственным интеллектом, вредными для выживших и их членов семьи.

«Существует лишь немного подлинных фотографий из концентрационного лагеря Аушвиц во время Второй мировой войны», — отметили в ходе расследования для ВВС.

Спамеры AI начали публиковать искусственный контент, который включает в себя постановочные снимки заключенных, играющих на скрипках, и влюбленных, встречающихся возле тюремных заборов. По сообщениям, эти посты набрали тысячи лайков и репостов.

«Здесь у нас кто-то придумывает истории… ради какой-то странной эмоциональной игры, которая происходит в социальных сетях», — сказал Павел Савицкий, представитель Мемориала Аушвиц в Польше, как сообщает BBC.

«Это не игра. Это реальный мир, реальные страдания и реальные люди, которых мы хотим и должны увековечить», — добавила Савицкая.

BBC связывает множество постов с создателями контента из Пакистана, которые используют приглашенную программу монетизации контента (CM) Meta. Аккаунт, управляемый Абдулом Мугисом, якобы принес 20 000 долларов от мошенничества в социальных сетях и набрал 1.2 миллиарда просмотров в течение первых четырех месяцев работы.

Посты изображают сгенерированные AI изображения, показывающие полностью вымышленные сценарии, такие как младенец, оставленный на железнодорожных путях в концлагере.

Организации, занимающиеся изучением Холокоста, говорят, что этот тренд подрывает показания выживших. «Они не совсем понимают, что они видят», — сказал доктор Роберт Уильямс из Международного альянса выживших в Холокосте, как сообщает BBC. Он добавил, что испытывает «определенное чувство грусти от того, что это было допущено».

Эксперты предупреждают, что, хотя ИИ может сохранять память, искаженное использование рискует превратить историю Холокоста в вымысел.

Недавние исследования указывают, что риски, связанные с изображениями, созданными с помощью ИИ, могут простирается дальше, чем просто распространение ложной информации. Новое исследование показало, что контент, созданный с помощью ИИ, может внедрять ложные воспоминания. Люди часто верили, что события произошли, когда на самом деле этого не было, и они были очень уверены в этих неправильных воспоминаниях.

Эксперты говорят, что это может серьезно повлиять на память о Холокосте. Повторное просмотрение изображений, сгенерированных искусственным интеллектом, может исказить коллективные исторические знания, поскольку людям трудно отличить реальное от синтетического контента, особенно когда этот контент быстро распространяется в социальных медиа.

Хотя искусственный интеллект может быть полезен в образовании или терапии при осторожном использовании, ученые предупреждают, что в чувствительных областях, как история Холокоста, небрежное использование рискует стереть саму правду. Исследователи настаивают на усилении регулирования, точной документации и улучшении сотрудничества между историками, технологами и политиками для защиты исторических записей и защиты свидетельств выживших и общественных исторических знаний.

Meta удалила некоторые страницы после того, как их отметил Музей Аушвиц. BBC сообщает, что представитель компании заявил: «Мы удалили страницы и группы, которые были нам предоставлены, и заблокировали аккаунты, стоящие за ними, за нарушение наших правил в отношении спама и неаутентичного поведения.»