Spotify размещал поддельные подкасты, продававшие рецептурные препараты

Spotify столкнулся с критикой после того, как сотни поддельных подкастов рекламировали незаконную продажу наркотиков, вызывая опасения по поводу злоупотребления искусственным интеллектом и слабой модерацией платформы.

Spotify подвергается критике из-за того, что на его платформе размещены множество поддельных подкастов, которые рекламируют рецептурные препараты без медицинского разрешения.

Business Insider (BI) и CNN провели расследования, которые показали, что эти так называемые подкасты были мало чем больше, чем 10-секундными аудиоклипами или даже оставались тихими, возможно, служа прикрытием для нелегальных интернет-аптек.

Контент явно нарушал собственные правила Spotify и, в некоторых случаях, нарушал федеральное законодательство. Один из подкастов заявил: «Купите трамадол в один клик […] без рецепта с легальной доставкой в США», как сообщает BI. CNN отмечает, что другие имели названия вроде «Мой магазин Аддеролла» и рекламировали опиоиды, такие как Оксикодон и Викодин.

Платформа удалила более 200 таких страниц после репортажей Business Insider и жалоб пользователей социальных сетей. CNN обнаружила, что некоторые прямые подкасты продолжали существовать, даже после того как некоторые из них были удалены. Представитель Spotify объяснил CNN и BI, что компания постоянно прилагает усилия для выявления и устранения нарушающего контента на своем сервисе.

Эксперты говорят, что появление инструментов искусственного интеллекта сделало создание этих мошеннических подкастов проще, чем когда-либо. Многие использовали роботизированные голоса или просто обложки с кликабельными ссылками, обходя автоматизированные системы модерации Spotify. По данным CNN, некоторые подкасты были активны в течение нескольких месяцев до удаления.

Кэти Пол из проекта «Прозрачность технологий» предупредила, что «большинство платформ не несут ответственности за контент, созданный пользователями, такой как эти фальшивые подкасты», добавив, что особенно сложно модерировать контент, основанный на голосе.

Фальшивые шоу направляли пользователей на сайты, которые обещали доставить Аддералл и Метадон без рецептов, однако ни BI, ни CNN не смогли подтвердить успешные покупки. Закон устанавливает, что препараты по рецепту должны выдаваться уполномоченными медицинскими специалистами.

Инцидент вызвал новые требования к усилению контроля, поскольку семьи и должностные лица обеспокоены растущей угрозой продажи поддельных лекарств в интернете после недавних смертей подростков от передозировки таблетками, купленными в интернете.