Искусственный интеллект становится движущей силой взрывного роста сексуального шантажа на приложениях для знакомств

Искусственный интеллект облегчает мошенникам проведение схем секс-шантажа в приложениях для знакомств, вызывая срочные опасения среди подростков, студентов и представителей правоохранительных органов.

Практика сексторции существует уже довольно долго, но технологии ИИ позволяют преступникам создавать более убедительные поддельные идентичности. Это позволяет им ускорить контакт с жертвой и создать искусственный сексуальный контент с помощью технологии deepfake, как сообщает Vice.

Федеральное Бюро Расследований США (FBI) определяет сексторшн как метод, при помощи которого преступники обманывают несовершеннолетних, заставляя их делиться откровенными фотографиями, а затем требуют дополнительные изображения или деньги в обмен на нераспространение этих снимков.

Теперь преступники используют профили, созданные с помощью искусственного интеллекта, чтобы создавать поддельные романтические интересы, часто используя фотографии, созданные с помощью технологии deepfake, и чат-ботов. FBI предупреждает, что жертвы обычно принимают мошенников за сверстников, которые предлагают романтические связи или подарки, но на самом деле их манипулируют.

Количество случаев вымогательства среди студентов значительно возросло, сообщает Национальное агентство по борьбе с преступностью. BBC сообщает, что количество случаев вымогательства, связанных с сексторшином, выросло до 8 000 в 2023 году, в то время как в 2014 году их было всего 23.

BBC цитирует Джима Уинтерса, руководителя отдела экономической преступности в Nationwide, который советует молодым людям не молчать: «Вымогательство – одна из самых тяжелых проблем, с которыми приходится сталкиваться, и оно происходит все чаще. Это непросто, но если что-то кажется неправильным, говорите об этом-»

Мошенники теперь используют технологию глубоких подделок для накладывания лиц жертв на порнографический контент, даже если жертвы никогда не распространяли откровенный материал. Этот новый метод шантажа устраняет необходимость в том, чтобы жертвы делились контентом перед началом шантажа.

BBC предлагает, что мошенничество можно определить по повторяющимся фразам в сообщениях, безупречным фотографиям профилей и неестественным моделям диалога. Эксперты из BPS предлагают использовать обратные поиски для проверки подозрительных изображений. Однако эти методы становятся менее эффективными при работе с контентом, созданным с помощью ИИ.

Эксперты подчеркивают необходимость открытого диалога, образования и обновленных стратегий предотвращения, поскольку существует ограниченное количество исследований о том, как искусственный интеллект поддерживает эти преступления. Эти усилия жизненно необходимы для защиты самых уязвимых от цифровых угроз.