Мошенничество с ИИ использует голос Рубио для атаки на государственных служащих

Неизвестный имитатор использовал ИИ для имитации голоса и стиля письма Государственного секретаря Марко Рубио, и, как следствие, обращался к высокопоставленным чиновникам через голосовые и текстовые сообщения.

The Washington Post получил кабельное сообщение от Государственного департамента, подтверждающее, что как минимум пять человек получили сообщения от этого подделщика, включая трех иностранных министров, губернатора США и члена Конгресса.

Согласно The Post, подделка начала свою кампанию в середине июня, создав аккаунт Signal под именем «[email protected]», вместо реального адреса электронной почты Рубио. Затем подделка начала отправлять сообщения через зашифрованное приложение Signal.

«Актер оставил голосовые сообщения в Signal по крайней мере двум целевым лицам и, в одном случае, отправил текстовое сообщение с приглашением собеседнику общаться в Signal», — говорится в кабельном сообщении, как

Американские чиновники до сих пор не знают, кто стоит за этим мошенничеством, но полагают, что целью является доступ к конфиденциальной информации или аккаунтам. Государственный департамент США заявляет, что проведет тщательное расследование и продолжит внедрять меры безопасности для предотвращения подобного в будущем, как сообщает The Post

Случай с Рубио присоединяется к другим недавним эпизодам этой растущей тенденции, поскольку инструменты Искусственного Интеллекта делают это мошенничество проще, чем когда-либо. В мае поддельник, выдающий себя за главу администрации Белого дома Сьюзи Уайлз, отправлял фальшивые сообщения сенаторам и руководителям. «Вам всего лишь нужно 15-20 секунд аудиозаписи того человека», — сказал Хани Фарид, эксперт по цифровой криминалистике из Университета Калифорнии в Беркли, в интервью The Post.

«Вы загружаете его на любое количество сервисов, нажимаете кнопку, которая говорит: «У меня есть разрешение использовать голос этого человека», а затем вводите то, что хотите, чтобы он сказал», — добавила Фарид.

FBI предупреждает, что злоумышленники используют клонирование голоса с помощью ИИ в «текущих» кампаниях по манипулированию американскими чиновниками, как сообщает The Post. Агентство настоятельно рекомендует всем, кто получает подозрительные сообщения, немедленно сообщать об этом. Подделка личности федерального чиновника с целью обмана или получения какой-либо выгоды является преступлением.

Тревога по поводу эксплуатации искусственного интеллекта теперь пересекается с более широкими опасениями в области федеральной кибербезопасности. Департамент государственной эффективности (DOGE), основанный Илоном Маском, вызвал тревогу среди IT-экспертов, которые предупреждают, что группа представляет беспрецедентную угрозу для национальных систем.

Несмотря на отсутствие квалифицированных специалистов, DOGE стремился и, по данным отчетов, получил доступ к критически важным американским учреждениям, таким как Казначейство, OPM и FAA.

Эксперты говорят, что даже доступ только для чтения может допустить утечку данных или системное нарушение. «Это самое крупное нарушение защиты данных и самое крупное нарушение ИТ-безопасности в истории нашей страны — по крайней мере, из того, что известно публично», — заявил федеральный подрядчик.

Пересечение между кампаниями подделки на основе ИИ и нерегулируемым доступом к чувствительным системам создало то, что один эксперт назвал «идеальным штормом» цифровой неустойчивости.