PromptLock: Как AI может активизировать атаки вирусов-вымогателей

Компания по кибербезопасности ESET объявила о обнаружении того, что ее исследователи называют «первым известным рансомваром на базе ИИ».

Злонамеренное программное обеспечение, называемое PromptLock, демонстрирует, как искусственный интеллект может быть использован в опасных киберугрозах. Исследователи из ESET объясняют, что PromptLock может красть данные, шифруя файлы, и уничтожать информацию. Однако, исследователи утверждают, что эта разрушительная функция пока не активирована.

Другими словами, выглядит так, что вымогательское ПО еще не использовалось в реальных атаках. В связи с этим, ESET считает, что эта программа либо является незавершенным доказательством концепции, либо проектом, который все еще находится в стадии разработки.

«Вредоносное ПО PromptLock использует модель gpt-oss-20b от OpenAI локально через API Ollama для генерации вредоносных Lua-скриптов на лету, которые затем исполняются. PromptLock использует Lua-скрипты, сгенерированные из зашитых в коде команд, для перечисления файловой системы на локальном компьютере, проверки целевых файлов, выведения выбранных данных и выполнения шифрования», — говорят исследователи из ESET.

Они добавили: «Рансомвэр PromptLock написан на Golang, и мы выявили варианты для Windows и Linux, загруженные на VirusTotal». Golang — это гибкий язык программирования, который часто используют разработчики вредоносного ПО, потому что он может работать на разных платформах.

Эксперты давно предупреждали, что ИИ может дать хакерам новые инструменты. «Модели ИИ облегчили создание убедительных фишинговых сообщений, а также изображений, аудио и видео deepfake», — отметили в ESET. С широким распространением этих инструментов, даже нападающие с ограниченными техническими навыками могут запускать более продвинутые атаки.

Например, исследователи из CloudSek недавно обнаружили, что хакеры могут встраивать инструкции по рансомвару в документы через AI-суммаризаторы. «Была идентифицирована новая адаптация техники социальной инженерии ClickFix, которая использует невидимое внедрение команд для оружия в системах AI-суммаризации», — сказали они.

Зараженные AI-суммаризаторы могут создавать опасные инструкции с помощью трюков с невидимым текстом и повторяющихся скрытых команд, заставляя пользователей невольно выполнять вредоносные задачи автоматически.

Ransomware превратился в основную угрозу кибербезопасности, которую часто используют как преступники, так и продвинутые хакерские группы. Обнаружение технологии PromptLock указывает на то, что системы искусственного интеллекта могут усилить эти атаки ransomware, автоматизируя сканирование файлов, кражу данных и корректировку тактики в реальном времени.

Хотя PromptLock еще может не быть активно использован, исследователи говорят, что это подчеркивает будущее кибератак, основанных на искусственном интеллекте.