Ученые скрывают коды света, чтобы разоблачить поддельные видео с ИИ

Исследователи из Корнельского университета разработали новую технологию, которая поможет проверяющим факты распознать поддельные или манипулированные видео, внедряя секретные водяные знаки в свет.

Исследователи объясняют, что этот метод скрывает практически невидимые колебания освещения во время важных событий или в ключевых местах, таких как пресс-конференции или даже целые здания.

Эти колебания, незаметные для человеческого глаза, зафиксированы в любом видео, снятом под специальным освещением, которое можно запрограммировать на компьютерных экранах, фотографических лампах или существующих встроенных светильниках.

«Видео раньше рассматривалось как источник истины, но теперь мы не можем делать такого предположения», — сказал Абе Дэвис, доцент кафедры компьютерных наук в Корнелле, который придумал эту идею.

«Теперь вы вполне можете создать видео о чем угодно. Это может быть весело, но также и проблематично, поскольку все труднее отличить, что является реальностью», — добавила Дэвис.

Традиционные методы водяных знаков модифицируют видеофайлы напрямую, для чего требуется сотрудничество с камерой или AI-моделью, используемой для их создания. Дэвис и его команда обошли это ограничение, внедрив код прямо в освещение, что гарантирует наличие скрытого водяного знака в любом реальном видео субъекта, независимо от того, кто его записывает.

Каждый закодированный свет создает низкокачественное, снабженное временными метками «кодовое видео» сцены при немного измененном освещении. «Когда кто-то манипулирует видео, измененные части начинают противоречить тому, что мы видим на этих кодовых видео», — объяснила Дэвис.

«А если кто-то пытается создать поддельное видео с помощью ИИ, полученные кодовые видео выглядят как случайные вариации», — добавила Дэвис.

Руководитель проекта Петер Михаэль объяснил, что команда создала незаметные световые коды, опираясь на исследования в области человеческого восприятия. Система использует обычные «шумовые» шаблоны освещения, чтобы сделать обнаружение кода сложным без секретного ключа. Программируемые светильники могут быть закодированы с помощью программного обеспечения, в то время как старые лампы могут использовать маленький чип размером с почтовую марку.

Команде удалось успешно внедрить до трех отдельных кодов для разных светильников в одной и той же сцене, что значительно увеличивает сложность подделки их. Система продемонстрировала свою эффективность на открытом воздухе и при различных оттенках кожи.

Тем не менее, Дэвис предупреждает, что борьба против дезинформации ещё далеко не окончена. «Это важная актуальная проблема», — сказал он. «Она не исчезнет, и, фактически, лишь станет сложнее».