У дипфейков появилось сердце
Технологии дипфейковых видео продвинулись настолько, что у изображенных на них персонажей появился даже пульс, что позволяет обманывать традиционные методы определения подлинности.
Благодаря кровотоку цвет лица реального человека слегка меняется с частотой сердцебиения — на этой особенности организма основана работа датчиков умных часов и пульсоксиметров. Теперь этому научились и виртуальные герои, установили авторы нового исследования в Frontiers in Imaging.
«Теперь мы знаем, что даже если у человека на видео можно измерить пульс — это не значит, что он настоящий», — заметил профессор Хани Фарид из Калифорнийского университета в Беркли.
Это открытие совершено на фоне растущего числа случаев, когда дипфейки — цифровые подделки или видео, созданные искусственным интеллектом, — заманивают как знаменитостей, так и обычных людей в убедительные, но фальшивые порнографические материалы, финансовые аферы и политическую пропаганду. Поддельные видео пытались идентифицировать, анализируя изменения цвета кожи, связанные с кровотоком и частотой сердечных сокращений, но новое исследование показывает, что некоторые дипфейковые видео уже могут имитировать правдоподобный пульс.
Немецкие ученые разработали детектор дипфейков, способный анализировать пульс людей в видео. Его эффективность они проверили на серии реальных роликов с участием дюжины людей, которые снимались с одновременной регистрацией сердцебиения.
Затем в эти записи вмонтировали цифровые измененные лица — и оказалось, что детектор воспринимает пульс как реалистичный как в фейках, так и в настоящих видео.
«То, что один или несколько генераторов дипфейков могут воспроизводить этот физиологический сигнал, не означает, что все генераторы на это способны», — успокоил Фарид.
Авторы работы пошли дальше в своих изысканиях — точность новой версии детектора, которая оценивает локальные паттерны кровотока в коже лица из видео, удалось довести до 87,4%.
Увы, и такие методы могут иметь «ограниченный срок действия», признал профессор Сивэй Лю из Университета Буффало в Нью-Йорке: новые генеративные ИИ-инструменты смогут еще убедительнее имитировать реалистичное сердцебиение и другие физиологические сигналы, а извлечь данные о пульсе из низкокачественных видео бывает сложно.
По его мнению, более эффективными могло бы быть выявление тонких различий между настоящими и дипфейковыми видео, таких как яркость пикселей изображения, которые «неочевидны для человеческого глаза».
