Открыт способ обнаружения дипфейков
Американские ученые описали новый метод обнаружения дипфейков — фальшивых лиц, сгенерированных компьютером.
Исследование опубликовано в базе ArXiv, коротко о нем рассказывает ScreenRant.
Создать фальшивую личность в Сети с помощью компьютера, генерирующего лица, на нынешнем уровне развития технологий очень просто. Однако найден эффективный способ отличить подделку — внимательно посмотреть в глаза.
Дипфейки создаются с использованием нейросети GAN, и эта технология стала уже настолько сложной, что становится все труднее отличить настоящее человеческое лицо от созданного компьютером. Крупные IT-компании разрабатывают инструменты для обнаружения поддельного контента и отслеживания программного обеспечения, генерирующего дипфейки. Однако эти технологии не всегда массово доступны на всех платформах для медиаконтента.
В новом исследовании описывается метод обнаружения дипфейков путем изучения формы зрачка. Человеческий зрачок имеет круглую форму, но на искусственно созданных лицах геометрия зрачка обычно искажается. Ученые отмечают, что неправильная форма зрачка — обычное дело даже в качественных дипфейках и она легко различима даже невооруженным глазом.
Исследователи создали автоматизированную систему, в которую загрузили тысячи изображений реальных лиц и искусственных, созданных GAN. Система оценивала форму зрачка на изображениях и оказалась очень эффективна в обнаружении подделок.
Но здесь есть две проблемы. Первое препятствие заключается в том, что некоторые заболевания могут изменить форму человеческого зрачка, что может привести к сбою методики, однако такие случаи встречаются редко.
Более серьезная проблема заключается в том, что злоумышленники теперь могут извлечь уроки из результатов этого исследования и улучшить свои системы GAN, в результате чего дипфейки станут еще более убедительными. Тем не менее в настоящее время методика работает и показывает хорошие результаты.
Это не первая технология, которая сосредоточена на анализе глаз на изображении: так, например, есть методика, анализирующая отражения света в роговице глаз.
Нейросеть научили представлять то, чего она раньше никогда не видела
Разработан ИИ, предназначенный для споров с людьми
