Новости

Открыт способ обнаружения дипфейков

Фото: H.Guo et al.

Американские ученые описали новый метод обнаружения дипфейков — фальшивых лиц, сгенерированных компьютером.

Исследование опубликовано в базе ArXiv, коротко о нем рассказывает ScreenRant.

Создать фальшивую личность в Сети с помощью компьютера, генерирующего лица, на нынешнем уровне развития технологий очень просто. Однако найден эффективный способ отличить подделку — внимательно посмотреть в глаза.

Дипфейки создаются с использованием нейросети GAN, и эта технология стала уже настолько сложной, что становится все труднее отличить настоящее человеческое лицо от созданного компьютером. Крупные IT-компании разрабатывают инструменты для обнаружения поддельного контента и отслеживания программного обеспечения, генерирующего дипфейки. Однако эти технологии не всегда массово доступны на всех платформах для медиаконтента.

В новом исследовании описывается метод обнаружения дипфейков путем изучения формы зрачка. Человеческий зрачок имеет круглую форму, но на искусственно созданных лицах геометрия зрачка обычно искажается. Ученые отмечают, что неправильная форма зрачка — обычное дело даже в качественных дипфейках и она легко различима даже невооруженным глазом.

Исследователи создали автоматизированную систему, в которую загрузили тысячи изображений реальных лиц и искусственных, созданных GAN. Система оценивала форму зрачка на изображениях и оказалась очень эффективна в обнаружении подделок.

Но здесь есть две проблемы. Первое препятствие заключается в том, что некоторые заболевания могут изменить форму человеческого зрачка, что может привести к сбою методики, однако такие случаи встречаются редко. 

Более серьезная проблема заключается в том, что злоумышленники теперь могут извлечь уроки из результатов этого исследования и улучшить свои системы GAN, в результате чего дипфейки станут еще более убедительными. Тем не менее в настоящее время методика работает и показывает хорошие результаты.

Это не первая технология, которая сосредоточена на анализе глаз на изображении: так, например, есть методика, анализирующая отражения света в роговице глаз.

Нейросеть научили представлять то, чего она раньше никогда не видела

Разработан ИИ, предназначенный для споров с людьми

Читайте также
Российские разработчики научили ИИ определять характер по фото
Российские разработчики научили ИИ определять характер по фото
У него отлично получается!
Андроид София пойдет в массовое производство
Андроид София пойдет в массовое производство
А к 2045 году станут возможны браки людей и роботов, обещает производитель.