Разработана технология для определения дипфейков
Эксперт по мультимедиа и цифровой криминалистике Сивэй Лю разработал инструмент, способный обнаруживать дипфейки с точностью 94%, анализируя отражение в роговице.
Статья об этом опубликована на портале arXiv, коротко о работе рассказывает Daily Mail.
Дипфейки названы так потому, что они создаются с использованием глубинного обучения (deep learning). Это методика синтеза изображения с использованием искусственного интеллекта (ИИ). Дипфейки — это поддельные видеоролики, где изображение конкретного человека накладывается на исходное.
Дипфейки создаются путем ввода в компьютер алгоритма или набора инструкций, а также множества изображений и звука целевого человека. Затем компьютерная программа учится имитировать выражение лица, манеры, голос и интонации человека. Имея достаточное количество видео и аудио, возможно объединить фальшивое видео человека с фальшивым аудио и заставить его говорить или делать все что угодно.
Эта технология привлекла внимание во время сезона выборов 2020 года, поскольку многие разработчики опасались, что политтехнологи воспользуются ею для подрыва репутации политических противников. Часто дипфейки объединяют тела порноактрис с лицами ничего не подозревающих женщин и девочек. В этом случае дипфейки используются для шантажа или разрушения репутации.
Новый инструмент может обнаруживать дипфейки, отслеживая свет, отраженный в глазах объекта. На реальной фотографии оба глаза должны иметь одинаковые отражающие узоры.
«Роговица похожа на идеальное полушарие и обладает высокой отражающей способностью, — пояснил Сивэй Лю. — Большинство людей упускают это из виду, потому что это не то, на чем мы обычно концентрируемся, глядя на человеческое лицо».
Поскольку ИИ использует много фотографий и видео для создания дипфейков, поддельным роликам часто не хватает этой детали. При тестировании система, которая анализирует световые отражения в глазах испытуемых, продемонстрировала 94-процентную эффективность.
Лю признает, что эта техника не безупречна, поскольку требует наличия источника отраженного света, а опытный художник дипфейков может исправить несоответствие световых отражений на этапе постобработки.
Сивэй Лю также является автором онлайн-ресурса Deepfake-o-meter, куда можно отправлять видео, чтобы проверить их на подлинность.
Фото: Shutterstock
ИИ «оживил» Марию Кюри, Чарльза Дарвина и Альберта Эйнштейна
«Белые против черных»: алгоритм YouTube заблокировал канал о шахматах за расизм
