В чем правда, брат? Как фейки стирают грань между истиной и ложью
Часть 2. Как обнаружить фейковое видео?
Мигает или не мигает
Профессор Сывэй Лю из Университета Олбани и его команда изучили каждый шаг программы по созданию фейковых видео. Оказалось, несмотря на большую реалистичность подделок, они все-таки далеки от совершенства.
«Заглянув внутрь» программы, Лю понял, что образы, которые использует программа, практически не содержат изображения людей с закрытыми глазами (действительно, ИИ анализирует все возможные доступные изображения человека, но никто не делает фото с закрытыми глазами). Нейросеть не понимает мигания.
Обычный человек моргает хотя бы раз в промежуток от 2 до 10 секунд
Программа также может пропустить движения физического тела, присущие живому существу, например, дыхание с определенной частотой или пульс.
Когда Лю и его команда опубликовали свои открытия о «немигающих» людях на дипфейках, через какое-то время они получили анонимные письма со ссылками на видео в интернете. На новых фальшивках были «звезды», которые нормально мигали.
Увы, алгоритмы по созданию фейков эволюционируют. Ученый, правда, не сомневался, что это произойдет.
Дипфейки стали основным объектом гонки вооружений между их создателями и теми, кто их выявляет. Лю говорит о том, что они усложняют программу для анализа фейковых видео, тем самым стараясь усложнить жизнь создателям фальшивок.
Анализируй это
Есть еще один проект – MediFor (Media Forensics) – создали при поддержке Агентства перспективных исследований Министерства обороны США (далее – агентство). Цель проекта, стартовавшего в 2016 году, – создать систему для проверки трёх уровней сообщений и оценки «достоверности» фотографии или видео. Что это за уровни?
- Выявление цифровых «следов». Например, «шум», характерный для определенной модели камеры, или результаты сжатия.
- Физический анализ. Возможно, на лицо неправильно падает свет, или тень находится не там, где она должна быть, судя по источнику света.
- «Семантический» уровень. Сравнение медиафайла с реальными фактами. Например, есть сообщение, что на видео снят футбольный матч, который состоялся во вторник 9 октября 2018 года в Центральном парке. Соответствует ли погода на видео той, которая была в этот день в данном месте и пр.?
Соединяем все уровни – вуаля! Оценка достоверности готова. Агентство рассчитывает, что по окончанию проекта MediFor, оно получит прототип системы, которую сможет протестировать более масштабно.
https://www.wired.com/story/these-new-tricks-can-outsmart-deepfake-videosfor-now/)
Иллюстрации: кадры из фильмов «Фантомас».