В чем правда, брат? Как фейки стирают грань между истиной и ложью

Как работает ИИ по созданию фейковых видео? Как отличить фейк от реальности? К чему приведёт использование программ по созданию фейковых видео, которые так сложно отличить от реальности? Как нивелировать разрушительную силу видео-фальшивок и вернуть доверие общества?

Мигает или не мигает

Профессор Сывэй Лю из Университета Олбани и его команда изучили каждый шаг программы по созданию фейковых видео. Оказалось, несмотря на большую реалистичность подделок, они все-таки далеки от совершенства.

«Заглянув внутрь» программы, Лю понял, что образы, которые использует программа, практически не содержат изображения людей с закрытыми глазами (действительно, ИИ анализирует все возможные доступные изображения человека, но никто не делает фото с закрытыми глазами). Нейросеть не понимает мигания.

Обычный человек моргает хотя бы раз в промежуток от 2 до 10 секунд

Программа также может пропустить движения физического тела, присущие живому существу, например, дыхание с определенной частотой или пульс.

Когда Лю и его команда опубликовали свои открытия о «немигающих» людях на дипфейках, через какое-то время они получили анонимные письма со ссылками на видео в интернете. На новых фальшивках были «звезды», которые нормально мигали.

Увы, алгоритмы по созданию фейков эволюционируют. Ученый, правда, не сомневался, что это произойдет.

Дипфейки стали основным объектом гонки вооружений между их создателями и теми, кто их выявляет. Лю говорит о том, что они усложняют программу для анализа фейковых видео, тем самым стараясь усложнить жизнь создателям фальшивок.

Анализируй это

Есть еще один проект – MediFor (Media Forensics) – создали при поддержке Агентства перспективных исследований Министерства обороны США (далее – агентство). Цель проекта, стартовавшего в 2016 году, – создать систему для проверки трёх уровней сообщений и оценки «достоверности» фотографии или видео. Что это за уровни?

  1. Выявление цифровых «следов». Например, «шум», характерный для определенной модели камеры, или результаты сжатия.
  2. Физический анализ. Возможно, на лицо неправильно падает свет, или тень находится не там, где она должна быть, судя по источнику света.
  3. «Семантический» уровень. Сравнение медиафайла с реальными фактами. Например, есть сообщение, что на видео снят футбольный матч, который состоялся во вторник 9 октября 2018 года в Центральном парке. Соответствует ли погода на видео той, которая была в этот день в данном месте и пр.?

Соединяем все уровни – вуаля! Оценка достоверности готова. Агентство рассчитывает, что по окончанию проекта MediFor, оно получит прототип системы, которую сможет протестировать более масштабно.

https://www.wired.com/story/these-new-tricks-can-outsmart-deepfake-videosfor-now/)

Иллюстрации: кадры из фильмов «Фантомас».

05.03.2019

Бесплатная консультация


Спасибо, мы скоро свяжемся с вами.

Заказать звонок

Спасибо, мы скоро свяжемся с вами.