З огляду на увагу ЗМІ до глибинних фейків, зловживання ними у політиці все ще є відносно незначним. Їх більше використовують для створення «шок сенсацій», а не як механізм щоденної атаки. Багато існуючих фейкових політичних відео містять  інформацію про те, що вони створені за допомогою технологій машинного навчання. Але це може змінитися, коли таке програмне забезпечення, як Reface, FaceSwap і DeepFaceLab, стане більш доступним для широкої громадськості.

І хоч такі відео вже можна знайти на відеоплатформах, вони мають кілька недоліків, які дозволять розпізнати підробку.

  1. Якщо ви звернете пильну увагу на зуби, ви побачите, що рендеринг буде неправильним.
  2. Деякі ділянки обличчя більш глибокі в порівнянні з іншими частинами.
  3. Рух у підборідді та в районі шиї виділявся на фоні.
  4. Неправильні рухи голови. Багато політиків говорять з набагато більшими та частими рухами голови.

Наступні ознаки також можуть служити орієнтирами при перевірці глибинних фейків. 

Розмитість

Обличчя на багатьох глибинних відеофейках надзвичайно розмиті. На це впливають дві основні причини. По-перше, нове обличчя має добре поєднуватися з рештою зображень. Тому застосовуються фільтри, які злегка розмивають обличчя. По-друге, для створення глибинних фейків використовують зображення облич із низькою роздільною здатністю, щоб навчити кодер. Оскільки час навчання експоненціально зростає зі збільшенням роздільної здатності обличчя, це зменшує потребу в технічних ресурсах, а також час навчання. Раніше багато малобюджетних фільмів використовували роздільну здатність обличчя 64 × 64 пікселі і розмивали обличчя. Та ж логіка працює і при створенні глибинного фейку з фотографій, які були завантажені з Інтернету.

Колір шкіри

При використанні технології заміни обличчя тон шкіри виглядає неприродним.

На іншому відео, яке імітувало виступ премʼєр-міністра Нідерландів Марка Рютте можна помітити артефакти, які вказують на інший відтінок шкіри оригіналу.

Просторова невідповідність

Намагаючись помітити аномалії на обличчі, ми можемо порівняти обличчя з іншими частинами тіла. Очевидно, ви не можете поставити обличчя 60-річного актора на актрису 20-ти, зокрема, Дженніфер Лоуренс. Фактура шкіри і гладкість руки не будуть відповідати обличчю.

Загалом, звертайте увагу на відмінності, включаючи тон, чіткість і текстуру, між обличчям та рештою відео та поточним відеокадром.

«Стрибки» на відео

Одним із головних недоліків глибинних фейків при створенні довгих відео є те, що відеокадри генеруються кадр за кадром незалежно. Така незалежність може генерувати відеокадри з помітними різними тонами, освітленням і тінями. Це призводить до того, що під час відтворення відбуваються дивні «стрибки» у відео, зміна голосового тону, неякісний звук, розмиті плями, дивні форми кінцівок та інші незвичайні невідповідності.

Мерехтіння

Якщо відтворювати підробне відео на швидкості 0,25 від оригінальної, під час руху голови відбувається мерехтіння шкіри та неприродні зміни тону. У глибинних фейках швидкі рухи часто ускладнюють створення кадрів із відповідною плавністю. Намагаючись синзронізуватись з оригінальним часом руху, алгоритм може не встигати накладати кадри, створюючи характерне мерехтіння.

Межі

У глибинних фейках є області, на які слід звернути особливу увагу, щоб виявити підроблені відео. Одна — це межа обличчя, де воно зливається з оригіналом.

Незважаючи на всі ці технічні деталі, які дозволять вам візуально побачити відеофейк, основною стратегією для їхнього виявлення є розуміння контексту та мотивації поширення таких відео. Повертаючись до відео з Володимиром Зеленським ми розуміємо, що поширення такого відео чітко вказує на мотивацію дезорієнтувати глядача, змусити його сумніватися, хоча загальний контекст вказував на те, що Президент України не став би поширювати таке відео поза межами офіційних каналів.

Найголовніше, що треба запам’ятати

  • Створення відео за допомогою машинного навчання виникло в індустрії розваг, але зі здешевленням та доступністю технологій воно почало служити інструментом привернення уваги в соцмережах.
  • Для того, щоб розпізнати підроблене відео, варто звертати увагу на деталі, які біологічно нехарактерні.
  • Як і у випадку з фотофейками, контекст та канал поширення мають вирішальне значення для виявлення та верифікації.

Література та корисні джерела

Тест