У грудні 2019 року Фейсбук видалив 682 облікові записи, які ймовірно використовували оманливі методи, щоб проштовхнути протрампівські наративи приблизно для 55 мільйонів користувачів. Як заявили представники компанії, деякі з цих облікових записів використовували фотографії профілю, згенеровані машинним методом і які видавали себе за американців. Переважно фотографії бралися з загальнодоступного веб-сайту, який використовував модель StyleGAN для створення фотографій профілю. Наведені нижче фотографії створені за допомогою покращеної версії під назвою StyleGAN2, яка також є загальнодоступною.

Але якщо ви придивитесь до цих фотографій, то побачите кілька невідповідностей, які вказуватимуть на роботу машинного алгоритму:

  • Текстура фону здається неправильною. Відтворені структури не зберігають правильну форму ліній або форм.
  • Алгоритму важко підтримувати симетрію. Наприклад, в одному вусі може бути сережка, а в іншому немає. На фото вище у дівчини у лівому нижньому куті «зникло» плече.

Незалежно від того, чи ви дивитесь на згенероване відео чи зображення, звертайте у на одну з цих 8 ознак, які дозволять вам розпізнати глибинний фейк за допомогою методів критичного мислення:

  1. Зверніть увагу на обличчя. Здебільшого маніпуляції відбуваються саме з обличчям, тож саме там можна знайти найбільше артефактів.
  2. Зверніть увагу на щоки і лоб. Шкіра здається занадто гладкою або занадто зморшкуватою? Чи схоже старіння шкіри на старіння волосся та очей?
  3. Зверніть увагу на очі і брови. Чи з’являються тіні в місцях, де вони мають бути? Глибинні фейки не завжди можуть повністю відобразити природну фізику сцени.
  4. Зверніть увагу на окуляри. Чи є відблиски? Чи забагато відблисків? Чи змінюється кут відблиску, коли людина рухається? І знову глибинні фейки можуть не повністю відобразити природну фізику освітлення.
  5. Зверніть увагу на волосся на обличчі або їх відсутність. Чи волосся на обличчі виглядає справжнім? Машинний алгоритм може додати або видалити вуса, бакенбарди або бороду. Але вони можуть зробити трансформації волосся на обличчі повністю природними.
  6. Зверніть увагу на родимки на обличчі. Чи виглядає родимка справжньою?
  7. Зверніть увагу на моргання. Людина моргає достатньо чи занадто багато?
  8. Зверніть увагу на рухи губ. Деякі глибинні фейки засновані на синхронізації губ. Чи виглядають рухи губ природними?

Загальні принципи верифікації зображень можна звести до 4 основних кроків

1. Зверніть увагу на дивні деталі

Важливо завжди аналізувати деталі на зображеннях і шукати розбіжності, коли щось виглядає не так. На оброблених зображеннях зазвичай не вистачає реалістичного освітлення, а руки часто спотворені цифровим способом. Отже, якщо це більше схоже на картину, ніж на справжнє зображення, то, ймовірно, це підробка.

2. Неприродні або розмиті риси

Іншими прикладами глибоких фейкових зображень, які нещодавно привернули широку увагу, були зображення, що неправдиво зображують арешт Трампа — колишньому президенту в квітні 2023 року було пред’явлено звинувачення в прихованій виплаті грошей двом жінкам, які заявили, що мали з ним сексуальні контакти, і зображення Папи Римського в пуховику.

Зверніть увагу що на зображенні Папи в білому пухкому жакеті його окуляри деформовані та, здається, не підходять. Крім того, швидкий погляд на його праву руку показує, що пляшка з водою, яку він тримає, має дивну форму, через яку виглядає, ніби вона розтанула.

3. Щось дивне на фоні?

Ще один спосіб визначити, чи зображення створено нейромережею, — це деталі на фоні зображення.

Наприклад, на зображенні президента Франції Еммануеля Макрона, який працює смітником у розпал протестів проти пенсійної реформи у Франції, нерозбірливі написи на мішках для сміття, дивний капюшон, що зʼєднаний з костюмом, прожилки в районі шиї — все це свідчить, що зображення є підробкою.

Люди, які живуть у Франції, можуть також помітити, що пішохідний світлофор на задньому плані зовсім не схожий на той, який ми знайдемо в Парижі чи будь-якому іншому місті країни.

4. Невдалі руки та написи

Машинним алгоритмам все ще важко правильно писати слова в графічному середовищі. На фальшивому зображенні арешту Макрона слово «поліція» на шоломах і формі поліцейських написано неправильно – а на правій руці Макрона шість пальців.

Зверніть також увагу на текстуру асфальту та деформації облич та ніг поліцейських. Поліцейський позаду фальшивого Макрона взагалі не має однієї ноги.

Як бачите, елементарна увага до деталей та розуміння контексту повідомлення може допомогти при виявленні фейкових зображень, які згенеровані машинними алгоритмами.

Найголовніше, що треба запам’ятати

  • Машинні алгоритми досягли значного прогресу в створенні реалістичних зображень, які отримали своє застосування не тільки в індустрії розваг, але й використовуються для дезінформації та пропаганди.
  • Щоб помітити згенероване зображення, звертайте увагу на фон, неприродні чи розмиті риси, дивні деталі та надписи.
  • Найголовнішим способом верифікації глибинних фотофейків залишається розуміння контексту та каналу поширення.

Література та корисні джерела

Тест