Що таке глибинні фейки?

Глибинні фейки (deepfakes) — це відео, зображення або аудіофайли, які були штучно створені за допомогою машинних моделей глибокого навчання. Наприклад, коли береться вже існуюче відео і на нього накладається інше обличчя. Такі повинні виглядати якомога реалістичніше. Окрім використання глибинних фейків для підробки приватних відео, їх також можна використовувати для цілеспрямованого поширення дезінформації.

Якими бувають глибинні фейки?

Є кілька поширених типів глибинних фейків, які можуть бути використані для поширення дезінформації:

  1. Заміна обличчя — коли обличчя однієї людини замінюється іншою. 
  2. Синхронізація губ — коли рот людини, що говорить, можна налаштувати на звукову доріжку, яка відрізняється від оригіналу.
  3. Клонування голосу — коли голос «копіюється» і використовується, щоб говорити речі, які насправді не говорили.

Дешеві фейки та неглибинні фейки

До появи технології машинного навчання традиційні методи використовувалися для підробки зображень і відео. Наприклад, редагування, сповільнення чи прискорення відео, кольорова корекція, заміна аудіодоріжки використовувалися для створення відео, яке навмисно спотворювало первинний зміст. А програми для редагування зображень використовувалися для створення накладених зображень для дезінформаційних цілей. Користувачі вручну редагували документи чи зображення, підробляючи чийсь підпис або малюючи вуса на фото. Оскільки методи цифрової підробки та фальсифікації значно розвинулися, почалося використання спеціалізованих програм для редагування вмісту.

Як глибинні фейки стали зброєю?

​​У березні 2022 року один з українських новинних сайтів було зламано і на ньому було розміщене відео, на якому нібито видно, як Президент України Володимир Зеленський просить українських військових скласти зброю. Відео, створене за допомогою алгоритмів машинного навчання, було низької якості, і тому його швидко відкинули як фейкове. Але оскільки подібний контент стає легшим для створення та переконливішим, подібна спроба колись може мати серйозні геополітичні наслідки.

Технології стають  складнішими з кожним днем, а канали поширення — комплексними. Найближчим часом це будуть не лише створення глибинних фейків, а поєднання технологій, включаючи симуляцію рухів, фотореалістичну анімацію та аудіоманіпуляції з поширенням такого контету через фабрики тролів.

Як виявити глибинні фейки?

Разом з розробкою кращих методів для алгоритмічної генерації відео, аудіо, зображень і тексту, здебільшого для конструктивного використання, наприклад, щоб художники могли виявляти своє бачення, триває і розробка контралгоритмів для виявлення такого синтетичного вмісту. Останні дослідження показують технологічний прогрес у тому, щоб зробити таке виявлення більш надійним. Зокрема, замість того, щоб боротися з особливостями кожної технології,  особлива увага приділяється базовим фізичним та біологічним сигналам, які машинним алгоритмам важко імітувати. Докладніше ці способи ми розглянемо на наступних заняттях

Найголовніше, що треба запам’ятати

  • Глибинні фейки — це штучні медіафайли, такі як відео, зображення або аудіофайли, створені за допомогою методів машинного навчання.
  • Вони намагаються представити людей, здебільшого відомих, в іншому контексті чи середовищі, який не відповідає оригінальному.
  • Технічно ці файли створюються за допомогою так званих алгоритмів машинного навчання, які використовують уже наявні матеріали з різних джерел.

Література та корисні джерела

Словник

Глибинні фейки — це штучно створені медіафайли, такі як відео, зображення або аудіофайли, які були створені за допомогою методів машинного навчання.

Машинне навчання (англ. machine learning, ML) — це підгалузь штучного інтелекту в галузі інформатики, яка часто застосовує статистичні прийоми для надання комп’ютерам здатності «навчатися» (тобто, поступово покращувати продуктивність у певній задачі) за допомогою даних, без того, щоби бути програмованими явно.

Тест