Технології полегшують і здешевлюють шахраям можливість імітувати голоси, переконуючи людей, часто літніх, що їхні близькі в біді. У 2022 році шахрайство із самозванцями було другим за популярністю рекетом у США. Згідно з даними Федеральної торгової комісії, за весь рік налічується понад 36 000 повідомлень про інциденти, що люди були ошукані тими, хто прикидався друзями та родиною. Понад 5100 із цих інцидентів сталися по телефону, і призвели до понад 11 мільйонів доларів збитків.
Удосконалення технологій лінгвістичних нейромереж підняли глибинні фейки голосу на новий рівень, дозволяючи шахраям відтворювати голос за допомогою аудіозапису лише з кількох речень. Завдяки розвитку нейромереж безліч дешевих онлайн-інструментів може перетворити аудіофайл на копію голосу, дозволяючи шахраям змусити його «говорити» те, що вони вводять.
Хоча шахрайство з боку самозванців має багато форм, вони, по суті, працюють однаково: шахрай видає себе за людину, яка заслуговує на довіру — дитину, родича чи друга — і переконує жертву надіслати їм гроші, оскільки вони в біді. Програмне забезпечення для створення штучного голосу аналізує те, що робить голос людини унікальним, включаючи вік, стать і акцент, і здійснює пошук у великій базі даних голосів, щоб знайти схожі та передбачити повторювальні характеристики. Потім він може відтворити висоту, тембр і окремі звуки голосу людини, щоб створити схожий загальний ефект. Для цього потрібен короткий зразок аудіо, взятий з Ютуб, подкастів чи відео з соцмереж.
Загалом можна виокремити три типи форм аудіофейків: компіляція справжніх уривків голосу, імітація голосу, конвертація тексту в голос. Алгоритми машинного навчання застосовуються тільки в останніх двох, тоді як компіляція передбачає звичайний монтаж.
Як відбулося і з іншими технологіями, глибинні фейки з імітації голосів почали використовувати і з метою поширення політичної пропаганди. В одному прикладі згенерований голос, який звучить так, ніби акторка Емма Вотсон читає частину «Моєї боротьби» Гітлера. В іншому голос, дуже схожий на Бена Шапіро, робить расистські зауваження щодо Александрії Окасіо-Кортес. Дуже швидко застосування технологій зсунулось від створення голосів заради забави до пропаганди жорстокості та расизму.
У цьому випадку верифікація не працюватиме, оскільки перевірка голосу вимагає спеціального обладнання та алгоритмів, які б вловлювали біологічні особливості голосу, і тому одним з рішень стало обмеження неконтрольованого використання цієї технології. Самі ж технології ще розвиваються, бо станом на початок 2023 року згенеровані машинними алгоритмами голоси все ще звучать неприродно. Втім, ці обмеження не зупинять високомотивованих пропагандистів, які хочуть завдати шкоди.
Зокрема, 15 листопада 2022 року, в ніч коли на польське село біля кордону з Україною впала ракета, Дуда провів 7-хвилинну розмову з президентом Франції Еммануелем Макроном. Принаймні так його змусили повірити. Запис телефонної розмови англійською мовою пізніше опублікував у мережі російський дует пранкерів Вован і Лексус, якому вдалося вдруге за останні роки обдурити Дуду (в 2020 році вони видавали себе за генерального секретаря ООН Антоніу Гутерреша).
Хоч польський президент і заявив, що він запідозрив розіграш, йому на це знадобилось 7 хвилин. У цьому випадку не застосовувалась повна підміна голосу, але навіть з нею технологія роботи з довірою залишилась би незмінною. Цей дзвінок не мав геополітичних наслідків, але підняв питання про вразливість перших осіб держав перед сучасними технологіями.
Основні рекомендації для верифікації глибинних фейків з імітації голосу є такими ж, як і при будь-якій верифікації. Будьте уважні до несподіваних дзвінків, навіть від людей, яких ви добре знаєте. Крім того, не покладайтеся на ідентифікатор абонента, оскільки його також можна підробити. Наприклад, якщо вам дзвонить хтось, хто стверджує, що представляє ваш банк, покладіть трубку та зателефонуйте безпосередньо в банк, щоб підтвердити законність дзвінка. Обов’язково використовуйте номер, який ви записали, зберегли у списку контактів або можете знайти в Google.
Крім того, будьте обережні зі своєю особистою ідентифікаційною інформацією, як-от ідентифікаційний номер, домашня адреса, дата народження, номер телефону, по батькові та навіть імена ваших дітей і домашніх тварин. Шахраї можуть використовувати цю інформацію, щоб видати себе за вас перед банками, ріелторами та іншими.
Ось ще одна порада: пізнайте себе. Зокрема, знайте свої інтелектуальні та емоційні упередження та вразливі місця. Загалом це хороша життєва порада, але вона має ключове значення, щоб захистити себе від маніпулювання. Зазвичай шахраї намагаються викрити ваші фінансові тривоги, політичні прихильності чи інші схильності, якими б вони не були, а потім використовують їх.
Найголовніше, що треба запам’ятати
- Підробка голосу за допомогою машинного навчання вже призводить до фінансових збитків та стає політичним інструментом, через здешевлення та доступність відповідних технологій.
- Основними засобами верифікації залишається розуміння контексту та вміння працювати з емоціями, оскільки технічні засоби верифікації тяжко застосовувати під час живої бесіди.
- Потрібно бути уважними до несподіваних дзвінків або голосових повідомлень, які намагаються змусити вас здійснити дії в стані емоційного збудження.