Представлено Veriff
Громадяни США не здатні надійно відрізнити справжній контент від згенерованого штучним інтелектом. Це не лише проблема медіаграмотності, але й пряма загроза для бізнесу, який покладається на онлайн-верифікацію особистості.
Нове дослідження показує, що хоча багато людей обізнані про існування діпфейків (глибоких підробок), їхня здатність відрізнити їх від реальності не набагато краща за підкидання монети. Згідно з опитуванням 3000 респондентів у Сполучених Штатах, Великій Британії та Бразилії, проведеним Veriff та Kantar у 2026 році, американці отримали лише 0.07 бала за шкалою, де 0 означає випадкове вгадування.
Якщо люди не можуть відрізнити автентичний візуальний контент, вони не можуть надійно розпізнати й автентичну ідентичність. На практиці це означає, що користувачі, які взаємодіють з цифровими сервісами, часто не можуть визначити, чи є людина по той бік екрана реальною.
Ця неефективність має прямі наслідки для кожного цифрового бізнесу, який покладається на верифікацію особистості на основі зображень та відео для підтвердження того, хто перебуває по той бік екрана. Це охоплює все: від реєстрації клієнтів у банках та відновлення доступу до облікових записів до верифікації продавців на ринках, проведення високоцінних електронних угод, автентифікації користувачів на соціальних платформах та контролю доступу в корпоративних мережах.
У США наслідки вже відчутні: шахрайство з використанням синтетичних ідентичностей зараз призводить до збитків на мільярди доларів щорічно, а інструменти для створення переконливих підробок стали широко доступними.
Звіт також виділяє невелику, але високоризикову групу: приблизно 7% користувачів, які погано виявляють діпфейки, але при цьому впевнені у своїх здібностях та рідко перевіряють побачене. Хоча це незначний відсоток, у масштабі це мільйони облікових записів, які є надзвичайно вразливими мішенями для шахрайства.
Якщо користувачі не можуть надійно відрізнити реальні ідентичності від синтетичних, будь-яка система, що залежить від візуальної верифікації, є фундаментально вразливою. Верифікацію особистості більше не можна розглядати як функцію дотримання нормативних вимог; натомість вона має бути вбудована як основна цифрова інфраструктура.
«Тепер, коли контент, згенерований ШІ, стає невідрізненним від реальності, людське око саме по собі більше не є надійним захистом», — зазначає Іра Бондар-Муччі, керівник відділу боротьби з шахрайством у Veriff. «Бізнесу та політикам у США необхідно терміново подолати цей розрив у обізнаності, одночасно інвестуючи в автоматизовані технології верифікації, які можуть виявити те, чого люди просто не бачать».
Розрив в обізнаності щодо діпфейків у США ширший, ніж очікувалося
Сполучені Штати можуть бути глобальним епіцентром розробки генеративного ШІ, але американські споживачі демонструють найнижчу обізнаність щодо діпфейків серед трьох досліджуваних ринків. Лише 63% дорослого населення США знайомі з цим терміном, порівняно з 74% у Великій Британії та 67% у Бразилії.
«Тут спостерігається парадокс», — каже Бондар-Муччі. «США є глобальним епіцентром розробки ШІ, але американські споживачі найменше знайомі з одним із його найнебезпечніших побічних продуктів. Історично споживачі мали вищий базовий рівень довіри до цифрового контенту, а дискусії про шахрайство зосереджувалися більше на конфіденційності даних, ніж на автентичності контенту. Проблема полягає в тому, що низька обізнаність не зменшує ризик, а навпаки, посилює його. Якщо ви не знаєте, що таке діпфейк, ви набагато менш схильні зупинитися і перевірити, чи ви з ним зіткнулися».
Людське виявлення діпфейків ледь краще, ніж випадковість
На практиці випадковість, що характеризує здатність споживачів відрізняти справжнє від фальшивого, проявляється у способах оцінки різних типів контенту. Відеоконтент виявився особливо складним для аналізу: підроблені відео часто ідентифікувалися як справжні, а справжні відео часто позначалися як фальшиві. Навіть при порівнянні пліч-о-пліч респонденти майже порівну розподіляли свої судження, що є ще одним свідченням того, що візуальний огляд сам по собі більше не є надійним методом перевірки автентичності.
Надмірна самовпевненість у виявленні діпфейків створює небезпечну вразливість
Приблизно половина респондентів зі США стверджують, що впевнені у своїй здатності ідентифікувати діпфейки, але ця впевненість значно перевищує фактичні результати, демонструючи, що самооцінка фактично безглузда.
У межах цієї групи знаходиться та невелика, але високоризикова когорта: приблизно 7% користувачів, які помиляються, але надмірно впевнені у своїх здібностях і рідко перевіряють підозрілий контент.
«Цей розрив між впевненістю та компетентністю створює хибне відчуття безпеки, яким користуються шахраї», — каже Бондар-Муччі. «Коли люди вірять, що їх не обдурити, вони припиняють шукати ознаки. Саме тоді вони стають найбільш вразливими, чи то через синтетичну ідентичність, використану у фінансовому шахрайстві, чи то через сфабриковане відео, створене для маніпуляції довірою».
Для бізнесу висновок очевидний: будь-яка організація, яка все ще покладається на ручні процеси перевірки або самостійне декларування клієнтами, безпосередньо успадковує цю вразливість. Людське судження стає все менш надійним запобіжником, і верифікація має бути вбудована в системи за замовчуванням. Це означає автоматизовану, керовану технологіями верифікацію, яка не залежить від самооцінки кінцевим користувачем своїх можливостей відрізнити справжнє від фальшивого.
Американці стурбовані діпфейками, але довіряють платформам
Занепокоєння щодо діпфейків є високим по всій території США: 79% респондентів повідомляють, що вони досить або надзвичайно стурбовані особистим шахрайством та видаванням себе за іншу особу.
США відрізняються від інших ринків тим, куди спрямовується це занепокоєння. Американці частіше, ніж респонденти з Великої Британії чи Бразилії, довіряють соціальним мережам та цифровим сервісам у виявленні та управлінні контентом, згенерованим ШІ. Таке делегування відповідальності може знижувати пильність на індивідуальному рівні саме тоді, коли загроза зростає.
«Ми бачимо, як синтетичні ідентичності використовуються для відкриття шахрайських рахунків та авторизації транзакцій, а відеодіпфейки розгортаються для обходу базових перевірок», — пояснює він. «Особливо терміновим це робить поєднання значного занепокоєння з відносно високою довірою до платформ. Цей розрив між сприйнятим та фактичним захистом — це саме те місце, де процвітає шахрайство».
Бізнес-аргументи на користь автоматизованої верифікації особистості ще ніколи не були такими сильними
Розрив між тим, що американці вважають, що вони можуть виявити, і тим, що вони насправді можуть, — це не проблема знань, яку вирішать інформаційні кампанії, а недолік дизайну будь-якої системи, яка покладає тягар верифікації особистості на непідкріплене людське судження.
Ефективною відповіддю є не усунення людей із циклу верифікації, а припинення призначення їм завдань, які людське сприйняття більше не може надійно виконувати. Організації, які продовжують покладатися на ручні процеси перегляду або самостійне декларування клієнтами, поглинають цю вразливість у свої операції.
Альтернативою є автоматизована, керована ШІ верифікація особистості, яка працює в момент взаємодії, виявляє синтетичні медіа до того, як вимагатиметься людське рішення, і не залежить від здатності кінцевого користувача відрізнити реальне від фальшивого.
«Бачити — більше не означає вірити», — каже Бондар-Муччі. «Компанії, які будують інфраструктуру верифікації, враховуючи цю реальність, а не припущення, що все буде інакше, найкраще підготовлені до збереження довіри клієнтів у міру розвитку ландшафту синтетичних медіа».
Як захиститися (Порада ІТ-Блогу):
1. Будьте скептичні: Звикайте ставити під сумнів автентичність будь-якого медіа-контенту, особливо якщо він викликає сильні емоції або містить тривожну інформацію. Використовуйте кілька джерел для перевірки інформації.
2. Впроваджуйте багатофакторну автентифікацію: Для бізнесу та користувачів, де це можливо, використовуйте не лише пароль, а й другий рівень перевірки (наприклад, код з SMS, додаток-автентифікатор), щоб ускладнити зловмисникам доступ до облікових записів.
За матеріалами: venturebeat.com