Згідно з новим звітом Resemble AI, за першу половину 2026 року ШІ-модель Grok від Ілона Маска була пов’язана з 87% згенерованих файлів, які використовувалися в атаках за допомогою діпфейків.
Дослідники проаналізували 1760 новинних повідомлень і виявили 821 окрему атаку, що торкнулася щонайменше 15 736 жертв. Загалом ці інциденти включали приблизно 3,46 мільйона синтетичних зображень, відео та аудіофайлів. Набір даних Resemble AI ґрунтується на публічно повідомлених інцидентах, а відсоток стосується лише тих файлів, які дослідники змогли підрахувати та віднести до певного інструменту.
Навіть з цим застереженням, ця цифра демонструє, наскільки швидко широкодоступний генератор зображень зі штучним інтелектом може стати інструментом для зловживань.
Ці висновки з’являються на тлі значних фінансових інвестицій Ілона Маска в Grok. Після придбання xAI компанією SpaceX, Маск заявив під час загальнокорпоративної наради, що дохід SpaceX від ШІ перевищить дохід від усіх інших її продуктів вже у вересні, як повідомляє Business Insider.
SpaceX повідомила про дохід від ШІ у розмірі 2,56 мільярда доларів за останній звітний квартал, що ставить Grok та інфраструктуру, яка за ним стоїть, у центр майбутнього компанії. Це ускладнює відділення питань щодо використання інструменту від його швидкого комерційного зростання.
Згідно зі звітом Resemble AI, 137 з 821 атак (приблизно кожна шоста) включали сексуальний контент без згоди дорослих чи дітей.
Grok зіткнувся з широкою критикою раніше цього року після того, як користувачі почали просити чат-бот цифрово оголювати людей або поміщати їх у сексуалізовані ситуації. Деякі зображення, як повідомлялося, зображували неповнолітніх, що призвело до розслідувань з боку регуляторів по всьому світу.
Європейська Комісія розпочала офіційне розслідування щодо X через сексуалізовані зображення, створені за допомогою Grok, а генеральний прокурор Каліфорнії Роб Бонта розпочав розслідування щодо створення та поширення матеріалів відвертого характеру без згоди через платформу. Влада Великобританії, Австралії та інших країн також вивчала цей інструмент.
Resemble AI оцінює, що компанії, які дозволяють або розповсюджують задокументовані зображення, можуть зіткнутися з потенційною цивільною відповідальністю в розмірі до 2,24 мільярда доларів згідно з американським законодавством. Ця сума є оцінкою, а не записом уже поданих штрафів чи позовів.
Виявлені дослідниками підтверджені прямі фінансові збитки були значно меншими, загалом 6,95 мільйона доларів. Однак багато інцидентів включали шкоду репутації, переслідування або сексуальна експлуатація, а не пряме фінансове шахрайство.
Компанія підрахувала, що охоплення атак мало потенційне охоплення 292,8 мільярда за першу половину року, що майже відповідає 296,4 мільярда, зафіксованим за весь 2025 рік.
Серед найбільш широко висвітлених були політичні діпфейки. Resemble AI виявила 22 випадки політичної дезінформації, кожен з яких мав потенційне медіа-охоплення понад 1 мільярд людей.
Натомість корпоративне шахрайство за допомогою діпфейків майже зникло з поля зору громадськості. Дослідники виявили лише 15 публічно повідомлених корпоративних інцидентів, і 14 з них з’явилися лише в одній публікації.
Resemble AI припускає, що компанії можуть не бажати розголошувати успішні атаки, оскільки це може привернути увагу регуляторів, нашкодити їхній репутації або викликати занепокоєння у інвесторів. Це не означає, що корпоративне шахрайство за допомогою діпфейків зникло. Воно, можливо, просто відбувається поза увагою громадськості.
Resemble AI випустила звіт разом із DETECT-World, новою системою, призначеною для розпізнавання контенту, створеного генераторами ШІ, з якими вона раніше не стикалася.
Система поєднує знайомі ознаки ШІ з аналізом того, чи відповідає сцена законам фізики. Вона може перевірити, чи освітлення на обличчі людини відповідає видимим джерелам світла, чи тіні падають у правильному напрямку, і чи об’єкти на передньому та задньому плані рухаються узгоджено.
Для відео система обробляє чотирисекундні вікна зі швидкістю 40 кадрів на секунду. Вона виробляє загальну ймовірність того, що файл був змінений, оцінки, що показують, коли з’являються підозрілі моменти, та теплову карту, що визначає уражену частину кадру.
Resemble AI стверджує, що DETECT-World досяг 95,8% точності на зображеннях і 98,2% на відео, але обидва результати базуються на внутрішніх тестах і ще очікують на зовнішнє підтвердження.
Цей звіт є гарним нагадуванням про те, що технології виявлення діпфейків вдосконалюються, але вони все ще не встигають за інструментами, які можуть створювати та поширювати їх майже миттєво.
Доки цей розрив не буде подолано, нам потрібно знаходити оригінальне джерело, шукати підтвердження з авторитетних видань та уникати поширення підозрілого контенту лише тому, що він виглядає реалістично.
Нарешті, ви можете відвідати наш спеціальний центр Tom’s Guide Savings Squad, щоб отримати експертну допомогу з придбання найкращих продуктів за меншою ціною.
- Я встановив ChatGPT на свої окуляри Ray-Ban Meta — і це повністю змінило те, як я їх використовував
- ChatGPT може робити для вас більше, ніж будь-коли, — і я використовую ці 5 підказок, щоб звільнити себе від повсякденних завдань
- 5 кастомних Gemini Gems, які, я впевнений, заощаджують мені години щотижня
Подробиці можна знайти на сайті: www.tomsguide.com