1 із 6 випадків був пов’язаний з неконсенсусним сексуальним контентом за участю дорослих чи дітей.
За даними нового звіту від Resemble AI, інструмент штучного інтелекту Grok Ілона Маска був відповідальний за 87% файлів, створених ШІ, що пов’язані з діпфейк-атаками протягом першої половини 2026 року.
Дослідники проаналізували 1760 новинних повідомлень і виявили 821 окрему атаку, в якій постраждало щонайменше 15 736 осіб. Загалом ці інциденти включали приблизно 3,46 мільйона синтетичних зображень, відео та аудіофайлів. Набір даних Resemble AI базується на публічно повідомлених інцидентах, і його відсоток застосовується лише до файлів, які дослідники могли підрахувати та віднести до певного інструменту.
Навіть із цим застереженням, ця цифра демонструє, наскільки швидко широко доступний генератор зображень ШІ може бути перетворений на інструмент для зловживань.
Ці висновки з’явилися на тлі значної фінансової ставки Ілона Маска на Grok. Після придбання xAI компанією SpaceX, Маск заявив під час загальнокорпоративних зборів, що доходи SpaceX від ШІ перевищать доходи від усіх інших продуктів вже у вересні, повідомляє Business Insider.
SpaceX повідомила про дохід у 2,56 мільярда доларів від ШІ за останній квартал, що ставить Grok та інфраструктуру за ним у центр майбутнього компанії. Це ускладнює відокремлення питань щодо використання інструменту від його швидкого комерційного зростання.
Один із шести нападів був пов’язаний з відвертим контентом
Resemble AI виявив, що 137 з 821 атак – приблизно одна з шести – були пов’язані з неконсенсуальним сексуальним контентом за участю дорослих чи дітей.
Grok зазнав широкої критики раніше цього року після того, як користувачі почали просити чат-бота цифрово роздягати людей або поміщати їх у сексуалізовані ситуації. Деякі з зображень, як повідомляється, зображували неповнолітніх, що призвело до розслідувань з боку регуляторів у всьому світі.
Європейська Комісія розпочала офіційне розслідування щодо X через сексуалізовані зображення, створені за допомогою Grok, тоді як генеральний прокурор Каліфорнії Роб Бонта розпочав розслідування щодо створення та поширення неконсенсусних відвертих матеріалів через платформу. Влада Великобританії, Австралії та інших країн також вивчала цей інструмент.
Resemble AI оцінює, що компанії, які дозволяють або поширюють задокументовані зображення, можуть зіткнутися з потенційною цивільною відповідальністю до 2,24 мільярда доларів згідно з американським законодавством. Ця цифра є оцінкою, а не записом уже поданих штрафів чи позовів.
Перевірені прямі фінансові збитки, виявлені дослідниками, були набагато меншими, склавши 6,95 мільйона доларів. Однак багато інцидентів включали шкоду репутації, домагання або сексуальна експлуатація, а не пряме фінансове шахрайство.
Атаки за допомогою діпфейків стають важчими для підрахунку
Компанія підрахувала, що охоплення атак мало потенційний охоплення 292,8 мільярда за першу половину року, майже досягнувши 296,4 мільярда, зафіксованих за весь 2025 рік.
Політичні діпфейки були серед найбільш широко висвітлених. Resemble AI виявив 22 інциденти політичної дезінформації, кожен з яких мав потенційний медіа-охоплення понад 1 мільярд людей.
Корпоративне шахрайство за допомогою діпфейків, навпаки, майже зникло з поля зору громадськості. Дослідники виявили лише 15 публічно повідомлених корпоративних інцидентів, і 14 з них з’явилися лише в одній публікації.
Resemble AI припускає, що компанії можуть неохоче розкривати інформацію про успішні атаки, оскільки це може привернути увагу регуляторів, нашкодити їхній репутації або викликати занепокоєння у інвесторів. Це не означає, що корпоративне шахрайство за допомогою діпфейків зникло. Воно може просто відбуватися поза увагою громадськості.
Детектор, який перевіряє, чи відповідає сцена законам фізики
Resemble AI опублікував звіт разом із DETECT-World, новою системою, розробленою для розпізнавання контенту, створеного генераторами ШІ, з якими він раніше не стикався.
Система поєднує знайомі ознаки ШІ з аналізом того, чи має сцена фізичний сенс. Вона може перевірити, чи освітлення на обличчі людини відповідає видимим джерелам світла, чи тіні падають у правильному напрямку, і чи об’єкти на передньому та задньому планах рухаються послідовно.
Для відео система обробляє чотирисекундні вікна зі швидкістю 40 кадрів на секунду. Вона генерує загальну ймовірність того, що файл було змінено, оцінки, що показують, коли з’являються підозрілі моменти, та теплову карту, що ідентифікує уражену частину кадру.
Resemble AI стверджує, що DETECT-World досяг 95,8% точності на зображеннях та 98,2% на відео, але обидва результати базуються на внутрішніх тестах і ще очікують зовнішньої валідації.
Висновок
Цей звіт є гарним нагадуванням про те, що технології виявлення діпфейків вдосконалюються, але вони все ще не встигають за інструментами, які можуть створювати та поширювати їх майже миттєво.
Поки цей розрив не буде усунутий, нам потрібно знаходити першоджерело, шукати підтвердження з авторитетних видань і уникати поширення підозрілого контенту лише тому, що він виглядає реальним.
Більше від Tom’s Guide
- Я встановив ChatGPT на свої окуляри Ray-Ban Meta — і це повністю змінило те, як я їх використовував
- ChatGPT може зробити для вас більше, ніж будь-коли раніше — і я використовую ці 5 підказок, щоб знімати повсякденні завдання з себе
- 5 користувацьких Gemini Gems, які, я впевнений, заощаджують мені години щотижня
За даними порталу: www.tomsguide.com