Новий вебсайт SynthID тепер може ідентифікувати контент, створений ШІ від Google, OpenAI та інших компаній.
Кожен елемент контенту, створений моделями Gemini від Google, має приховане позначення SynthID, що ускладнює його видання за автентичний. SynthID також отримав підтримку від інших великих гравців у сфері ШІ, проте перевірка цих невидимих водяних знаків досі була складним процесом. Однак, тепер це буде дещо простіше. Google оголосила, що її детектор SynthID тепер підтримує водяні знаки від усіх її партнерів, і він доступний для всіх на новому спеціалізованому вебсайті.
SynthID — це невидимий сигнал, вбудований у пікселі зображень та відео, створених ШІ, а також у звукову хвилю аудіо, згенерованого ШІ. Google стверджує, що лише Gemini інтегрував SynthID у понад 180 мільярдів зображень і відео, а також 240 000 років аудіо. Дотепер єдиним способом для тих, хто не входив до програми довірених тестувальників Google, перевірити наявність SynthID було звернення до Gemini. Це досить незручно, а відповіді моделі іноді могли бути нечіткими, коли потрібна була проста відповідь «так» чи «ні».
Тепер ви можете обійтися без Gemini. Починаючи з сьогоднішнього дня, ви можете відвідати новий вебсайт SynthID.com, щоб перевірити контент на наявність водяного знака ШІ. Основне обмеження попереднього детектора Google полягало в тому, що він перевіряв лише версію SynthID від Google. Навіть якщо зображення з ChatGPT, наприклад, мали SynthID, вони не позначалися в детекторі Google. Це більше не проблема.
Google зазначає, що розширена версія детектора підтримуватиме унікальні водяні знаки від усіх партнерів SynthID, включаючи OpenAI, Nvidia, Kakao та (незабаром) Apple. Таким чином, ви зможете перевірити файл на причетність усіх цих систем ШІ, замість того, щоб звертатися до їхніх детекторів окремо. Вебсайт не надаватиме стільки інформації, як внутрішній інструмент, який виділяв ділянки зображення, що містили пікселі SynthID. Натомість ви отримаєте повідомлення, яке вказуватиме, чи використовувався SynthID для створення або редагування медіа.
Для використання інструменту потрібен вхід до облікового запису, але він підтримує облікові записи Google, OpenAI та Apple. Хоча детектор доступний для всіх, вимога входу обмежує його використання. Google зазначає, що кожен користувач отримує «щоденну квоту використання приблизно 10 перевірок зображень, відео та аудіо».
Попередні інструменти виявлення мали подібні обмеження. Інженери Google повідомили Ars, що обмеження доступу необхідне для запобігання використанню перевірок для розробки інструментів видалення SynthID. Нечіткість щодо точної кількості, ймовірно, пов’язана з тим, що система може заблокувати вас раніше, якщо ви перевіряєте кілька дуже схожих зображень. Це може сигналізувати про спробу оптимізації обходу системи.
Маркування брехні
Розширення доступу до виявлення SynthID — це добре, адже це зручне єдине місце для перевірки медіа на наявність сигнатури популярних інструментів ШІ. Однак, партнери Google далеко не єдині джерела контенту, створеного ШІ.
Деякі постачальники моделей використовують іншу технологію водяних знаків (як Meta), тоді як інші взагалі не використовують водяні знаки. А ще є моделі з відкритим кодом, які люди можуть запускати на власному обладнанні для створення дедалі реалістичнішого контенту ШІ, який навіть не містить простого метаданих. Це означає, що існує багато контенту ШІ, який інструмент SynthID не ідентифікуватиме як такий. Вебсайт міститиме відповідне застереження. Також цілком можливо, що, попри зусилля Google, хтось знайде спосіб видалити SynthID, що зробить існуючий контент ШІ більш легітимним. Це не ідеальна система, але така реальність залежності від проактивного нанесення водяних знаків для зображень ШІ, які стрімко поширюються в Інтернеті.
Найкращим підходом може бути протилежний — використання криптографічних технологій, таких як C2PA, для маркування реальних зображень, відео та аудіо під час їх створення. Телефони Pixel від Google — одні з небагатьох пристроїв, що роблять саме це. А поки що SynthID — це найкращий інструмент, який ви маєте для виявлення підробок, створених ШІ.
За матеріалами: arstechnica.com