OpenAI запровадить автоматичне додавання водяних знаків до текстів, згенерованих ChatGPT, у Європейському Союзі. У компанії заявили, що така функція буде доступна й в інших регіонах, але за замовчуванням буде вимкнена поза межами ЄС.
Перехід на маркування контенту в Європі зумовлений необхідністю дотримання Акту ЄС про штучний інтелект (EU AI Act), який набув чинності у серпні. Цей акт вимагає маркувати контент, створений моделями ШІ, таким чином, щоб його можна було виявити за допомогою інструментів. Наразі не існує повністю ефективного та надійного способу для цього. Хоча є певні стандарти, такі як SynthID та проєкт C2PA, вони відносно легко обходяться особами з базовими знаннями.
Ймовірно, те саме стосується й водяних знаків OpenAI. Метод компанії, який називається textGrain, є пропрієтарним. OpenAI опублікувала технічний документ із поясненням його роботи. Загалом, він працює подібно до інших інструментів для додавання водяних знаків до текстів LLM, які були представлені раніше: він вбудовує у вибір слів певні патерни, непомітні для людського читача, які не суттєво впливають на загальну якість вихідного тексту. Проте, спеціалізований детектор з ключем може їх виявити. OpenAI зазначає, що надасть доступ до детектора обмеженій кількості дослідників та організацій, а також запровадить процес запиту на схвалення для інших охочих.
Тестування textGrain від OpenAI показує досить високий, але не стовідсотковий показник успішного виявлення — 92%. Проте, тести компанії також свідчать, що зміна лише 10% тексту у вихідному матеріалі знижує показник успішного виявлення майже на 30%, а зміна 20% тексту може зменшити його приблизно на 75%. Варто також зазначити, що загалом показник успішності нижчий для коротких або перекладених текстів порівняно з довшими. Ці результати приблизно відповідають показникам інших подібних рішень для додавання водяних знаків.
У серпні конкурент OpenAI — Anthropic — також запровадив додавання водяних знаків до текстів, згенерованих його моделями. Однак Anthropic увімкнув цю функцію глобально, тоді як OpenAI робить її стандартною лише там, де це вимагають регулятори, щонайменше у додатках ChatGPT та Codex. Схоже, в API ця функція залишиться вимкненою, але буде доступна як опція.
Нове маркування буде впроваджено для користувачів у ЄС “протягом найближчих тижнів”, повідомляє компанія.
Оригінал статті: arstechnica.com