Компанія Anthropic нещодавно вирішила додавати водяні знаки до результатів роботи свого чат-бота Claude. Це робиться шляхом вставляння невидимого коду в текст, згенерований штучним інтелектом, який позначає його як такий.
Цю політику Anthropic запровадила для відповідності вимогам EU AI Act (Закону ЄС про ШІ) щодо прозорості. Цей закон зобов’язує технологічні компанії маркувати контент, створений або відредагований за допомогою ШІ, таким чином, щоб це могли розпізнати комп’ютерні системи. Хоча європейські регулятори можуть бути задоволені, деякі користувачі ШІ висловлюють невдоволення.
Докази наростаючого невдоволення можна знайти на Reddit, хоча й не всі користувачі платформи згодні з цією думкою. Один з найдраматичніших дописів, який я побачив, належав користувачеві visionode, чий обліковий запис існує лише три тижні. На його думку, нова система водяних знаків є драконівською змовою, створеною для утиску невинних користувачів чат-ботів по всьому світу.
Основний аргумент visionode полягає в тому, що хоча досвідчені користувачі Claude можуть приховати свідчення використання ШІ, перефразувавши або обробивши результати за допомогою інших сервісів ШІ, пересічний користувач Claude буде викритий.
«Хто буде спійманий? Ви. Студент, який використовував Claude для реорганізації абзацу. Журналіст, який попросив ШІ узагальнити двогодинний запис. Письменник, який мав творчий блок і шукав синоніми. Ці люди вийдуть з процесу з цифровою татуюванням на чолі».
Хоча я не хочу применшувати обурення visionode, наведені приклади не є найкращими. Журналіста, який просить ШІ узагальнити двогодинний запис, не турбуватиме водяний знак, прикріплений до цього узагальнення, якщо тільки він не копіює та не вставляє його дослівно у свою статтю — що є відверто неетичним і не повинно відбуватися.
Так само неетично для студента, який копіює та вставляє результат роботи Claude у своє есе після запиту «реорганізувати абзац».
Інші користувачі Reddit також не виявили особливої підтримки обуренню автора допису.
«Подивіться на цього хлопця», — просто прокоментував один з користувачів.
Інший запропонував автору допису «глибоко вдихнути».
Visionode був не єдиним, хто скаржився. Інший незадоволений користувач назвав водяні знаки «неетичними» та «огидними» і стверджував, що, використовуючи Claude, він виконав левову частку роботи. На його думку, чат-бот був лише «інструментом», який полегшив його трудомістку працю.
«Я надавав інструкції, контекст, рішення та незліченні уточнення, Claude був інструментом. Якщо Claude почне додавати водяні знаки до коду чи будь-чого іншого, що він генерує, за що саме він вимагає визнання?» — запитав користувач.
Знову ж таки, інші користувачі розкритикували цей коментар.
«Але він не вимагає визнання», — відповів один з користувачів. «Йдеться про можливість виявляти контент, згенерований ШІ, через ризики, які він може спричинити в різних ситуаціях».
«Бро не міг навіть поскаржитися на Claude, не використавши Claude для написання скарги», — додав інший.
Деякі критики уникали наративу жертви та висували дещо більш виважені аргументи проти нової політики Anthropic.
Наприклад, один користувач поскаржився на загальну лицемірність у додаванні водяних знаків до редакційного продукту, який сам був створений шляхом поглинання чужої роботи. «Я вважаю, що це дуже зловісний напрямок розвитку», — сказав користувач. «Я не використовую Claude для написання чогось, але мати ШІ, який додає водяні знаки до вашої роботи, страхітливо іронічно, враховуючи, як багато передових моделей отримали свої навчальні дані».
Загалом, однак, користувачі схильні підтримувати систему водяних знаків як розумний спосіб відстеження матеріалів, згенерованих алгоритмом. «Буквально немає жодного хорошого аргументу, чому це не є гарною ідеєю», — сказав користувач на іншій гілці обговорення. «Єдина причина, чому ви б цього не хотіли, — це обманювати людей».
Коли ви купуєте за посиланнями в наших статтях, ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.
За матеріалами: techcrunch.com