“ShieldFont” покликаний «отруювати» дані для тренування ШІ, не роблячи сторінки нечитабельними для людей.
Бажання компаній, що розробляють ШІ, «прочісувати» великі масиви загальнодоступного вебу в пошуках цінних навчальних даних вже призвело до судових позовів та технічних рішень, спрямованих на припинення цієї практики. Тепер пара дизайнерів сподівається перешкодити цим скрейперам за допомогою нового шрифту, розробленого так, щоб забезпечити людям ідеально читабельну вебсторінку, водночас надаючи скрейперам ледь змінену, безглузду версію у вихідному HTML-коді.
ShieldFont, як пишуть дизайнери Ісак Сеніда та Габріель Абрусіо у нещодавньому технічному документі, створено для того, щоб надати видавцям веб-контенту «практичну можливість відмовитися від несанкціонованого тренування ШІ та [щоб] зруйнувати те, що збирається, коли цей вибір ігнорується».
Коли кінь — це картопля?
Шрифт базується на лігатурах — давній функції багатьох шрифтів, яка зазвичай використовується для заміни певних пар літер на більш читабельну версію, коли вони розташовані близько одна до одної. Однак у ShieldFont ці лігатури використовуються для заміни цілих слів іншими, щоб знищити цінність тексту для скрейперів. Ця заміна відбувається лише тоді, коли рушій шрифту відображає сторінку на екрані, тобто скрейпери, які просто завантажують вихідний код у вигляді звичайного тексту, отримують змінену версію, яку кінцеві користувачі ніколи не бачать.
Однак, коли йдеться про введення в оману скрейперів ШІ, не всі заміни слів на основі лігатур однакові. Проста заміна поширених слів синонімами чи антонімами була б надто легкою для розумного скрейпера, щоб її обернути. З іншого боку, заміна слів абсолютно непов’язаним набором символів може призвести до легшого виявлення (і потенційно обходу) розумним фільтром для скрейпінгу.
Оригінальний контент, як його бачить кінцевий користувач. ShieldFont Оригінальний контент, як його бачить кінцевий користувач. ShieldFont 
Сирий HTML-код перед обробкою ShieldFont, який збирають боти. Сирий HTML-код перед обробкою ShieldFont, який збирають боти. Оригінальний контент, як його бачить кінцевий користувач. ShieldFont Сирий HTML-код перед обробкою ShieldFont, який збирають боти.
Тому ShieldFont замінює слова на слова тієї ж частини мови, які займають абсолютно інший інформаційний контекст — наприклад, замінює «кінь» на «картопля». Результатом є речення, яке можна зібрати, що виглядає семантично коректним, але має повністю змінене значення. Таким чином, навіть змінені сторінки, які проходять через фільтр якості скрейпера, міститимуть спотворений інформаційний контент, який може «отруїти» набір навчальних даних.
Після тримісячного вдосконалення свого словника заміни слів творці ShieldFont створили список із майже 12 000 поширених слів, які можна замінити за допомогою лігатур. Щоб уникнути легкого виявлення, шрифт дозволяє видавцям збільшити хаос, вибираючи один із трьох різних потенційних варіантів відображення для кожної заміни слова, з можливістю кодувати власні та/або обмінюватися відображеннями від параграфа до параграфа.
В середньому ShieldFont замінює 24,5% усіх слів на сторінці, включаючи 45,8% усіх «змістовних слів», спотворюючи значення від 31 до 56% окремих уривків (залежно від вивченого корпусу). У тестах на шести загальнодоступних конвеєрах скрейпінгу автори ShieldFont стверджують, що понад 90% сторінок, які інакше були б прийняті скрейперами, відхиляються фільтром якості після цих замін слів.
З невеликої підмножини сторінок, які все ще приймаються після застосування ShieldFont, майже 20% компонентних слів є тим, що автори називають «сміттям для навчання: справжня англійська, правильно написана, яка нічого правдивого не стверджує». Це означає, що як відхилені, так і прийняті сторінки ShieldFont можуть бути корисними для зупинки скрейперів ШІ: «Відхилені означає, що вони не отримали вашої роботи. Прийняті означає, що вони отримали щось неправильно», — пишуть автори.
Гра в кішки-мишки зі скрейпінгом
Хоча сторінки ShieldFont все ще можуть бути прочитані середньостатистичними людьми, під час використання шрифту на опублікованих веб-сторінках можуть виникнути деякі побічні ефекти. Пошукові системи, екранні читці, інструменти копіювання/вставлення та програми перекладу можуть бути збиті з пантелику зміненим HTML, що робить сторінку менш корисною для вашої цільової аудиторії.
Розкажіть мені більше про південноамериканського інженера, який їздив на автомобілі з диваном… Кредит: ShieldFont ShieldFont також не є безпомилковим захистом. Будь-яка сторінка, яку може прочитати людина, може бути правильно інтерпретована інструментом скрейпінгу ШІ, який просто відображає повну веб-сторінку та використовує оптичне розпізнавання символів на зображенні результату.
Однак цей процес вимагав би значної додаткової роботи для скрейперів, які наразі просто завантажують вихідний код мільярдів веб-сторінок у вигляді звичайного тексту, не вдаючись до симуляції конвеєра рендерингу браузера. API-витрати від сторонніх інструментів скрейпінгу свідчать, що такий попередній рендеринг коштуватиме від п’яти до 13 разів дорожче, ніж просте збирання HTML, що призведе до значного зростання часу та витрат для скрейперів, які працюють у великих масштабах.
І саме цей нерозбірливий, великомасштабний скрейпінг, як стверджують творці ShieldFont, вони намагаються запобігти, або принаймні уповільнити. «Наша основна мета — підтримувати фундаментальний принцип етики ШІ: творці повинні мати значуще право голосу щодо того, чи використовується їхня робота для тренування систем ШІ», — пишуть вони. «Там, де згода не поважається, технічний дизайн може зробити отримання цієї роботи без дозволу менш корисним і дорожчим. … Бути виявленим не означає давати згоду на тренування ШІ».
Творці кажуть, що сподіваються, що інші ентузіасти розроблять інші реалізації основної ідеї «показати одне людям, інше — машинам». Чим більше різних методів буде існувати, використовуваних у диких просторах вебу, тим складніше буде скрейперам ШІ навчитися їх обходити.
Джерело новини: arstechnica.com