Стартап Pangram з Нью-Йорка, який спеціалізується на виявленні контенту, створеного штучним інтелектом, запустив нову місію боротьби із “засміченням” інтернету ШІ-згенерованим контентом. Компанія нещодавно залучила 9 мільйонів доларів інвестицій, роблячи ставку на зростання попиту на інструменти, що розрізняють контент, створений людьми, від згенерованого ШІ.
Інвестиційний раунд, який очолив фонд Menlo Ventures за участі Haystack, ScOp, Script Capital та Cadenza, збігся з запуском Pangram нового покоління моделі виявлення тексту, Pangram 4, а також моделі виявлення зображень, Pangram Image.
Pangram стверджує, що нова модель виявлення тексту має понад 99% точність у пошуку написаного за допомогою ШІ контенту та змішаного людсько-ШІ тексту. Крім того, вона легше виявляє програми для “гуманізації” тексту, згенерованого ШІ. Детектор зображень наразі доступний лише в дослідницькому попередньому перегляді, але Pangram планує випустити його ширше найближчими тижнями.
Засновники Pangram, Макс Сперо та Бредлі Емі, випускники Стенфорду за спеціальністю ШІ та машинне навчання, заснували компанію близько двох років тому, після запуску ChatGPT, який відкрив шлюзи для потоку ботів, SEO-контенту, згенерованого ШІ, та, за словами Сперо, “російських дезінформаційних кампаній, керованих LLM, та кампаній в Twitter, що мають вплив ОАЕ”.
“Я вважаю, що надзвичайно важливо знати, чи згенеровано щось штучним інтелектом, чи ні”, — сказав Сперо TechCrunch. “Особливо коли ви читаєте текст, адже це змінює те, як люди сприймають інформацію. Чи це те, що я маю читати скептично, вишукуючи галюцинації, чи це щось, у чому я можу бути впевнений, що це добре досліджено реальним журналістом?”
Система виявлення ШІ від Pangram, по суті, є великою моделлю машинного навчання, яка була навчена на десятках мільйонів відомих людських документів. Потім стартап створив “синтетичне дзеркало” для кожного документа, відтворюючи тему, довжину та тон голосу, але написане передовою LLM.
“Наша модель вивчає стилістичні відмінності та послідовні вибори, які робить ШІ, і використовує це для визначення того, що згенеровано ШІ, з високою впевненістю”, — зазначив Сперо, додавши, що детектор ШІ не покладається на метадані копіювання-вставлення або приховані водяні знаки.
Для Pangram виявлення ШІ — це не лише про те, чи був текст написаний повністю штучним інтелектом. Це також про розрізнення рівнів допомоги ШІ — наприклад, коли хтось пише щось самостійно, а потім просить ШІ відредагувати або покращити його. Сперо вважає, що допомога ШІ може бути прийнятною, якщо автор розкриває його використання.
Поява Pangram відбувається в час, коли використання ШІ стає все більш поширеним. У деяких випадках, як-от канадський політик, який зачитав ШІ-запит під час виступу перед законодавцями, помилки призводять до глузувань. В інших випадках, як-от коли певні юристи представляли свої справи, використовуючи фальшиві цитати, створені ChatGPT, наслідки могли бути у вигляді санкцій та штрафів.
Ця негативна реакція коштує не лише окремим особам репутації чи санкцій — вона починає проявлятися і в інституційних правилах.
Архів arXiv, що працює за принципом відкритого доступу, цього року запровадив нову політику правозастосування, яка передбачає, що подання, які містять докази того, що автори не перевірили вивід LLM (наприклад, вигадані посилання або мета-коментарі на кшталт “Чи бажаєте ви, щоб я щось змінив?”), можуть призвести до річної заборони на подання робіт.
Pangram — не єдиний, хто робить ставку на те, що виявлення ШІ стане більш затребуваним. Конкуренти, такі як Winston AI, Originality.ai, Copyleaks та GPTZero, борються за той самий попит, кожен розробляючи власний детектор.
Технологія Pangram, хоч і не є досконалою, може допомогти підтримати опір прийняттю контенту, згенерованого ШІ, який затоплює інтернет, зали судових засідань та академічних робіт.
Користувачі можуть отримати доступ до Pangram через підписку за 20 доларів на місяць через веб-сайт або завантажити розширення для Chrome, яке автоматично позначає пости в реальному часі на платформах X, LinkedIn, Substack, Reddit та Medium. Воно також надає показник “здоров’я стрічки” з розбивкою відсотків людського та ШІ-контенту на екрані.
Pangram також пропонує свою технологію через API. Варто зазначити, що Substack нещодавно інтегрував технологію Pangram у свою платформу, щоб показати читачам, які з їхніх улюблених авторів створюють свої розсилки за допомогою ШІ. Серед інших клієнтів API — Quora, школи та університети, видавці та агенти, рекрутери, за словами Сперо.
Чи працює Pangram?
Сперо зазначив, що приблизно один з 10 000 людських документів помилково маркується як створений ШІ за допомогою моделі Pangram, тому я вирішив перевірити її. Модель виявлення тексту вразила, але не була досконалою. Вона легко виявила повністю згенеровані ШІ новини, написані як ChatGPT, так і Claude, і рідко обманювалася моїми спробами редагувати ШІ-згенерований текст, щоб він звучав більш людськи. Водночас Pangram позначив як написані ШІ речення, які я повністю переписав. Pangram також зовсім не обдурили мої спроби змусити ChatGPT та Claude уникати детекторів ШІ під час генерації контенту.
Я також дав ChatGPT та Claude одну зі своїх статей і попросив їх покращити її. Pangram оцінив її на 13% як створену за допомогою ШІ, що, ймовірно, було близьким до реальності, але модель змогла виявити тонкі зміни у виборі слів у деяких реченнях і проігнорувала їх в інших. Вона також позначила деякі речення як допомогу ШІ, хоча вони були написані людиною. Це було помітно, тому що, коли я надав Pangram ту саму статтю повністю, як я її написав, вона отримала 100% людську оцінку.
Можливо, проблема полягала в тому, що новинні статті можуть бути дещо сухими і легко звучати як ШІ. Тому я спробував інший підхід. Я протестував Pangram на своєму контенті з більш особистого Substack-розсилки, вставивши першу половину тексту в Pangram, а потім попросивши ChatGPT та Claude скопіювати мій стиль і написати другу половину. Здебільшого Pangram легко виявляв текст, написаний людиною, порівняно з текстом, написаним ШІ.
Моє обмежене тестування нової моделі виявлення зображень Pangram виявилося однаково вражаючим.
Система виявлення зображень від Pangram обіцяє розпізнавати зображення, згенеровані ШІ, з різних моделей, на відміну від перевірок OpenAI або Google DeepMind на основі водяних знаків, які в основному виявляють їхній власний вивід. Вона працює на розподілі пікселів, вивчаючи тонкі статистичні відмінності між реальними фотографіями та зображеннями, згенерованими ШІ. Сперо каже, що модель може навіть виявити ШІ-зображення, яке з’являється всередині реального фото.
У моєму тестуванні модель легко виявляла ШІ-згенеровані зображення, як фотореалістичні, так і мультяшні. Я також можу підтвердити, що модель змогла виявити ШІ-зображення, яке з’являється на реальному фото — теплова карта, яку надає Pangram, чітко підсвічувала його — хоча в одному випадку вона помилково позначила фотографію ШІ-згенерованого зображення як контент, створений людиною.
Сперо каже, що він не хоче, щоб його технологія розпалювала “полювання на відьом” проти людей, які використовують ШІ для письма, але наголошує на необхідності певного механізму для протидії “сміттю”.
“Я бачу майбутнє, де контент, згенерований ШІ, продовжуватиме поширюватися”, — сказав Сперо. “Ми отримуємо нові GPU швидше, ніж народжуються нові люди. Якщо ми не будемо активно дискримінувати на користь людського контенту, то побачимо все більше ШІ, і він просто заглушить будь-який людський сигнал, який у нас є”.
Коли ви здійснюєте покупки за посиланнями в наших статтях, ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.
Джерело новини: techcrunch.com