У Кремнієвій долині зростає невдоволення компанією Anthropic через її позицію щодо open source-моделей та запуск продуктів, що конкурують із наявними рішеннями постачальників програмного забезпечення, пише The Wall Street Journal. Низка компаній та дослідників заявили, що почали використовувати дешевші ШІ-моделі після випуску Anthropic інструментів, які конкурують із пропозиціями інших компаній.
Джерело зображення: Anthropic
Наприклад, Claude Design, випущена в квітні, розглядається як прямий конкурент рішенням дизайнерської компанії Figma, одного з партнерів Anthropic. У зв’язку з цим генеральний директор Figma Ділан Філds (Dylan Field) заявив, що Anthropic не була «послідовно відверта у своїх комунікаціях», а Сара Сакс (Sarah Sachs), керівниця відділу ШІ в Notion, зазначила, що вся галузь винесла уроки з того, як розвивалася ця ситуація: «Деякі компанії, можливо, були надто довірливі».
Також викликали критику зміни в політиці зберігання даних Anthropic та випуск потужної моделі, яка не відповідає на дослідницькі питання у сфері ШІ. Anthropic випустила в червні Fable 5, версію своєї потужної моделі Mythos з обмеженнями щодо безпеки. Спочатку вона знижувала якість відповідей на деякі запитання про розробку ШІ, не повідомляючи користувачів. Дослідницька спільнота розкритикувала такий підхід, заявивши, що це рішення є антиконкурентним і ускладнює оцінку можливостей моделі. Компанія Anthropic вибачилася та зробила ці заходи захисту видимими для користувачів, зазначивши, що модель відхилятиме підозрілі запити. Ці обмеження вона пояснила бажанням запобігти використанню моделей іноземними супротивниками «у способах, що створюють серйозні ризики для безпеки».
Також Fable 5 не підтримуватиме «нульове зберігання даних» — дані користувачів зберігатимуться протягом 30 днів, за словами компанії, з метою забезпечення довіри та безпеки. Інші учасники ринку виступили проти цієї зміни, особливо ті, хто працює в галузях, що обробляють конфіденційні дані. У відповідь Anthropic заявила, що співробітники компанії не можуть читати збережені діалоги, і пообіцяла не використовувати ці дані для навчання нових моделей. Обмеження поширюються на Fable і Mythos, «найефективніші моделі» компанії, але не на інші моделі, уточнила вона.
Після того, як низка американських компаній, зокрема Nvidia та Microsoft, підписали листа, що висловлює підтримку відкритим моделям, генеральний директор Anthropic Даріо Амодеї (Dario Amodei) виступив із роз’ясненням своєї позиції щодо цього питання. «Компанія Anthropic ніколи не виступала за заборону моделей з відкритими вагами, — повідомив він у листі. — Моделі з відкритими вагами, що не мають небезпечних можливостей, є суспільним благом». Водночас він висловив стурбованість тим, що існує ризик, що авторитарні уряди наздоженуть США в галузі ШІ, «щоб досягти постійної військової переваги або вчинити неймовірно глибокі репресії проти власного народу».
Амодеї закликав політиків вжити заходів проти «дистиляції в промислових масштабах». Anthropic та OpenAI звинуватили деяких китайських розробників моделей у плагіаті їхніх технологій шляхом дистиляції. За словами джерел, обидві компанії обговорювали з представниками адміністрації Дональда Трампа (Donald Trump) проблеми, пов’язані з китайськими моделями з відкритими вагами, та можливість введення обмежень для цих компаній.
«Цікаво, що вони виступають проти дистиляції, коли самі дистилюють весь інтернет, не виплачуючи роялті, — зазначив Марк Суман (Mark Suman), співзасновник і генеральний директор ШІ-стартапу Maple. — Мені просто здається дивним, що тепер вони говорять іншим не робити того, що зробили вони».
Після публікації листа на підтримку моделей з відкритим вихідним кодом, його підписало понад 70 компаній з Кремнієвої долини, включно з OpenAI та Google (Alphabet). Anthropic стала однією з небагатьох відомих компаній у сфері ШІ, яка його не підтримала.
Подробиці можна знайти на сайті: 3dnews.ru