Anthropic, компанія, яка будує свою репутацію на обережному підході до розвитку штучного інтелекту, нещодавно зіткнулася з низкою прикрих інцидентів. Вони активно публікують дослідження щодо ризиків, пов’язаних зі ШІ, залучають провідних фахівців галузі та відкрито говорять про відповідальність, яка лягає на розробників таких потужних технологій. До речі, саме через таку відкритість вони зараз ведуть переговори з Міністерством оборони США. Однак, схоже, у вівторок хтось забув поставити галочку у потрібному полі.
Другий випадок за тиждень
Це вже другий подібний випадок за короткий проміжок часу. Минулого четверга видання Fortune повідомило, що Anthropic випадково зробило загальнодоступними майже 3 000 внутрішніх документів, включно з чернеткою блог-посту, що описував новий потужний інструмент компанії, який ще не був анонсований.
Витік вихідного коду Claude Code
У вівторок ситуація повторилася. Під час випуску версії 2.1.88 свого програмного пакета Claude Code, Anthropic ненавмисно включила файл, який розкрив майже 2 000 файлів вихідного коду та понад 512 000 рядків коду. По суті, це був повний архітектурний план одного з їхніх найважливіших продуктів. Дослідник безпеки на ім’я Чаофан Шоу (Chaofan Shou) майже одразу помітив це і опублікував інформацію у соцмережі X. Офіційна заява Anthropic, яку отримали численні ЗМІ, була досить незворушною: «Це була проблема пакування релізу, спричинена людською помилкою, а не витік даних». Втім, можна лише здогадуватися, наскільки спокійною була ситуація всередині компанії.
Важливість Claude Code
Claude Code – це не другорядний продукт. Це інструмент командного рядка, який дозволяє розробникам використовувати штучний інтелект від Anthropic для написання та редагування коду. Цей інструмент став настільки потужним, що вже викликає занепокоєння у конкурентів. За даними WSJ, OpenAI була змушена припинити роботу над своїм продуктом для генерації відео Sora невдовзі після його запуску, щоб перефокусувати зусилля на розробників та корпоративних клієнтів, частково у відповідь на зростаючу популярність Claude Code.
Що саме потрапило до рук сторонніх?
Витік стосувався не самої моделі штучного інтелекту, а програмного “каркасу” навколо неї – інструкцій, які визначають, як модель має поводитися, які інструменти використовувати та де проходять її обмеження. Розробники почали публікувати детальні аналізи майже одразу. Один з них описав продукт як «готову до продакшену розробницьку екосистему, а не просто обгортку навколо API».
Перспективи та наслідки
Чи матиме цей випадок довготривалі наслідки – питання, яке краще залишити фахівцям з розробки. Конкуренти, можливо, знайдуть архітектуру повчальною. Водночас, технологічна галузь розвивається надзвичайно швидко. У будь-якому разі, десь в Anthropic, ймовірно, дуже талановитий інженер провів решту дня, тихо роздумуючи, чи збереже він свою посаду. Хочеться сподіватися, що це не той самий інженер, або команда, що й минулого тижня.
Думка ІТ-Блогу: Незважаючи на заяви про “людську помилку”, такі інциденти підривають довіру до компаній, що позиціонують себе як лідери у відповідальному розвитку ШІ. Це нагадування про те, що навіть найпередовіші технології потребують бездоганних процесів безпеки та контролю.
Інформація підготовлена на основі матеріалів: techcrunch.com