Коли стартап з безпеки штучного інтелекту HiddenLayer три роки тому залучив $50 мільйонів серії А, одним із ключових питань було, чи будуть загрози ШІ, від яких захищає компанія, проявлятися в достатній кількості, щоб сформувати реальний ринок. Як зазначав мій колишній колега Кайл Віггерс, було складно знайти реальні приклади масштабних атак на ШІ.
Як швидко все змінилося. Компанії з кібербезпеки зараз активно розробляють продукти, які можуть моніторити не лише агентів ШІ, а й інструменти та доповнення, які вони використовують. Хоча заголовків про злом агентів досі небагато, ризик того, що агенти вийдуть з-під контролю під час виробництва, є цілком реальним. Отже, ринок інструментів для запобігання цьому вибухнув: Gartner оцінює, що цього року компанії витратять $2,83 мільярда на продукти для захисту інструментів ШІ, що на 83% більше, ніж у 2025 році, і очікує, що витрати досягнуть майже $4,78 мільярда наступного року.
HiddenLayer, яка створює інструменти для захисту моделей ШІ, агентів та робочих процесів від зловмисних атак, вразливостей та ін’єкцій шкідливого коду, змогла скористатися цією зміною. Співзасновник і генеральний директор Кріс Сестіто повідомив TechCrunch, що річний повторюваний дохід стартапу зріс більш ніж у 10 разів за останній рік. Він відмовився назвати точну цифру, але зазначив, що ARR зараз становить «десятки мільйонів» доларів, і понад 90% цього зростання було зумовлене новими клієнтами, які підписалися за останній рік.
Фінансові послуги та великі технологічні компанії, що розробляють продукти ШІ, наразі є найбільшими вертикалями для компанії. Вона також має контракти з Міністерством оборони та розвідувальною спільнотою. Одним із її клієнтів, очевидно, є «провідний постачальник передових моделей» з «понад 700 мільйонами щотижневих користувачів», що, на мою думку, схоже на OpenAI або Anthropic.
Щоб максимально використати цей імпульс, стартап залучив $100 мільйонів у раунді фінансування серії B, який очолила Delta-v Capital за участю Ten Eleven Ventures, Morgan Stanley, M12 від Microsoft, Booz Allen Hamilton та інших.
Стартап з Остіна, як і раніше, продає те, що пропонував у 2023 році, але Сестіто повідомив TechCrunch, що найбільшою зміною стало розширення існуючих продуктів — виявлення, захист у реальному часі, симуляція атак і безпека ланцюга постачання — для боротьби з ін’єкціями промптів, маніпуляціями агентами та використанням шкідливих інструментів.
«Висновок залишається висновком. Тому, незалежно від того, чи це стосується традиційної моделі машинного навчання, чи GenAI, чи робочого процесу з агентами, значна частина наших технологій все ще застосовується. Тому ми насправді не змінювали курс, але нам довелося розширити сферу застосування… від традиційного моделювання до GenAI та агентів», — сказав він.
Сестіто наголосив, що безпека в реальному часі стала пріоритетом, оскільки розгортання ШІ стає все більш поширеним у бізнесі, і порівняв її з традиційними рішеннями для виявлення та реагування на кінцевих точках (EDR), але спеціально для ШІ.
Нові продукти компанії відображають цю зміну, і Сестіто відзначив нову можливість для зловмисників у використанні моделей з відкритим вихідним кодом. «Ми аналізуємо та скануємо близько 50 різних фреймворків для роботи зі ШІ, щоб переконатися, що, особливо у випадку моделей з відкритим вихідним кодом і відкритими вагами, інструмент, з яким ви працюєте, є тим, яким ви його вважаєте, і тим, який він себе представляє. Ми розглядаємо такі речі, як моделі, що видають себе за одне, але є іншими — приховані моделі всередині моделей», — сказав він.
Стартап стверджує, що нові $100 мільйонів допоможуть йому рухатися в цьому напрямку, але з більшим акцентом на продажі та дистрибуцію, продовжуючи розширювати свої інженерні та дослідницькі можливості. Також планується вихід на ринки Європи та регіону EMEA.
HiddenLayer може знадобитися додаткове фінансування. Великі компанії з кібербезпеки, такі як Cisco, Palo Alto Networks та Check Point, часто надають перевагу купівлі, а не розробці таких технологій, тоді як стартапи, як-от Noma та Zenity, залучили понад $100 мільйонів кожен для роботи в суміжних або пересічних сферах цього ринку.
Сестіто визнав, що деякі компоненти продуктів безпеки ШІ, які пропонує його компанія, з часом можуть бути включені до платформ, розроблених такими компаніями, як Microsoft, OpenAI та AWS. Однак він очікує, що інфраструктура ШІ буде розвиватися в бік функцій управління, таких як виявлення, ідентифікація та контроль політик, а не інструментів, які створює його компанія.
Наразі, за його словами, завдання HiddenLayer — «масштабуватися вертикально разом зі штучним інтелектом», а згодом розширюватися горизонтально в ті сфери кібербезпеки, які все більше залежать від ШІ. Це амбітна мета, але стартап спочатку повинен довести, що може перетворити свою перевагу на стійкий бізнес, перш ніж решта індустрії наздожене.
Оригінал статті: techcrunch.com