Підприємства, що впроваджують системи штучного інтелекту (ШІ), стикаються з новою вагомою проблемою – управління цими системами (governance). Деякі компанії обирають двоїстий підхід: один ШІ-модуль для обробки запитів, а інший – для контролю та запобігання помилкам першого.
ZeroDrift: Новий Гравець у Сфері AI Compliance
Саме на цій ідеї побудований ZeroDrift – новий сервіс для забезпечення відповідності ШІ нормативним вимогам (AI compliance). Компанія нещодавно оголосила про залучення 10 мільйонів доларів посівного фінансування (seed funding) від таких інвесторів, як a16z Speedrun, Reign Ventures, Pitchdrive та U&I Ventures. Основна діяльність ZeroDrift зосереджена на другому компоненті системи: він діє як посередник між ШІ-моделями та кінцевими користувачами, відстежуючи та замінюючи будь-які повідомлення, що можуть порушувати правила відповідності.
Архітектурні Переваги та Ефективність
На перший погляд, створення інструменту ШІ для виправлення помилок інших ШІ-систем може здатися неочікуваним. Проте, ZeroDrift стверджує, що їхня система має певні архітектурні переваги над моделями, які вона контролює. Система активується за допомогою традиційних програм, які детерміновано (тобто, з високою точністю та передбачуваністю) застосовують відомі стандарти відповідності, такі як SOC 2 чи GDPR. Великі мовні моделі (LLM) вступають у гру лише тоді, коли повідомлення було позначено як проблемне, і переписують його у відповідності до встановлених норм.
«Ми можемо чітко визначити, які регульовані сфери порушуються, і які саме норми не дотримуються. Після цього наші LLM здійснюють переписування», – пояснює CEO Кумеш Арумуган.
Ключовим моментом є те, що, за словами компанії, їхня система працює з меншою затримкою (latency) та вищою надійністю, ніж традиційні LLM. Саме це ZeroDrift вважає своєю головною перевагою над великими розробниками, такими як OpenAI та Anthropic, чиї моделі часто вже інтегровані в базову інфраструктуру.
Ринок та Попит
Найбільш очевидним сценарієм використання є чат-боти зі штучним інтелектом, які вже активно використовуються для взаємодії з клієнтами. У цьому випадку невідповідні або некоректні відповіді можуть мати серйозні наслідки. Однак, Арумуган бачить значно ширший потенційний ринок, який охоплює навіть ті повідомлення, що генеруються автоматично всередині систем і ніколи не потрапляють до людських очей. Наразі цей ринок відносно невеликий, але він неминуче зростатиме зі стрімким поширенням ШІ.
Якщо обсяги залученого фінансування є показником, то попит на подібні рішення значний. «Це, мабуть, найшвидший процес фандрейзингу в моєму житті», – зазначає Арумуган, віддаючи належне Andreessen Horowitz за допомогу в структуруванні посівного раунду. «Ми закрили угоду за три тижні, а сума інвестицій перевищила заплановану у три рази».
Думка ІТ-Блогу: Залучення значних інвестицій ZeroDrift свідчить про зростаючу потребу ринку в інструментах управління та контролю ШІ. Це є важливим кроком до більш безпечного та відповідального впровадження ШІ-технологій у бізнес-процеси та повсякденне життя.
Подробиці можна знайти на сайті: techcrunch.com