Колишній очільник AI з Databricks: “Ми можемо знизити енергоспоживання ШІ в 1000 разів!”

Колишній очільник AI з Databricks: "Ми можемо знизити енергоспоживання ШІ в 1000 разів!" 1

У гонитві за наступним великим проривом у сфері штучного інтелекту фінансуються чимало амбітних проєктів. Однак одна компанія вирішила використати цей шанс для повної перебудови обчислювальної архітектури з нуля.

Unconventional AI: Новий погляд на обчислення

Компанія Unconventional AI, яку очолює Навін Рао (колишній керівник відділу ШІ в Databricks), обіцяє зробити обробку висновків (inference processing) значно енергоефективнішою. Їхня секретна зброя – новий тип комп’ютерної архітектури, заснованої на осциляторах.

Перша ластівка: Модель Un-0

У четвер компанія представила свою першу модель штучного інтелекту – Un-0. Це інструмент для генерації зображень, який демонструє, як технологія Unconventional AI може відтворювати можливості традиційних систем ШІ. У супровідній науковій статті команда дослідників детально описує, як їм вдалося створити повнофункціональну модель генерації зображень, використовуючи програмну симуляцію нової архітектури. Ця модель демонструє продуктивність, порівнянну з найсучаснішими дифузійними моделями.

«Це своєрідний «hello world» нового типу комп’ютерів», – заявив Рао в інтерв’ю TechCrunch. «Протягом наступного року ви почнете бачити досить цікаві новини щодо цього».

Революційна архітектура та її переваги

Результати роботи нової моделі Un-0 подібні до тих, що генерують відомі моделі, такі як Stable Diffusion або GPT Image 1 від OpenAI. Однак вражає саме те, як досягається ця продуктивність. Модель побудована на архітектурі, що базується на осциляторах, яка кардинально відрізняється від чіпів, що використовуються в традиційних обчисленнях та сучасних великих мовних моделях (LLM). Переваги осциляторних обчислень є складними, але Рао вважає, що вони можуть зменшити енергоспоживання до 1000 разів.

Майбутні плани та виклики

Значна частина інфраструктури для реалізації цього потенціалу ще перебуває на стадії розробки. Поточна версія Un-0 працює на програмній симуляції осциляторних чіпів Unconventional. Однак компанія планує незабаром випустити схеми для реального чіпа. Наступним кроком буде створення повного стеку для обробки висновків з нуля, де Unconventional AI зрештою надаватиме обчислювальні потужності, як і будь-який інший провайдер.

«Ми створимо новий тип системи, що складається з наших чіпів», – каже Рао. «Ми запускатимемо там моделі ШІ, і матимемо мережевий кабель, куди надходитимуть запити (prompts), а на виході отримуватимуться результати (inferences), але все це буде відбуватися зі споживанням енергії, меншим у 1000 разів».

Це надзвичайно амбітна мета, особливо для компанії, в якій працює менше 50 співробітників. Однак, враховуючи масштаби розгортання ШІ та очікувані витрати на задоволення зростаючого попиту на обробку висновків, це може стати одним із небагатьох проєктів, здатних масштабуватися відповідно до проблеми. Як бачить це Рао, доступна енергія стане одним із ключових обмежень для розвитку ШІ в найближчі роки, і Unconventional є одним із небагатьох проєктів, що можуть це вирішити.

«Масштабування ШІ ускладнюється через енергетичні питання. Це стане фундаментальним обмеженням у найближчі кілька років. Ви просто не зможете його подолати. Зрештою, це буде проблема, обмежена енергією», – стверджує він.

Думка ІТ-Блогу: Ця розробка може кардинально змінити енергетичну ефективність штучного інтелекту, що є критично важливим для його подальшого масштабування. Якщо Unconventional AI вдасться реалізувати свої обіцянки, це може призвести до значного зниження вартості використання потужних систем ШІ для користувачів та компаній.

Оригінал статті: techcrunch.com

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *