Компанія Tenstorrent представила свою оптимізовану модель штучного інтелекту, яка працює на серверах Blackhole та забезпечує неймовірно швидку генерацію відео.
Генерація відео за одну мить: Tenstorrent досягає швидкості обробки відео в реальному часі з новою моделлю ШІ на Blackhole
Генерація відео за допомогою штучного інтелекту зазвичай займає чимало часу; по суті, чим швидше ваше обладнання, тим швидше ви зможете генерувати відео. І хоча цей процес став ефективнішим, Tenstorrent виводить його на новий рівень.
Компанія продемонструвала свою майбутню модель ШІ, Wan2.2-14B, яка навчена на 14 мільярдах параметрів і працює на серверах з сотнями прискорювачів Blackhole. Продуктивність вражає своєю швидкістю.
Під час живої демонстрації для EETimes нова модель ШІ змогла згенерувати відео у форматі 720p (81 кадр, 40 кроків) всього за п’ять секунд. Важливо, що саме згенероване відео також тривало 5 секунд. Tenstorrent також стверджує, що їм вдалося досягти рекордного часу у 2.4 секунди для подібного 5-секундного відео, що в 10 разів швидше, ніж у конкурентів.
Tenstorrent використовує оптимізовану версію моделі ШІ Wan2.2-14B, створеної Prodia, і запускає її на чотирьох серверах Galaxy, оснащених 256 прискорювачами Blackhole. Кожен прискорювач Blackhole має 16 ядер RISC-V та 32 ГБ пам’яті GDDR6, забезпечуючи високоефективну обробку даних для штучного інтелекту. Це флагманський продукт в екосистемі ШІ від Tenstorrent.
Tenstorrent досягає цього значного досягнення завдяки своєму підходу до уніфікованої архітектури, який не покладається на пропрієтарні технології, а використовує відкриту обчислювальну платформу, де ядра, пам’ять і мережеві з’єднання працюють разом для запуску масштабних моделей ШІ.
Це лише попередній огляд, і очікується, що Tenstorrent продемонструє ще більше результатів продуктивності наступного тижня, оскільки компанія готується до запуску своїх систем наступного покоління масштабу кластера. Тож залишайтеся з нами!
Чи варто купувати? (Порада ІТ-Блогу): На даний момент це не споживчий продукт, а передова технологія для дата-центрів та розробників ШІ. Однак, якщо ви працюєте над високопродуктивними завданнями генерації відео за допомогою ШІ, інвестиція в рішення Tenstorrent, подібні до Blackhole, може забезпечити значну перевагу в швидкості та ефективності порівняно з конкурентами.
Дізнатися більше на: wccftech.com