NVIDIA представила PAIR — новий інструмент для об’єднання та розподілу завдань з обробки штучного інтелекту (ШІ) між пристроями у вашому домі без необхідності встановлення додаткового обладнання.
Потенціал домашніх пристроїв для обробки ШІ значно недооцінений, а NVIDIA PAIR покликаний це виправити
Логіка NVIDIA PAIR досить проста: у кожному домі існує значний, але невикористаний потенціал для обробки ШІ. NVIDIA стверджує, що більшість домогосподарств у США мають кілька ПК, середнє використання яких становить близько 17% на день, або трохи більше чотирьох годин. Якщо скласти ці показники, виходить близько 165 Тфлопс невикористаної обчислювальної потужності лише в одному домогосподарстві.
При 60% використанні для моделі QWEN 3.8 27 B це становить приблизно 120 мільйонів невикористаних токенів на день, а для GPT5.6 — близько 5 мільйонів токенів на годину. З економічної точки зору, це приблизно 1,2 тис. доларів США на місяць у вигляді кредитів для хмарних API. Додавши 120 доларів за електроенергію при 60% використанні, отримаємо значну цінність ШІ в межах одного дому.
Найбільша частина обчислювальної потужності припадає на ігрові ПК, які оснащені потужними дискретними відеокартами, але не всі ПК мають такі. Як же поділитися всією цією обчислювальною потужністю між усіма пристроями?
Саме тут на допомогу приходить NVIDIA PAIR. NVIDIA називає це персональним маршрутизатором ШІ, який розподіляє обробку ШІ між пристроями в домі для максимізації потенціалу. Не потрібно жодного додаткового обладнання — це виключно програмне рішення.
Як це працює?
NVIDIA PAIR поставляється у вигляді програмного забезпечення, яке встановлюється на кожен ПК у домогосподарстві. Ви контролюєте процес, вирішуючи, чи потрібно залишати певні пристрої або всі пристрої підключеними до маршрутизатора. Програма автоматично виявляє пристрої за допомогою mDNS, з’єднує їх за допомогою безпечного 6-значного коду, і всі пристрої спілкуються через захищений канал MTLS.
У демонстрації NVIDIA показує приклад, коли надходять запити на обробку. NVIDIA PAIR розподіляє їх між доступними вузлами в мережі. Програма також перевіряє поточне навантаження або кількість обробки, яка вже виконується на конкретному вузлі. Якщо на вузлі немає активної обробки, він надасть свою обчислювальну потужність вузлу, що зробив запит. Однак, якщо ви, наприклад, граєте в гру на своєму ПК, PAIR уникатиме цього вузла і розподілятиме запит між усіма доступними апаратними ресурсами.
- Немає нового API: PAIR працює як проксі для сумісних інтерфейсів Ollama та LM Studio, не вимагаючи від кожного агента інтеграції з новим API кластера.
- Еластичні клієнти: Сумісні системи можуть надавати ресурси, коли вони доступні, і відключатися, коли це необхідно, наприклад, при вимкненні або переході в режим сну.
- Локальний контроль: PAIR розроблений для того, щоб запити, дані та трафік обробки залишалися в межах локальної мережі користувача.
Програмне забезпечення враховує наявність GPU. Воно використовує проксі через Ollama та LM Studio. Агенту не потрібно проводити жодних налаштувань, і оскільки це не спільне використання моделі або будь-який вид тензорного паралелізму, NVIDIA PAIR просто приймає той самий запит на обробку з його конфігурацією та перенаправляє його на інший ПК.
Наразі NVIDIA PAIR базується переважно на глибині черги та завантаженні GPU. Це бета-планувальник для NVIDIA PAIR, але NVIDIA заявляє, що в майбутньому покращить планування PAIR, додавши інші сигнали для використання.
Сумісність
Під час запуску NVIDIA PAIR буде підтримувати платформи Windows, Linux та macOS, що означає, що його можна встановити майже на будь-який пристрій. Програмне забезпечення також буде з відкритим кодом під ліцензією Apache 2.0 (починаючи з сьогодні). Реліз буде бета-версією, після чого NVIDIA працюватиме над повноцінним релізом.
PAIR може:
- Маршрутизувати незалежні завдання між готовими системами в локальній мережі.
- Зменшувати черги, коли кілька запитів інакше очікували б за одним локальним двигуном.
- Зменшувати час виконання для відповідним чином паралелізованого навантаження у сумісній конфігурації.
- Допомагати звільнити основний ПК для ігор, створення контенту або інших інтерактивних завдань.
- Зберігати звичний робочий процес програми та пріоритет локального використання.
PAIR не може:
- Об’єднувати GPU або використовувати VRAM як один більший прискорювач.
- Розділяти одну модель або один запит на обробку між машинами.
NVIDIA Pair також підтримуватиме будь-який пристрій, що відповідає мінімальним вимогам Ollama та LM Studio. Отже, якщо ваш пристрій може запускати ці програми або невелику модель, навіть старий ноутбук з інтегрованим GPU підійде для роботи з цим програмним забезпеченням. Воно працюватиме з усіма GPU, що відповідають цим вимогам, а не тільки з GPU від NVIDIA. NVIDIA заявила, що наразі протестувала до 18 пристроїв (GPU), але можна підключати й більше.
Для кожного нового запиту PAIR враховує такі фактори:
- Чи підключено парний вузол і чи він готовий до роботи
- Чи запущено підтримуваний рушій для обробки
- Чи наявна саме запитувана модель
- Поточне навантаження на вузол і рушій, включно з активними завданнями
- Поточне завантаження GPU (наприклад, чи запущено графічно інтенсивну програму або інструмент)
Щодо мережевих вимог, NVIDIA PAIR вимагає низької пропускної здатності мережі, оскільки він лише надсилає команди REST API (текст), тому він не сильно впливатиме на розподіл ресурсів на стороні маршрутизатора, таких як стрімінгові сервіси тощо.
Сценарії використання
NVIDIA демонструє три сценарії використання NVIDIA PAIR: робочі процеси з кількома агентами, багатозадачність та розвантаження системи.
У сценарії “Робочі процеси з кількома агентами” NVIDIA наводить приклад агента з п’ятьма під-агентами. Коли кожен із цих під-агентів надсилає запити на обробку до одного вузла, ці завдання обробки стають у чергу. Система обробляє перше завдання, потім наступне і так далі. Ви отримуєте переваги якості під-агентів, але не швидкість. Все просто зупиняється в черзі.
З NVIDIA PAIR ви можете взяти кожне з цих завдань під-агентів, що надсилають запити на обробку, і рівномірно розподілити їх між різними вузлами у вашому домі. Це може бути ноутбук RTX Spark на одному вузлі, RTX 5090 на іншому, DGX Spark на третьому і так далі. Результати вражають: просто використовуючи додаткові обчислювальні ресурси у вашому домі, ви можете досягти 2-кратного прискорення в робочих процесах з кількома агентами, таких як агент Hermes.
Багатозадачність також може отримати переваги від NVIDIA PAIR, дозволяючи запускати кілька сесій паралельно на різних пристроях. І, нарешті, є розвантаження системи. Розвантаження системи — це, по суті, перенаправлення робочого процесу обробки ШІ на інший пристрій, коли основний пристрій використовується для чогось іншого, наприклад, для ігор або роботи над контентом. Це звільняє ресурси на вашому основному ПК, і ви все одно виконуєте свою роботу.
Використовуючи Qwen3.6 35B A3B на одній RTX 5090, те ж п’ятипід-агентне завдання займало в середньому 6 хвилин 18 секунд. Натомість кластер PAIR з двох пристроїв, що містить дві RTX 5090, виконав його в середньому за 3 хвилини 48 секунд. Це неофіційна демонстрація, специфічна для конфігурації, а не загальний тест або обіцянка лінійного масштабування.
NVIDIA PAIR — це проста, але добре реалізована ідея: більшість домогосподарств вже мають більше потужності для обробки ШІ, ніж використовують, і цей програмний маршрутизатор використовує цю невикористану потужність без нового обладнання, нових API або надсилання запитів до хмари. Виявляючи машини в локальній мережі, маршрутизуючи цілі завдання на будь-який вільний вузол і уникаючи ПК, який вже використовується для ігор або рендерингу, він перетворює запасні ноутбуки та невикористані GPU на приватний кластер домогосподарства.
Він не об’єднує VRAM і не розділяє одну модель між картами, але він скорочує черги, прискорює робочі процеси з кількома агентами та звільняє основну машину для реальної роботи. PAIR, будучи відкритим, кросплатформним і сумісним з Ollama та LM Studio як на обладнанні NVIDIA, так і на обладнанні інших виробників, є практичним способом отримати реальну цінність ШІ від комп’ютерів, які ви вже маєте.
За даними порталу: wccftech.com