Народна депутатка Мар’яна Безугла, яка придбала комп’ютер ASUS Ascent GX10 для локального запуску ШІ, вирішила повернути його до магазину. Причинами такого рішення став значний перелік недоліків, які були важливими для її користувацького досвіду.
Безугла позиціонує себе не як розробницю, а як “споживачку”, проте має багаторічний досвід роботи з Linux. Вона зазначила, що використовує Linux-дистрибутиви з часів навчання в медуніверситеті, коли шукала альтернативу Windows та не мала доступу до MacBook.
“Linux використовую ще з часів навчання в медуніверситеті, коли Windows не подобався, піратські програми й систему використовувати не хотіла, а макбуки не були поширені та доступні. Тоді сама через інтернет знайшла альтернативу та встановила Ubuntu на свій Dell. І хоча налаштовувати було незвично й складно, зрештою з того часу звикла і безперервно використовую Linux-дистрибутиви всі ці роки”, – пише депутатка в X.
Хоча у неї був досвід роботи з першим MacBook 2013 року та комп’ютерами з Linux, Безугла зіткнулася з труднощами при використанні Linux для ARM від NVIDIA. Ця система мала обмежений вибір програм, і це був не єдиний недолік.
Операційна система ASUS Ascent GX10, що базується на логіці NVIDIA, підтримувала англійську та російську мови, але повністю ігнорувала українську локалізацію. Також викликало занепокоєння те, що для налаштування взаємодії з цифровим помічником система пропонувала використовувати Telegram. “Так, в офіційній інструкції NVIDIA пропонують під’єднати NemoClaw до Telegram-бота”.
Система не надавала можливості для встановлення користувацького шифрування, на відміну від звичайних дистрибутивів, які працюють на ПК з AMD Ryzen AI Max+, що також розглядалися Безуглою. Вбудоване апаратне шифрування накопичувача, за її словами, практично не контролювалося користувачем.
Безугла також відзначила “сиру” прошивку ASUS, яка мала значні проблеми порівняно з версією від NVIDIA. Зокрема, комп’ютер міг не запускатися. Спроба використати прошивку NVIDIA, рекомендовану на форумах, виявилася невдалою через помилки доступу до UEFI. Попри ці перешкоди, депутатка провела локальне тестування мовної моделі.
“Так, для початку я завантажила GPT-OSS-120B. Це локальна велика мовна модель (LLM) від розробників ChatGPT на 120 млрд параметрів. […]. Я тестово завантажила 16 документів по кілька десятків сторінок кожен, які містили публікації на тему військової реформи, складні за змістом. GPT-OSS-120B все “переварив”, зробив узагальнення, відповідав на специфічні питання тощо. Далі попросила створити сайт і отримала сотні рядків коду без зависань”.
Швидкість обробки даних була оцінена як посередня: “умовно, поставила завдання і пішла заварювати чай”. Якість опрацювання контексту виявилася “рівномірною”, модель не збивалася, не повторювалася, надаючи відповіді однакової якості протягом усього діалогу. Безугла зазначила, що такий обсяг роботи для людини зайняв би кілька днів, а не 30 хвилин. Вона відзначила ефективну роботу комп’ютера та LLM у тандемі, коли процесом керує досвідчений фахівець.
“Щоб налаштувати навіть елементарні операції, вам все треба писати через консоль на кожному етапі базового запуску: просто завантажити сервіс Ollama для локального ШІ, завантажити модель, встановити графічний інтерфейс, який виглядає як чат у браузері Firefox (так, хто не звик до нього, ще один момент: багато інструментів тут працюють через браузер Firefox, а вибір альтернативи обмежений; мені було добре, бо Firefox маю як основний браузер з моменту його появи, і я ніколи його не змінювала, були й є додаткові, але основний завжди він). Компʼютер видає якісь помилки, неточності, потребує уточнення на форумах NVIDIA, Reddit тощо і… звісно, допомоги хмарних ШІ як ІТ-консультантів для розгортання інфраструктури”.
Попри позитивні результати тестування LLM, власниця вирішила відмовитися від системи та повернути її до магазину. Серед причин вона назвала невідповідність ціни та якості, інтеграцію з Telegram та російською мовою (хоча стверджує, що використовувала англійську), повільну роботу, “сиру” прошивку та обмеження стаціонарного форм-фактора. Також, за її словами, комп’ютер “потребує щоденної опіки та налаштування, а отже, обізнаного персоналу або ж мого особистого часу, що не є профільним напрямком роботи”.
Ключовою причиною стала обмеженість апаратно-програмної платформи. Linux на ARM обмежує вибір програмного забезпечення, а “основна архітектура та особливості є закритими і належать компанії NVIDIA, а не open source”. Мар’яна Безугла не відмовляється від ідеї створення локальної ШІ-інфраструктури і зазначила, що отриманий досвід допоміг краще зрозуміти потреби її офісу.
“Дійсно, роботу з нечутливими даними, такими як законодавча та публічна діяльність, можна значно покращити з використанням хмарної архітектури, а для локального опрацювання залишаються деякі чутливі документи та звернення громадян, які можуть закрити простіші технічні рішення. Вивчаю, що можна організувати на базі AMD Ryzen AI (Strix Halo) або ж придбати Apple Mac Mini тощо як стабільний споживчий варіант”.
Ймовірно, Мар’яна Безугла продовжить ділитися своїми досвідами у сфері ШІ-технологій, пообіцявши тримати спільноту X в курсі подій та подякувавши за допомогу.
Чи варто купувати? (Порада ІТ-Блогу): ASUS Ascent GX10 за $4000, судячи з досвіду депутатки, є пристроєм для ентузіастів та досвідчених користувачів, які готові витрачати час на налаштування та вирішення проблем. Для тих, хто шукає готове рішення “з коробки” з українською локалізацією та простотою використання, цей ШІ-ПК, ймовірно, не буде найкращим вибором, особливо враховуючи його високу вартість та закритість деяких компонентів.
Інформація підготовлена на основі матеріалів: mezha.ua