Старий Google Pixel став потужним хабом для офлайн-ШІ

Старий Google Pixel став потужним хабом для офлайн-ШІ 1

Старі смартфони Pixel все ще можуть знайти своє застосування. Хоча процесор Tensor від Google, можливо, є найменш потужним з останніх SoC (після серії Kirin від Huawei), він все ж достатньо потужний для запуску невеликих ШІ-моделей за умови правильного налаштування. Один ентузіаст створив портативний комп’ютер (cyberdeck) на базі Pixel 7, на якому запустив Qwen2.5-abliterate:3b — 3-мільярдну модель без цензури та з повністю видаленими фільтрами безпеки.

Навіть запуск невеликої моделі на Pixel 7 вимагає терпіння, оскільки смартфон обробляє лише 5 токенів за секунду

За допомогою Claude Code користувач Reddit “Levfo” згенерував 3D-друковані CAD-файли для корпусу кібердека, що вміщує Pixel 7, перетворивши його на портативний комп’ютер для локального запуску ШІ. Дисплей показує інтерфейс, схожий на термінал Linux, з інструментами командного рядка Claude Code. Нижня частина корпусу, ймовірно, призначена для павербанка, що дозволяє смартфону працювати безперебійно з Qwen2.5-abliterate:3b.

З огляду на обмеження чіпа Tensor G2 в Pixel 7 та його 8 ГБ оперативної пам’яті, запуск більш складної моделі, ніж 3-мільярдна, був би марною справою. Навіть Qwen2.5-abliterate:3b вдалося досягти швидкості лише 5 токенів за секунду, що не є ідеальним, але цілком можливо, якщо ви готові чекати. Проте, запуск ШІ-моделі без залежності від інтернет-з’єднання — це завжди перевага.

Старий Google Pixel став потужним хабом для офлайн-ШІ 2
Старий Google Pixel став потужним хабом для офлайн-ШІ 3
Старий Google Pixel став потужним хабом для офлайн-ШІ 4

Крім того, з певного погляду, запуск моделі без цензури з видаленими фільтрами безпеки може бути позитивним підходом, якщо це не призводить до жодної шкоди. Хоча створення версії кібердека з Pixel 7, ймовірно, є хобі, це демонструє, як старі Android-смартфони можуть отримати нове життя завдяки поширенню ШІ.

Звісно, 3-мільярдна ШІ-модель не буде найдосконалішою, що працює на портативному пристрої, але базові завдання вона має виконувати без проблем. Чи наважилися б ви на щось подібне замість того, щоб смартфон припадав пилом у шухляді?

Джерело новини: wccftech.com

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *