5 способів, як локальна LLM трансформує моє розумне помешкання

5 способів, як локальна LLM трансформує моє розумне помешкання 1

Я використовую локальні великі мовні моделі (LLM) для різноманітних завдань, зокрема для видалення особистої інформації з документів перед завантаженням до Claude чи ChatGPT, а також для створення щоденного RSS-дайджесту для мого Kindle. Попри те, що навіть невеликі LLM працюють доволі повільно на моєму обладнанні, я активно застосовую їх у своїй системі “розумного будинку”.

5 способів, як локальна LLM трансформує моє розумне помешкання 2

Створюючи обліковий запис, ви погоджуєтеся з нашими Умовами використання та Політикою конфіденційності. Ви також погоджуєтеся отримувати наші розсилки; відписатися можна будь-коли.

Читайте далі 5 способів, як локальна LLM трансформує моє розумне помешкання 3

Увійти

Забули пароль?

Створити обліковий запис

*Обов’язково: 8 символів, 1 велика літера, 1 цифра

Створити обліковий запис

Продовжити черезGoogle Продовжити черезOpenPass або Продовжити черезEmail

Продовжити

Створюючи обліковий запис, ви погоджуєтеся з нашими Умовами використання та Політикою конфіденційності. Ви також погоджуєтеся отримувати наші розсилки; відписатися можна будь-коли.

Генерація ранкового брифінгу

Об’єднання інформації з різних джерел

5 способів, як локальна LLM трансформує моє розумне помешкання 4

Це одна з моїх улюблених автоматизацій, і локальна LLM є її основою. Мені завжди подобалася ідея Alexa Flash Briefings, які надають новини, прогноз погоди, спортивні оновлення тощо. Однак вони ніколи не здавалися достатньо персональними.

Я вирішив створити власний. Він збирає дані з Home Assistant, включаючи події календаря, інформацію про шкільні обіди, дати вивезення сміття, погодні дані та багато іншого. Уся ця інформація об’єднується в ранковий брифінг, який відтворюється вголос через розумну колонку, коли ми заходимо на кухню.

LLM генерує текст брифінгу, поєднуючи всю інформацію природною мовою з певною часткою індивідуальності. Використання локальної LLM є кращим варіантом, оскільки я не хочу ділитися великою кількістю особистої інформації з хмарною платформою штучного інтелекту. Хоча обробка відбувається повільно, брифінг генерується до того, як ми прокинемося, тому він завжди готовий до відтворення, коли ми заходимо на кухню.

Створення природних голосових оголошень

Щоденні нагадування щодня

5 способів, як локальна LLM трансформує моє розумне помешкання 5

LLM навчені обробляти та генерувати мову, тому не дивно, що вони добре справляються зі створенням природно звучащого тексту. Існує безліч способів застосувати це у вашому “розумному будинку”.

Проаналізувавши статистику з датчика руху, я виявив, що ми з дружиною входимо на кухню близько 50 разів на день, коли діти в школі. Тому я налаштував автоматизацію, яка відтворювала голосове оголошення щоразу, коли ми заходили на кухню, пропонуючи щось прибрати. Спочатку це працювало добре, але повторювані оголошення стало легко ігнорувати.

Використовуючи локальну LLM, я тепер отримую абсолютно нові оголошення щодня, тому ніколи не знаю, що саме вони скажуть. Вони генеруються з легким зухвалим відтінком, тому часто бувають досить кумедними, що змушує нас уважно їх слухати.

Оскільки ми активно їх слухаємо, їх набагато важче ігнорувати. Це справді допомагає підтримувати порядок на кухні.

5 способів, як локальна LLM трансформує моє розумне помешкання 6

5 інтеграцій Home Assistant, які роблять мій розумний будинок футуристичним

Майбутнє вже тут, старий.

Публікації 3 Автор:  Adam Davidson

JARVIS нагадує мені, що потрібно зробити

Голосове резюме невиконаних завдань зі списку справ

5 способів, як локальна LLM трансформує моє розумне помешкання 7

Одним із перших моїх кроків у сфері технологій “розумного будинку” було налаштування голосового керування за допомогою датчика Xbox Kinect та програми J.A.R.V.I.S., яка перетворювала голосові команди на інструкції для “розумного будинку”.

Коли я зібрав власну розумну колонку, для мене було очевидним, що я перетворю її на власну версію ШІ- дворецького Залізної Людини. Використовуючи британський чоловічий голос, моя розумна колонка час від часу надаватиме важливу інформацію.

Однією з найкорисніших функцій є сповіщення про невиконані завдання з мого списку справ у Home Assistant. Локальна LLM перетворює цей список на письмове оголошення в стилі британського ШІ-дворецького, а потім локальна модель TTS перетворює текст на аудіо з відповідним британським акцентом. Аудіо відтворюється через мою розумну колонку. Це найближче, на що я можу сподіватися, щоб стати Залізною Людиною.

Щоденний звіт, який присоромлює мене, змушуючи більше рухатися

Використання даних про здоров’я, щоб спонукати мене до дій

Закрити

Робота за комп’ютером, що вимагає багато часу, не є здоровим способом життя. Я проводжу години, сидячи за столом, сутулячись над клавіатурою, і це погано впливає на моє здоров’я. Я намагався знайти різні способи змусити себе вставати та більше рухатися.

Одним із таких способів стало використання локальної LLM для написання саркастичних звітів. Вона використовує дані про стан здоров’я, отримані з мого Apple Watch, такі як кількість кроків і години, проведені на ногах. Вона також враховує, скільки часу я провів за столом, що визначається датчиком присутності.

Щоранку локальна LLM збирає всю інформацію у звіт, який відтворюється вголос і відображається на панелі Home Assistant. Це часто допомагає мені, присоромлюючи, більше рухатися.

Збір ранкових новин

Моя розумна колонка повідомляє мені про останні події

5 способів, як локальна LLM трансформує моє розумне помешкання 28

Наш ранковий брифінг відтворюється, коли ми вперше заходимо на кухню, але це не перше оголошення дня. Ще до того, як ми встанемо з ліжка, розумна колонка надає мені зведення заголовків новин на основі тем, які мене найбільше цікавлять.

Інформація надходить через RSS-канали з конкретних новинних джерел або тематичних вебсайтів. Основні історії потім передаються локальній LLM, яка об’єднує їх у короткий кастомний новинний брифінг. Він запускається, коли я щоранку знімаю телефон із зарядки, і відтворюється через розумну колонку. Це чудовий спосіб розпочати день.

Локальній LLM не обов’язково бути швидкою

У всіх наведених вище випадках використання локальна LLM потребує певного часу для отримання результатів. Оскільки LLM починає працювати, поки я сплю, тривалість обробки не має значення. Результати завжди готові та чекають саме тоді, коли вони мені потрібні.


Порада від Soft Portal:

Ця стаття демонструє, як сучасні технології, зокрема локальні великі мовні моделі (LLM), можуть значно покращити функціональність вашого “розумного будинку”. Використання LLM для персоналізованих ранкових брифінгів, креативних нагадувань, управління списком завдань та аналізу даних про здоров’я робить ваш дім не просто автоматизованим, а по-справжньому розумним та адаптованим до ваших потреб. Це дозволяє ефективніше використовувати ресурси та отримувати унікальний досвід взаємодії з технологіями.

Дізнатися більше на: www.howtogeek.com

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *