Honor On-Device AI. Джерело: Honor
Honor представила першу в галузі модель великих мовних моделей (LLM), що працює безпосередньо на самому пристрої, а не в хмарі. Виробник обіцяє запустити цю функцію на міжнародній версії Honor Magic V5 пізніше на цьому тижні.
Навіщо це?
Робота безпосередньо на пристрої дозволяє отримати більшу швидкість і зменшити затримки. Наприклад, переклад розмови на льоту можливий лише при роботі безпосередньо на пристрої. Також локальний штучний інтелект більш конфіденційний — ваші дані фізично не покидають пристрій.
Деталі
Технологія Honor дозволяє зменшити обсяг мовних пакетів — замість стандартних 3–4 Гб для шести мов (китайська, англійська, німецька, французька, іспанська, італійська), мовні пакети скоротили до 800 Мб, звільнивши близько 2.78 ГБ простору на телефоні.
Обробка голосу й переклад відбувається моментально, до закінчення речення. Honor заявляє, що це дозволяє досягти на 38% швидшої обробки (ніж через хмарні LLM) і на 16% кращої точності розпізнавання. Розробки підтверджені двома науковими роботами INTERSPEECH 2025, зокрема:
- MFLA: Monotonic Finite Look-ahead Attention for Streaming Speech Recognition — для швидкого й точного розпізнавання мовлення.
- Novel Parasitic Dual-Scale Modeling for Efficient and Accurate Multilingual Speech Translation — для прискорення обробки великих моделей з підтримкою багатомовності.
Вірогідно, слід очікувати, що технології штучного інтелекту продовжать розвиватися в тому числі на локальних пристроях. Нагадаємо, кілька місяців тому Google вже розмістив LLM на смартфоні Pixel 6, але там була не 6-мовна модель, а урізана, адаптована для розпізнавання «мови» дельфінів.
Джерело: www.fonearena.com