Архітектура DX-M2 дозволяє запускати великі мовні моделі з мінімальними енерговитратами. Джерело: DeepX
Південнокорейська компанія DeepX завершила розробку другого покоління своїх ШІ-прискорювачів — DX-M2. Головна ідея в тому, щоб перенести «мізки» великих мовних моделей із хмарних дата-центрів безпосередньо на пристрої: від промислових роботів та дронів до звичайних ноутбуків. Причому робити це пропонують із дуже скромним апетитом до енергії.
Більше TOPS, менше ват
Чип DX-M2 розрахований на роботу з моделями обсягом від 20 до 100 млрд параметрів. Швидкість генерації тексту становить 10–30 токенів на секунду, що цілком комфортно для реального часу. Найцікавіше тут — енергоефективність. Попри зростання потужності, теплопакет залишився на рівні 5 Вт. Для порівняння, перше покоління DX-M1, представлене у 2024 році, мало продуктивність лише 25 TOPS та призначалося переважно для комп'ютерного зору.
Новинка видає вже 80 TOPS. Такого стрибка вдалося досягти завдяки новій архітектурі нейропроцесора (NPU) та переходу на 2-нм техпроцес Samsung. До речі, ще у 2024 році DeepX залучила 80.5 млн доларів (близько 3.65 млрд грн) інвестицій саме на розробку рішень на базі 2-нм техпроцесу.
Пам'ять, що вміє рахувати
Одним із ключових вузьких місць для ШІ завжди була швидкість передачі даних між процесором та пам'яттю. У DX-M2 пропускна здатність зросла втричі — до 150 ГБ/с. Але головний козир — спільна розробка із Samsung над пам'яттю LPDDR5x-PIM (Processing-in-Memory). Ця технологія, яка стала ключовим трендом у 2026 році, дозволяє виконувати частину обчислений прямо всередині мікросхем пам'яті.
Це критично важливо для операцій множення матриці на вектор, на яких тримаються мовні моделі. Хоча поки що результати моделювання показують прискорення генерації токенів для Llama 3.1 8B у 6.7 раза, компанія ставить реалістичну мету: подвоїти швидкість при збереженні того ж 5-ватного бюджету. Це особливо актуально на тлі того, що власна пам'ять Samsung стає дорожчою, і ефективність використання кожного гігабайта виходить на перший план.
Прощання з Nvidia та плани на майбутнє
DeepX активно націлена на ринок робототехніки, де зараз домінує Nvidia. Щоб полегшити розробникам перехід, компанія створила платформу DX-Newton. Вона дозволяє мігрувати з Nvidia Isaac ROS, просто замінивши назви API у коді. За словами засновника компанії Локвона Кіма (Lokwon Kim), такий перехід може збільшити час автономної роботи робота у 20 разів.
Компанія вже співпрацює з Hyundai Motor Group Robotics Lab, а в майбутньому планує інтеграцію з процесорами Intel Core Ultra через OpenVINO. Поки DX-M2 готується до масового випуску восени 2027 року, у DeepX вже малюють плани на DX-M3 у 2028 році. Там обіцяють чиплетну архітектуру та підтримку стандарту LPDDR6, що має вивести локальні обчислення на рівень ексоперацій на секунду.