Лартех выпустил решение для импортозамещения

15 апреля в рамках выставки ExpoElectronica руководитель проектов Лартех Дмитрий Хорьков выступил с докладом на семинаре Российского Альянса RISC-V. На мероприятии было показано новое решение — Программный комплекс (ПК) для оптимизации ML-моделей и ИИ под архитектуру RISC-V.

Тренды Edge AI и AIoT, обусловленные переносом технологий машинного обучения на конечные устройства, диктуют необходимость адаптации сложных ML-моделей для работы в условиях ограниченных вычислительных ресурсов. В России это направление является частью стратегии импортозамещения, особенно в микроэлектронике. Однако классические алгоритмы машинного обучения, требовательные к вычислительной мощности, ограничивают их использование на микроконтроллерах. Открытая архитектура RISC-V становится основой для отечественных процессоров, но для их эффективного использования ML-модели нужно оптимизировать — уменьшить размер и сохранить точность.

ПК Лартех предназначен для уменьшения размера ML-моделей с сохранением точности в заданных пределах и оптимизации их для работы на отечественных процессорах и микроконтроллерах. Комплекс применяет три группы методов оптимизации: прунинг (удаление избыточных параметров нейросетей), квантование (снижение разрядности вычислений) и дистилляция (передача знаний от большой модели к компактной). Это позволяет повысить скорость работы алгоритмов и снизить энергопотребление устройств.

«Мы стремимся предоставить разработчикам инструменты, позволяющие эффективно использовать потенциал архитектуры RISC-V и создавать конкурентоспособные продукты в сфере искусственного интеллекта и интернета вещей», — отметил руководитель проектов Лартех Дмитрий Хорьков.