Sixfab AI HAT+ для Raspberry Pi 5: 25 TOPS при 3 Вт для локального ИИ на периферии

Что такое Sixfab AI HAT+ и зачем он нужен Raspberry Pi 5

Sixfab AI HAT+ — сторонняя плата расширения для Raspberry Pi 5 на NPU DEEPX DX-M1M. Она добавляет 25 TOPS выделенного ускорения ИИ при типичном энергопотреблении NPU около 3 Вт, оставляя CPU Raspberry Pi для камеры, логики приложения, сети и управления устройством. В отличие от штатных AI HAT+ и HAT+ 2 от Raspberry Pi, плата рассчитана на постоянную работу ИИ на периферии с жёстким энергобюджетом.

Ключевые характеристики: 25 TOPS при ~3 Вт

• NPU: DEEPX DX-M1M, 25 TOPS (INT8)
• Типичное энергопотребление NPU: ~3 Вт при длительной нагрузке
• Память: 2 ГБ выделенной LPDDR4x на модуле
• Поддержка CNN, VLM и SLM на одном чипе и одном инструментарии
• Совместимость с Raspberry Pi 5 (проверено на версии 8 ГБ)

Почему 3 Вт, а не число TOPS, — главная цифра

Пиковые TOPS хорошо смотрятся в маркетинге, но для большинства периферийных устройств решающим является энергетический и тепловой бюджет. Системе нужен запас мощности для самого Raspberry Pi, камеры, накопителя, сети и управления. Ускоритель, потребляющий около 3 Вт под длительной нагрузкой, позволяет использовать меньшие корпуса, простое (часто пассивное) охлаждение и запускать ИИ непрерывно, а не короткими сессиями. Это делает локальный ИИ практичным для умных камер, роботов, промышленного оборудования и распределённых датчиков, где ограничением становятся задержка облака, связность или приватность данных.

Один NPU для трёх классов задач: CNN, VLM и SLM

DX-M1M поддерживает весь путь от восприятия до понимания контекста и ответа на одном чипе и одном инструментарии.

• CNN: эффективное визуальное восприятие — детекция объектов, классификация, сегментация, оценка позы, глубина и улучшение изображения. DEEPX ModelZoo содержит предоптимизированные примеры, включая детекторы семейства YOLO, модели сегментации и позы, а DX-Stream помогает собирать их в GStreamer-пайплайны.
• Компактная VLM: добавляет контекстное понимание поверх визуальных результатов — описание сцены, ответ на вопрос об изображении или интерпретация события на естественном языке локально, без передачи данных.
• SLM: малая языковая модель интерпретирует команды пользователя, суммирует локальные события или генерирует краткое объяснение, создавая естественный интерфейс для камер, роботов и машин без обращения к облаку.

Память: 2 ГБ LPDDR4x на модуле

Первый вопрос при запуске языковых моделей на периферии — сколько доступно памяти и какая модель поместится. Модуль DX-M1M несёт 2 ГБ выделенной LPDDR4x, что с комфортом поддерживает рабочие нагрузки VLM и SLM вместе с визуальными моделями.

Точность важнее пикового бенчмарка

Производительность на периферии полезна только тогда, когда модель остаётся точной на тех изображениях и в тех условиях, с которыми реально сталкивается приложение. DEEPX рассматривает оптимизацию INT8 как процесс, учитывающий точность, а не простое преобразование.

1. Начните с известного базового уровня точности FP32 и чётко определённой метрики приложения.
2. Калибруйте на репрезентативных данных из реальной среды развёртывания, а не только на чистых образцах.
3. Компилируйте и оптимизируйте модель с помощью DX-COM в портируемый артефакт .dxnn.
4. Сравните точность, задержку, энергопотребление и тепловое поведение на финальной системе Raspberry Pi.

Производительность в цифрах: DX-M1M против DX-M1

* DX-M1 использует LPDDR5, а DX-M1M — LPDDR4X, что приводит к разнице в производительности из-за пропускной способности памяти.

От первой загрузки до первого инференса

Самый быстрый способ понять платформу — проверить оборудование, запустить упакованную модель и понаблюдать за работой NPU. В Raspberry Pi OS выполните:

sudo apt update && sudo apt install apt-repo-sixfab
sudo apt update && sudo apt install sixfab-dx dxrt-cli -s
# подтвердить статус устройства и ПО
run_hello_world # запустить упакованный пример
dxtop # наблюдать за NPU в реальном времени

Далее выберите оптимизированную нагрузку из ModelZoo или принесите свою поддерживаемую ONNX-модель через DX-COM. Полученный файл .dxnn запускается через C++ или Python API DX-RT, а ваше приложение на Raspberry Pi продолжает обрабатывать камеры, бизнес-логику, пользовательский интерфейс, сеть и управление.

Программный стек: DX-COM, DX-RT, DX-Stream, ModelZoo

Что можно построить: от домашних сценариев до промышленности

Начните дома. Камера на рабочем столе, которая распознаёт неудачную 3D-печать и присылает снимок с однострочным описанием. Камера у входной двери, отличающая курьера, соседского кота и человека, который задерживается, и суммирующая события дня вечером — полностью локально. Садовый или питомцевый монитор, который предупреждает только о том, что стоит увидеть. Все они следуют одному циклу: CNN видит событие, компактная VLM добавляет контекст, SLM объясняет или интерпретирует вашу следующую команду, а приложение на Raspberry Pi решает и действует.

Тот же цикл масштабируется до серьёзных развёртываний: непрерывное локальное обнаружение в умных камерах с меньшей зависимостью от облака; низкопотребляющий визуальный контроль качества и безопасности рядом с производственной линией; восприятие и компактный мультимодальный интеллект на роботах, пока Raspberry Pi запускает ROS 2 и логику управления; и аналитика присутствия и поведения с учётом приватности в рознице и умных пространствах.

Чего AI HAT+ не заменяет: границы применения

Как и любой периферийный ускоритель, AI HAT+ не пытается конкурировать с облачным инференсом. Приложения, которым нужны широкие знания о мире, очень длинный контекст разговора или непрерывное обучение, всегда будут работать лучше там, где вычисления и память фактически не ограничены. DX-M1M лучше всего проявляет себя в узко очерченном, постоянно включённом интеллекте рядом с камерой или датчиком — там, где приватность, задержка, автономная работа и энергобюджет в пределах однозначных ватт являются требованиями, определяющими дизайн. Честность в отношении этой границы — именно то, что делает платформу надёжной внутри неё.

Сообщество, документация и доступность

Всё необходимое для углубления доступно публично: DX-AllSuite и ModelZoo на GitHub, а портал разработчика DEEPX содержит документацию, руководства и каналы поддержки, где можно задавать вопросы и сообщать о проблемах.

Версия Sixfab AI HAT+ на 25 TOPS для Raspberry Pi 5 уже доступна от Sixfab, а версия на 13 TOPS ожидается к концу 2026 года. Ссылки на документацию и руководство по быстрому старту приведены ниже.

• Sixfab AI HAT+ для Raspberry Pi 5 (страница продукта)
• Sixfab AI HAT+ Quickstart
• DEEPX DX-AllSuite на GitHub
• DEEPX DX-M1 страница продукта
• DEEPX Developer Portal

FAQ