VM1076 Карта-ключ

Обзор

Ключевая карта VM1076 обеспечивает высокопроизводительный, но в то же время энергоэффективный вывод ИИ для оконечных устройств и оконечных серверов. Компактный форм-фактор и популярность карты M.2 делают интеграцию во многие различные системы простой задачей. VM1076 разработан с использованием M1076 Volga AMP™, который состоит из множества чипов усилителя, каждая из которых оснащена Volga Analog Compute Engine (Volga ACE™). VM1076 идеально подходит для обработки моделей глубоких нейронных сетей (DNN) в различных приложениях, включая видеонаблюдение, промышленное машинное зрение, беспилотные летательные аппараты, AR / VR и пограничные серверы.

Особенности

M1076 Volga AMP™ с поддержкой встроенного чипа весом до 80 м
Не требуется внешняя память DRAM
SMBus для доступа к EEPROM и PMIC
Предварительно подготовленные сети, включая детекторы объектов, классификаторы, оценщики положения, с добавлением большего количества
Поддержка ОС: Ubuntu, NVIDIA L4T и Windows (будущая версия)

Сохраненные параметры модели и матричные операции, выполняемые на кристалле с помощью чипов AMP
4-полосный PCIe 2.1 с пропускной способностью до 2 Гбит/с.
Поддержка стандартных фреймворков, включая PyTorch, TensorFlow 2.0 и Caffe
Небольшой форм-фактор 22 мм x 30 мм

Рабочий процесс

Модели DNN, разработанные в стандартных фреймворках, таких как Pytorch, Caffe и TensorFlow, реализуются и развертываются на аналоговом матричном процессоре Volga (Volga AMPTM) с использованием программного обеспечения Volga AI workflow. Модели оптимизируются, квантуются от FP32 до INT8, а затем переобучаются для Volga Analog Compute Engine (Volga ACETM) перед обработкой с помощью мощного графического компилятора Volga. Результирующие двоичные файлы и веса модели затем программируются в Volga AMP для вывода. Для разработчиков также доступны предварительно подготовленные модели, позволяющие быстро оценить решение Volga AMP.

Библиотека моделей DNN

Volga предоставляет библиотеку предварительно подготовленных моделей DNN для наиболее популярных вариантов использования искусственного интеллекта. Модели DNN были оптимизированы для использования преимуществ высокопроизводительного и маломощного аналогового матричного процессора Volga (Volga AMPTM). Разработчики могут сосредоточиться на производительности модели и интеграции конечного приложения вместо трудоемкого процесса разработки и обучения модели. Доступные предварительно квалифицированные модели DNN включают в себя:

Обнаружение и классификация объектов YOLOv3, YOLOv5, ResNet-50, ResNet-18-18

Обнаружение и классификация объектов YOLOv3, YOLOv5, ResNet-50, ResNet-18

Сегментация сцены SegNet

Оценщик позы человека OpenPose Body25