Карта-ключ VE1076 M.2 A+E

Обзор

Ключевая карта VE1076 M.2 A+E обеспечивает высокопроизводительный, но в то же время энергоэффективный вывод ИИ для оконечных устройств и оконечных серверов. Компактный форм-фактор и популярность карты M.2 делают интеграцию во многие различные системы простой задачей. VE1076 разработан с использованием V1076 Volga AMP™, который состоит из множества чипов усилителя, каждая из которых оснащена Volga Analog Compute Engine (Volga ACE™). VE1076 идеально подходит для обработки моделей глубоких нейронных сетей (DNN) в различных приложениях, включая видеонаблюдение, промышленное машинное зрение, беспилотные летательные аппараты, AR / VR и пограничные серверы.

Особенности

V1076 Volga AMP™ с поддержкой встроенного чипа до 80M весов ИИ
Не требуется внешняя память DRAM
SMBus для доступа к EEPROM и PMIC
Предварительно подготовленные сети, включая детекторы объектов, классификаторы, оценщики положения, с добавлением большего количества
Поддержка ОС: Ubuntu, NVIDIA L4T и Windows (будущая версия)

Сохраненные параметры модели и матричные операции, выполняемые на кристалле с помощью чипов AMP
2-полосный PCIe 2.1 с пропускной способностью до 1 Гбит/с.
Поддержка стандартных фреймворков, включая PyTorch, TensorFlow 2.0 и Caffe
Небольшой форм-фактор 22 мм x 30 мм

Рабочий процесс

Модели DNN, разработанные в стандартных фреймворках, таких как Pytorch, Caffe и TensorFlow, реализуются и развертываются на аналоговом матричном процессоре Volga (Volga AMPTM) с использованием программного обеспечения Volga AI workflow. Модели оптимизируются, квантуются от FP32 до INT8, а затем переобучаются для Volga Analog Compute Engine (Volga ACETM) перед обработкой с помощью мощного графического компилятора Volga. Результирующие двоичные файлы и веса модели затем программируются в Volga AMP для вывода. Для разработчиков также доступны предварительно подготовленные модели, позволяющие быстро оценить решение Volga AMP.

Библиотека моделей DNN

Volga предоставляет библиотеку предварительно подготовленных моделей DNN для наиболее популярных вариантов использования искусственного интеллекта. Модели DNN были оптимизированы для использования преимуществ высокопроизводительного и маломощного аналогового матричного процессора Volga (Volga AMPTM). Разработчики могут сосредоточиться на производительности модели и интеграции конечного приложения вместо трудоемкого процесса разработки и обучения модели. Доступные предварительно квалифицированные модели DNN включают в себя:

Обнаружение и классификация объектов YOLOv3, YOLOv5, ResNet-50, ResNet-18-18

Обнаружение и классификация объектов YOLOv3, YOLOv5, ResNet-50, ResNet-18

Сегментация сцены SegNet

Оценщик позы человека OpenPose Body25