Четырехъядерная карта PCIe VP10304

Обзор

Четырехъядерная PCIe-карта Volga VP10304 высокопроизводительный и энергоэффективный вывод искусственного интеллекта для периферийных устройств и серверов. Карта PCIe половинной высоты и половинной длины (HHHL) приобретает интеграцию в платформе, где находится место обнаружения. VP10304 включает в себя высокие показатели производительности матричными процессорами M1076 Volga (Volga AMP™), повышающими производительность ИИ до 100% и поддерживающими до 320 миллионов весов для сложных рабочих показателей ИИ при мощности менее 25 Вт. Большие модели DNN устанавливаются на плате VP10304 PCIe с использованием комбинированных вычислений AI четырех усилителей M1076. VP10304 также может запускать множество небольших моделей DNN для приложений видеоаналитики, обрабатывающих изображения с нескольких камер.

Особенности

Четыре усилителя M1076
Производительность выявления искусственного интеллекта 100%
Не требуется увеличение памяти DRAM
Поддержка стандартных отраслевых фреймворков искусственного интеллекта
Предварительно подготовленные сети, включающие обнаружение объектов, классификацию, отчетность, скорость и сеть, сегментацию изображений

Поддержка до 320 миллионов весов на чипе
Встроенное хранилище параметров модели
4-полосный PCIe 3.0 с пропускной способностью до 3,9 Гбит/с.
Поддержка ОС: Ubuntu, NVIDIA L4T и Windows (будущая версия)

Рабочий процесс

Модели DNN, разработанные в стандартных фреймворках, таких как Pytorch, Caffe и TensorFlow, реализуются и развертываются на аналоговом матричном процессоре Volga (Volga AMPTM) с использованием программного обеспечения Volga AI workflow. Модели оптимизируются, квантуются от FP32 до INT8, а затем переобучаются для Volga Analog Compute Engine (Volga ACETM) перед обработкой с помощью мощного графического компилятора Volga. Результирующие двоичные файлы и веса модели затем программируются в Volga AMP для вывода. Для разработчиков также доступны предварительно подготовленные модели, позволяющие быстро оценить решение Volga AMP.

Библиотека моделей DNN

Volga предоставляет библиотеку предварительно подготовленных моделей DNN для наиболее популярных вариантов использования искусственного интеллекта. Модели DNN были оптимизированы для использования преимуществ высокопроизводительного и маломощного аналогового матричного процессора Volga (Volga AMPTM). Разработчики могут сосредоточиться на производительности модели и интеграции конечного приложения вместо трудоемкого процесса разработки и обучения модели. Доступные предварительно квалифицированные модели DNN включают в себя:

Обнаружение и классификация объектов YOLOv3, YOLOv5, ResNet-50, ResNet-18-18

Обнаружение и классификация объектов YOLOv3, YOLOv5, ResNet-50, ResNet-18

Сегментация сцены SegNet

Оценщик позы человека OpenPose Body25