Menu
Стандартные вычислительные архитектуры предназначены для решения последовательных алгоритмов. Они превосходно справляются с этими алгоритмами, используя чрезвычайно мощное и энергоемкое ядро процессора, окружая его архитектурой памяти, соответствующей профилю памяти этих приложений. Вывод ИИ — это не типичное последовательное приложение; это приложение на основе графов, в котором выходные данные одного узла графа поступают на вход других узлов графа.
Графические приложения предоставляют возможности для извлечения параллелизма, назначая отдельный вычислительный элемент каждому узлу графа. Когда результаты одного узла графика завершены, они передаются следующему узлу графика для запуска следующей операции, что идеально подходит для архитектуры потока данных. В нашей архитектуре потока данных мы назначаем узел графа каждому массиву вычислений в памяти и помещаем данные о весе для этого узла графа в этот массив памяти. Когда входные данные для этого узла графа готовы, они поступают в правильное местоположение, смежное с массивом памяти, а затем выполняются локальными вычислениями и памятью. Многие приложения для вывода используют такие операции, как свертка, которая обрабатывает биты кадра изображения вместо всего кадра сразу.
Наша архитектура потока данных также максимизирует производительность вывода за счет того, что многие элементы вычислений в памяти работают параллельно, конвейеризируя обработку изображений путем параллельной обработки узлов нейронных сетей (или “слоев”) в разных частях кадра. Будучи созданной с нуля как архитектура потока данных, архитектура AiVolga минимизирует объем памяти и вычислительные затраты, необходимые для управления графами зависимостей, необходимыми для вычислений потока данных, и обеспечивает максимальную производительность приложения.
Our team ushers in a new era of AI innovation