3-TOPS на ватт Hailo-8 NPU поступает на модуль M.2

Hailo выпустила линейку карт M.2 и mini-PCIe для систем Linux, оснащенных NPU Hailo-8 до 26 TOPS, 3 TOPS на ватт. Hailo-8 используется в пограничном сервере AI Foxconn BOXiedge v2.

В мае мы сообщали о Foxconn BOXiedge v2 , который работает под Linux на SoC SoC SoC-A53 SynQuacer SC2A11 24x Cortex-A53 и 3-TOPS на ватт Hailo-8 NPU, который может работать со скоростью до 26 TOPS. Теперь Hailo запустила реализацию Hailo-8 M.2, на подходе версия mini-PCIe. По заявлению Hailo, ускоритель с форм-фактором M.2 M-key 2242 - это самый высокопроизводительный модуль AI M.2 в мире.

Хайло-8 М.2

Модуль ускорения AI Hailo-8 M.2 обеспечивает PCIe Gen3 x4, в то время как будущий ускоритель mini-PCIe будет предлагать тот же NPU, но с PCIe Gen3 x1. Карты ускорения могут работать в любой системе на базе Linux, с поддержкой Windows в разработке. Приложения включают в себя интеллектуальные городские, розничные, домашние и промышленные приложения - особенно те, в которых требуется одновременная обработка и анализ нескольких камер и датчиков. Со времени нашего последнего отчета Hailo выпустила оценочную плату форм-фактора PCIe для Hailo-8.

Hailo утверждает, что его чип Hailo-8 размером 17 x 17 мм значительно превосходит Google Edge TPU и Intel Movidius Myriad X по показателю TOPS на ватт с использованием приложений семантической сегментации AI и обнаружения объектов, включая ResNet-50. Компания опубликовала несколько новых тестов, которые показывают, что ее модуль Hailo-8 M / 2 обеспечивает производительность AI в 26 раз выше, чем у Myriad-X, и в 13 раз выше, чем у Edge TPU, каждый из которых может достигать максимум 4 TOPS.

Hailo-8 использует «запатентованную новаторскую архитектуру потока данных, управляемую структурой», которая отличается от архитектуры Ван Неймана, используемой на большинстве нейронных процессоров. Архитектура обеспечивает доступ к памяти с низким энергопотреблением за счет реализации структуры распределенной памяти в сочетании со специальными элементами конвейера.

Оценочная плата Hailo-8

По словам Хайло, межсоединение Hailo-8, ориентированное на поток данных, адаптируется в соответствии со структурой нейронной сети для обеспечения высокого использования ресурсов. Аппаратное обеспечение Hailo-8 тесно интегрировано с SDK, который предлагает масштабируемую цепочку инструментов, включая перевод моделей из стандартных отраслевых фреймворков, таких как ONNX и TensorFlow.

Инфографика Hailo-8 (слева) и тесты

Foxconn был одним из первых публично раскрытых клиентов Hailo после NEC и ABB Technology, которые принесли тель-авивской компании финансирование в размере 88 миллионов долларов. Foxconn еще не представила полностью Boxiedge v2 на базе Linux. Система, которую также называют BEX-1000, оснащена платой BEMB-1000 Mini-ITX.

Boxiedge v2 с материнской платой BEMB-1000

Материнская плата BEMB-1000 от Boxiedge v2 оснащена SoC SynQuacer SC2A11 SoC от Socionext и модулем ускорения Hailo-8 M.2 AI. Система предназначена для выполнения классификации изображений в реальном времени, обнаружения, оценки позы и других задач при съемке с 20 камер при мощности 35 Вт.

Дополнительная информация

Модуль ускорения искусственного интеллекта Hailo-8 M.2 теперь доступен по неизвестной цене. Дополнительную информацию можно найти в объявлении Hailo на AP и на странице продукта .