USB-накопитель обеспечивает функции нейронных вычислений для устройств

Movidius представила USB-накопитель «Fathom» и программную среду для интеграции ускоренной обработки нейронных сетей во встроенные и мобильные устройства.

28 апреля Movidius объявил о доступности USB-интерфейса «Fathom Neural Compute Stick» вместе с базовой программной платформой для глубокого обучения Fathom .
Устройство считается «первым в мире встроенным ускорителем нейронных сетей», способным выводить «мощные нейронные сети из облака и развертывать их непосредственно на устройствах конечных пользователей».

USB-накопитель Fathom был одним из двух решений, представленных на этой неделе на саммите Embedded Vision Summit в Силиконовой долине, которые позволяют запускать передовые алгоритмы искусственного интеллекта непосредственно на мобильных или встроенных устройствах без использования облачной обработки.
Другой - это Qualcomm Snapdragon Neural Processing Engine , первый в компании комплект для разработки программного обеспечения для глубокого обучения для устройств на базе своих Snapdragon 820 SoC.

Оба решения должны пригодиться в медицинской, автомобильной, беспилотной, робототехнической и других областях, где приоритетное значение имеют быстрое, надежное время отклика и конфиденциальность.
В конечном итоге такие технологии позволят внедрить технологии глубокого обучения непосредственно на встроенные, мобильные устройства и устройства IoT, не требуя доступа к облачной нейронной сети.


Fathom Neural Compute Stick

USB-накопитель Fathom берет большую часть мощности справочной платы Myriad 2 компании (показанной ниже) и сжимает ее в USB-накопитель.
USB-накопитель Fathom, оснащенный микросхемой системы «Vision Processing Unit» (VPU) MA2x5x 2, установленной на ранних эталонных платформах Project Tango , обеспечивает быструю и простую разработку ускоренной обработки нейронных сетей для мобильных или встроенных устройств.
По словам Мовидиуса, процессор Myriad 2 позволяет использовать полностью обученные нейронные сети мощностью менее 1 Вт.


Fathom Neural Compute Stick PCB

(щелкните изображение, чтобы увеличить)

Нейронные сети могут «значительно превзойти» традиционные вычислительные подходы к таким задачам, как понимание языка, распознавание изображений и обнаружение образов, говорит Мовидиус.
Fathom может использоваться в таких приложениях, как распознавание объектов, естественное понимание речи и автономная навигация для автомобилей, дронов и роботов.


Блок-схема Myriad 2 VPU (слева) и справочная плата

(щелкните изображение, чтобы увеличить)

При подключении к ПК Fathom Neural Compute Stick выступает в качестве инструмента для профилирования и оценки нейронной сети.
Палка поддерживает основные структуры глубокого обучения, такие как Caffe и TensorFlow, переводя эти сети в формат Myriad 2 для быстрого создания прототипов.
Среда разработки требует ПК с 64-битной системой Ubuntu Linux 14.04 LTS или 16.04 LTS с Python 3 или выше.

Fathom SDK «преобразует обученные автономные нейронные сети во встроенные нейронные сети, работающие на сверхнизком энергопотреблении Myriad 2 VPU», - говорится в сообщении компании.
По словам Мовидиуса, Fathom позволяет проводить тестирование по нескольким выводам, чтобы определить точность сети по большим наборам данных.
Компания также может собирать статистику по уровням и проверять сетевые модели с точностью аппаратного обеспечения.
При использовании высокопроизводительной модели MA2450 Myriad 2 в сложных нейронных сетях, таких как GoogleNet, Fathom, как утверждается, обрабатывает 15 выводов в секунду с точностью FP16.

USB-накопитель Fathom может служить компактной эталонной платформой для разработки приложений, которые будут работать на SoC Myriad 2 VPU в мобильном или встроенном устройстве.
В качестве альтернативы USB-накопитель Fathom можно использовать в качестве периферийного устройства «дискретного нейронного вычислительного ускорителя», чтобы «на несколько порядков» увеличить возможности [устройства] нейронных вычислений », - говорится в сообщении компании.

Fathom видео обзор

Дальнейшая информация

Модули Nevid Compute Stick и Fathom Movidius Fathom теперь доступны для «квалифицированных клиентов» по ​​невысокой цене.
Дополнительные подробности можно найти в пресс-релизе компании Fathom Neural Compute Stick .