Технология ускорения Movidius AI выходит на карту mini-PCIe

Компания Aaeon выпустила «UP AI Core» - версию mini-PCIe от Intel за $ 69 для ускорения нейронных сетей Intel Movidius для ускорения нейронных сетей, предназначенную для работы с UP Squared SBC и другими компьютерами на базе Ubuntu x86_64.

Как и было обещано на прошлой неделе Intel, когда она объявила о программе Intel AI: In Production для своего USB-накопителя форм-фактора Movidius Neural Compute Stick , Aaeon выпустила версию устройства mini-PCIe под названием UP AI Core.
Он также интегрирован с процессором Intel Myriad 2 Vision Processing VPI.
Соединение mini-PCIe должно обеспечивать более быстрое время отклика для нейронных сетей и машинного зрения по сравнению с подключением к облачной службе.


UP AI Core, спереди и сзади

(нажмите на картинку, чтобы увеличить)

Модуль, который можно заказать по предварительному заказу за 69 долларов США для доставки в апреле, предназначен для «улучшения промышленных периферийных устройств IoT с помощью аппаратного ускоренного глубокого обучения и расширенной функциональности машинного зрения», - говорит Аэон.
Он также может включать «распознавание объектов в таких продуктах, как дроны, высококачественные гарнитуры виртуальной реальности, робототехника, устройства для умного дома, интеллектуальные камеры и решения для видеонаблюдения».

UP AI Core оптимизирован для хакерской платы UP Squared, поддерживаемой Ubuntu Aaeon, которая работает на платформе Intel Apollo Lake SoC.
Однако он должен работать с любым 64-битным компьютером x86 или SBC, оснащенным слотом mini-PCIe, который работает под управлением Ubuntu 16.04.
Хост-системы также требуют 1 ГБ ОЗУ и 4 ГБ свободного места.
Это предоставляет множество возможностей для ПК и встроенных компьютеров, хотя в настоящее время UP Squared является единственным SBC на базе архитектуры x86, оснащенным слотом mini-PCIe.


UP Squared (слева) и Myriad 2 архитектура

(нажмите на картинку, чтобы увеличить)

У Aaeon было мало технических подробностей о модуле, за исключением того, что он поставляется с 512 МБ оперативной памяти DDR и предлагает сверхнизкое энергопотребление.
Интерфейс mini-PCIe UP AI Core, скорее всего, обеспечивает более быстрое время отклика, чем USB-соединение, используемое Intel 79-долларовой видеокартой Movidius Neural Compute Stick .
Aaeon, однако, не претендует на этот счет, возможно, чтобы не унижать Intel Neural Compute Stick или другие продукты на базе USB, которые могут появиться в программе Intel AI: In Production .


Интел Мовидиус

Нейронная вычислительная палочка

Также возможно, что разница в производительности между этими двумя продуктами незначительна, особенно по сравнению с разницей между локальными процессорами и интернет-соединением.
По словам Аэона, облачные соединения для доступа к службам нейронных сетей страдают от снижения задержки, пропускной способности сети, надежности и безопасности.
Компания рекомендует использовать SDK на основе Linux, чтобы «создать и обучить вашу нейронную сеть в облаке, а затем запустить ее локально на AI Core».

Помимо проблем с производительностью, поскольку модуль mini-PCIe обычно встроен в компьютеры, он обеспечивает большую безопасность, чем USB-накопитель.
С другой стороны, та же самая черта мешает мобильности.
В отличие от UP AI Core, Neural Compute Stick может работать на Raspberry Pi на основе ARM, но только с помощью рабочего стола Stretch или экземпляра Ubuntu 16.04 VirtualBox.

В 2016 году, до того как он был приобретен Intel, Movidius выпустил свою первую версию процессора Myriad 2 VPU для локальной обработки, получившую название Fathom .
Эта USB-флешка, управляемая Ubuntu, которая миниатюризировала технологию более ранней референсной платы Myriad 2, по сути является той же самой технологией, которая вновь появилась в качестве Intel Movidius Neural Compute Stick.


UP AI Core, спереди и сзади

(щелкните изображение, чтобы увеличить)

Процессоры нейронной сети могут значительно превзойти традиционные вычислительные подходы в таких задачах, как понимание языка, распознавание изображений и обнаружение образов.
Подавляющее большинство таких процессоров, которые часто являются перепрофилированными графическими процессорами, предназначены для работы на облачных серверах.


AIY Vision Kit

Технология Myriad 2 может преобразовать основы глубокого обучения, такие как Caffe и TensorFlow, в собственный формат для быстрого создания прототипов.
Это одна из причин, по которой Google применил технологию Myriad 2 для своего недавнего набора AIY Vision Kit для Raspberry Pi Zero W. В плате VisionBonnet pHAT набора используется тот же чип Movidius MA2450, который используется для ядра UP AI.
В VisionBonnet процессор запускает библиотеку машинного интеллекта TensorFlow с открытым исходным кодом Google для нейронных сетей, позволяющую обрабатывать визуальное восприятие со скоростью до 30 кадров в секунду.

Intel и Google не одиноки в своем стремлении довести ускорение ИИ до предела.
Компания Huawei выпустила SoC Kirin 970 для своего телефона Mate 10 Pro, который обеспечивает сопроцессор нейронной обработки, а Qualcomm выпустила Snapdragon 845 SoC со своим собственным нейронным ускорителем.
Snapdragon 845 скоро появится на Samsung Galaxy S9, среди других телефонов, и также будет ориентироваться на некоторые высококачественные встроенные устройства.

В прошлом месяце Arm представила два новых чипа Project Trillium AI, предназначенных для использования в качестве мобильных и встроенных сопроцессоров.
В настоящее время доступен процессор детектирования объектов второго поколения от Arm для оптимизации визуальной обработки и обнаружения людей / объектов.
Этим летом должен появиться процессор машинного обучения (ML), который ускорит работу приложений ИИ, включая машинный перевод и распознавание лиц.

Дальнейшая информация

UP AI Core можно заказать по предварительному заказу за 69 долларов США в конце апреля.
Дополнительную информацию можно найти в объявлении UP AI Aeon Core и на странице UP AI UP Edge UP Community для UP AI Core.