Arm представляет два легких NPU для края AI

Arm переименовала свой NPU 4-TOPS Arm ML в Ethos-N77 и выпустила маломощные модели Ethos-N57 (2-TOPS) и Ethos-N37 (1-TOPS) малой площади для периферийного ИИ, поддерживаемые на основе Linux Arm NN SDK.
Arm также представила графический процессор Mali-G57 и крошечный графический процессор Mali-D37.

Крошечные, урезанные AI сопроцессоры для края, кажется, вещь в наши дни.
Новые энергосберегающие нейронные процессоры (NPU) Ethos-N57 (2-TOPS) и Ethos-N37 (1 TOPS) от Arm могут быть не такими минималистичными, как KL520 AI SoC от Kneron, доступные на Edge Computing Modules Aaeon, обеспечивающие 0,3 TOPS Производительность NPU только на половину ватта.
Тем не менее, они предлагают встроенные и мобильные альтернативы с низким энергопотреблением недавно переименованному Arm 4-TOPS Ethos-N77, ранее известному как Arm Machine Learning (ML).
NPU поддерживаются через Arm NN SDK на основе Linux (см. Ниже).


Линия продуктов Arm Ethos

В дополнение к представлению Ethos-N57 и Ethos-N37, Arm анонсировала графический процессор Mali-G57 для смартфонов среднего класса, основанный на той же архитектуре Valhall, которая использовалась в его высококачественном графическом процессоре Mali-G77 .
Mali-G57 обеспечивает улучшенную графику и захватывающий игровой процесс и предлагает улучшенную производительность для рабочих нагрузок ML, говорит Arm, принадлежащий Softbank.

Arm также анонсировала крошечный VPU Mali-D37, предназначенный для недорогих мобильных и встраиваемых устройств.
Основанная на той же архитектуре Komedia, которая использовалась в Mali-D71 с поддержкой 4K, Mali-D37 начального уровня поддерживает разрешение до QHD + (1440 x 2880) на смартфоне.
Процессор дисплея измеряет меньше квадратного миллиметра по технологии 16 нм, что примерно на треть меньше, чем у Mali-D71.

Эта новость последовала за недавним объявлением Arm о расширении пользовательских инструкций для архитектуры Armv8-M для микроконтроллеров Cortex-M.
Пользовательские инструкции позволяют клиентам Arm создавать микроконтроллеры с собственными пользовательскими инструкциями.
Наряду с более ранней лицензионной программой Arm гибкого доступа Arm , Custom Instructions широко рассматривается как защитный шаг против растущей конкуренции со стороны процессоров с открытым исходным кодом RISC-V.

Здесь мы более подробно рассмотрим новые NPU Ethos и рассмотрим некоторые другие новые передовые решения AI, появившиеся в этом году, большинство из которых были разработаны лицензиатами Arm.
В других новостях об искусственном интеллекте Google вывела свою доску с поддержкой искусственного интеллекта Coral Dev Board из бета-версии (см. Ниже).

Этос-N57 и -N37

Этос-N57 и Этос-N37 «оптимизированы для наиболее экономичных и чувствительных к сроку службы аккумуляторов конструкций», - говорит Арм.
NPU поддерживают типы данных Int8 и Int16 и предлагают методы повышения производительности, такие как Winograd.
Они также предоставляют «передовые методы управления данными, минимизирующие перемещение данных и связанную с этим мощность».

Ethos-N57 оснащен 8-кратным вычислительным движком и поддерживает производительность AI до 2 TOPS, используя 1024 8-битных MAC.
Он предназначен для центров умного дома, обычных смартфонов и цифровых телевизоров.


Arm Ethos (слева) и более ранние блок-схемы Arm ML (Ethos-N77)

Ethos-N37 измеряет только один квадратный миллиметр.
Он предлагает 4x вычислительных движка для производительности AI до 1 TOPS, используя 512 8-битных MAC.
Ethos-N37 предназначен для телефонов начального уровня и интеллектуальных устройств, таких как интеллектуальные камеры.

С другой стороны, существующий до 4-TOPS Ethos-N77 (Arm ML) занимает гораздо больший объем памяти в 1-4 МБ, чем 512KB-готовые Ethos-N57 и -N37.
Он нацелен на премиальные смартфоны, AR / VR и приложения для компьютерной фотографии.

Этос-N57 и -N37 обеспечивают «рентабельный ML для основных SoC с гораздо более узким бюджетом», - говорит Арм.
Их технология сжатия минимизирует пропускную способность системы в 1,5–3 раза «со сжатием без потерь для весов и активаций с использованием кластеризации, разреженности и разбиения рабочей нагрузки», - говорится в сообщении компании.
В результате, производителям микросхем не требуется вносить «существенные изменения в структуру памяти» для интеграции NPU.

На SoC можно кластеризовать до 8x любого NPU для параллельной обработки нескольких сетей или разделения одной большой сети на ядра.
NPU также поддерживают до 64-ядерных конфигураций с помощью технологии Arm CoreLink.
Оба NPU поддерживают безопасность системы TrustZone, а также нейронные структуры, включая TensorFlow, TensorFlow Lite, Caffe2, PyTorch, MXNet и ONNX.

Армейские вычислительные машины Ethos могут быть запрограммированы с помощью Linaro Arm NN - Linux SDK с открытым исходным кодом, предназначенного для «обеспечения рабочих нагрузок машинного обучения на энергосберегающих устройствах», - говорит Арм.
Говорят, что Arm NN «ликвидирует разрыв между существующими платформами NN и базовым процессором, графическим процессором и IP-адресом NPU».

Arm NN обеспечивает уровень абстракции, который уменьшает проблемы программирования нескольких гетерогенных процессоров.
Это «позволяет выполнять рабочие нагрузки на таких устройствах, как телефоны, телевизоры и весь« умный дом », с минимальными усилиями». NPU Ethos также поддерживают AndroidNN от Google.

Интервью VentureBeat от 20 октября со Стивом Родди, вице-президентом группы ML Arm, цитирует Родди, который сказал, что IP для новых NPU Ethos был выпущен для потребителей полупроводников, но не появится в кремнии до конца 2020 года. История, которая касается только как правило, для новых NPU предлагает интересный аргумент в пользу маломощного ИИ для телефонов, бытовой электроники и других периферийных устройств.


Джетсон Нано Дев Кит

Arm Ethos конкурирует с передовыми AI-чипами от своих клиентов

Почти каждый крупный производитель микросхем имеет на рынке или в разработке микросхему AI, многие из которых предназначены для телефонов, бытовой электроники и других встроенных периферийных устройств.
Помимо технологии Intel Movidius Myriad X , большая часть конкуренции исходит от лицензиатов Arm, нацеленных на преимущество.

Наиболее признанным передовым AI-игроком является Nvidia с его основанными на Arm модулями Jetson, оснащенными графическими процессорами с поддержкой CUDA, которые поддерживают ускорение AI.
Это самый последний модуль Jetson Nano, предназначенный для встраиваемых устройств с ограниченными ресурсами, в то время как более мощные модули Jetson включают в себя Jetson TX2 и высококачественный Jetson AGX Xavier .

Xilinx анонсировала платформу AI Xilinx, которая будет интегрирована в ее 7-нм процессоры Versal на базе Linux, которые скоро появятся в продаже.
Технология ядра разреженной нейронной сети Deephi, разработанная в Xilinx AI, включает в себя технологию сокращения CNN и алгоритм глубокого сжатия, чтобы уменьшить размер алгоритмов AI для краевых приложений.


Архитектура Xilinx AI (слева) и структурная схема Rockchip RK1808

Среди других заказчиков Arm, которые самостоятельно занимаются искусственным интеллектом, - Samsung, которая разрабатывает технологию NPU, которая называется On-Device AI .
Тем временем MediaTek скоро выпустит восьмиъядерный процессор -A73 и -A53 MediaTek i500 , который имеет 500-МГц AI-процессор.
Также есть новый, более совершенный MediaTek i700 (платформа AI IoT i700), оснащенный NPU.

Rockchip, выпустивший 3-TOPS NPU в свой RK3399Pro, также представил SoC с поддержкой NPU, такие как новый двухъядерный Cortex-A35 RK1808 и новый 8-нм RK3358 , который будет иметь 4x Cortex-A76 и 4x - Ядра А55.
RK1808 предназначен для тех же самых интеллектуальных приложений с низким энергопотреблением, на которые ориентированы новые чипы Ethos от Arm.

На самом низком уровне есть решения, такие как ориентированный на MCU / Arduino процессор GAP8 AI на основе RISC-V для устройств с батарейным питанием.
Между тем, DMP предлагает сверхнизкое энергопотребление ZIA DV700 NPU.


Coral Dev Board

Coral Dev Board выходит из бета-версии

Google сотрудничал с Arm над созданием Coral Edge TPU версии своего AI-чипа Tensor Processing Unit, который встроен в платформу Coral Dev на основе NXP i.MX8M под управлением Linux.
Edge TPU также скоро появится на Asus Tinker Edge T и промышленных CR1S-CM-A вариантах Coral Dev Board.

Как сообщает сегодня ZDNet , плата Raspberry Pi-like Coral Dev за 150 долларов только что вышла из бета-версии.
Coral SOM, который питает сэндвич-доску, теперь доступен за 114 долларов.

Google только что обновил свой веб-сайт Coral с дополнительной документацией и ранними примерами.
Кроме того, Google скоро выпустит новую версию Mendel OS, облегченную версию Debian Buster, разработанную для Coral Dev Board и Coral Edge TPU.

Дополнительная информация

IP-дизайн Arm Ethos-N57 и Ethos-N37 теперь доступен для клиентов и должен появиться на кремнии в конце 2020 года. Дополнительную информацию можно найти в зонтичном объявлении Arm, в том числе о графическом процессоре Mali-G57 и крошечном виртуальном процессоре Mali-D37. как анонс блога Ethos-N57 и -N37 и страница продукта Ethos .