Советы Google AI-сопроцессор и IoT-фреймворк для шлюзов Linux и Android Things

Google представил урезанную версию «Edge TPU» своего чипа AI Tensor Processing Unit и облачный IoT Edge стек для шлюзов IoT на базе Arm, которые работают под управлением Linux или Android.
Набор разработчика на базе NXP должен появиться в октябре.

Google анонсировал облегченную встроенную версию своего сопроцессора искусственного интеллекта Cloud Tensor Processing Unit (Cloud TPU).
Новый ASIC Edge TPU оптимизирован аналогичным образом для среды машинного обучения (ML) Google TensorFlow .
Он предназначен для запуска моделей TensorFlow Lite ML на шлюзах IoT на базе Arm Linux или Android Things, подключенных к облачным сервисам Google, которые оптимизированы с помощью чипов Cloud TPU.
Набор для разработки, который должен быть выпущен в октябре, будет использовать NXP SoC.


Чип Edge TPU (слева) и комплект разработчика Edge TPU

(нажмите на картинку, чтобы увеличить)

Google также анонсировал облачный IoT Edge стек, который интегрирует шлюзы с поддержкой Edge TPU с Google Cloud, чтобы обеспечить облачные интегрированные IoT пограничные вычисления и аналитику.
Объединенная платформа «позволяет создавать и обучать модели ML в облаке, а затем запускать эти модели на устройстве Cloud IoT Edge с помощью аппаратного ускорителя Edge TPU», - говорит Google.
«Вы можете ускорить обучение по ML в облаке, а затем сделать молниеносный вывод по ML на краю», чтобы обеспечить «локальные, интеллектуальные решения в реальном времени».


Облачный IoT Edge рабочий процесс

(щелкните изображение, чтобы увеличить)

Платформа Edge TPU и Cloud IoT Edge конкурирует с платформой Amazon AWS IoT и связанным с ней стеком AWS Greengrass на основе Linux для обеспечения передовой облачной аналитики.
Как и в случае с Greengrass и будущей платформой Microsoft Azure Sphere для IoT, архитектура предназначена для более быстрого принятия локальных решений, избегая задержек и рисков для безопасности облачных коммуникаций.

Однако, в отличие от Greengrass, нет никаких претензий на то, что вы можете запускать пограничную аналитику Edge с помощью TPU независимо без устойчивого облачного соединения.
Как и Azure Sphere, платформа Google также включает в себя определенный аппаратный компонент.
Однако Azure Sphere, похоже, не включает сопроцессор AI на грани.

Крошечный чип Edge TPU является облегченной версией облачных серверных чипов Google TPU.
По словам Google, ASIC обеспечивает одновременное выполнение нескольких моделей искусственного интеллекта на кадр в видео высокого разрешения со скоростью 30 кадров в секунду.
Говорят, что Edge TPU, оснащенный интерфейсами PCIe и USB, а также цифрами Int8 и Int16, оптимизирован для повышения энергоэффективности.


Облачные модули TPU

(щелкните изображение, чтобы увеличить)

Инфраструктура Cloud IoT Edge поддерживает ускорители на базе GPU и CPU в дополнение к работе с чипом Edge TPU.
Это программное обеспечение «расширяет возможности Google Cloud по обработке данных и возможности ML для шлюзов, камер и конечных устройств, делая приложения IoT умнее, безопаснее и надежнее», - говорит Google.

Cloud IoT Edge включает среду выполнения для шлюзов Linux или Android Things, а также «среду выполнения Edge IoT Core, которая обеспечивает более безопасное подключение периферийных устройств к облаку, позволяя обновлять программное обеспечение и встроенное ПО, а также управлять обменом данными с Cloud IoT Core», - говорится в сообщении. Google.
Существует также среда исполнения Edge ML на основе TensorFlow Lite, «которая выполняет локальный вывод ML с использованием предварительно обученных моделей, значительно уменьшая задержку и повышая универсальность периферийных устройств».

Комплект разработчика Edge TPU

В октябре Google запустит набор для разработки в стиле «сэндвич», чтобы начать разработку Cloud IoT Edge и Edge TPU.
Комплект построен на основе неназванного компьютера на модуле с SoC на базе Arm NXP и чипом Edge TPU.
Также имеется плата размером примерно с Raspberry Pi, в которую входят порты Ethernet, HDMI, USB и 3x micro-USB.
Он также имеет 40-контактный разъем GPIO в стиле RPi.


Комплект разработчика Edge TPU (слева) и различные назначения задач для Cloud IoT Edge / Edge TPU и Google Cloud

(нажмите на картинку, чтобы увеличить)

Предположительно, комплект будет работать под управлением Android Things, хотя он также может поддерживать Linux.
Модуль на изображении не похож на четыре производственных модуля для Android Things 1.0 от Innocomm, Intrinsyc и MediaTek.
Мы также искали наши истории о модулях Arm на базе NXP, но также оказались пустыми.
Возможно, в следующий раз мы будем использовать TensorFlow, чтобы найти изображение для нас.

Среди перечисленных партнеров, среди прочего, NXP, Arm, Adlink и Nexcom.
Arm, которая также сотрудничает с Microsoft в Azure Sphere, имеет собственный конкурирующий сопроцессор MLP в рамках своего проекта Trillium для искусственного интеллекта и машинного обучения.

Дальнейшая информация

Ранняя версия программного обеспечения Cloud IoT Edge, чип Edge TPU и комплект разработчика Edge TPU будут доступны в октябре.
Вы можете подать заявку на ранний доступ к платам разработки Cloud IoT Edge Alpha и Edge TPU Early Access со страниц продукта Google Edge TPU и Cloud IoT Edge .
Более подробную информацию можно найти в объявлении Google .