Сервер Edge AI поставляется с 16-ядерным процессором Cortex-A72, а также с 32 SoC i.MX8M и 128 NPU

«Janux GS31 AI Inference Server» от SolidRun использует Linux на своем модуле CEx7 LX2160A Type 7, оснащенном 16-ядерным процессором NXP Cortex-A72 LX2160A. Система также поставляет до 32 SoC i.MX8M для видео и до 128 NPC Grylfalcon Lightspeeur 2803 через несколько модулей «Snowball».

Когда люди говорят о пограничных AI-серверах, они могут иметь в виду некоторые встроенные системы высокого класса, которые мы регулярно освещаем здесь на HardLinux, или, возможно, что-то более похожее на сервер, такое как стоечный форм-фактор SolidRun Janux GS31 AI Inference Server. Система обычно выходит за верхние пределы охвата нашей продукцией, но это особенно интригующая вещь. Janux GS31 основан на модуле SolidRun CEx7 LX2160A COM Express типа 7, который также поддерживает SolidRun HoneyComb LX2K Сетевая плата, которую мы рассмотрели в июне.

Сервер интеллектуального анализа данных Janux GS31

В дополнение к этому модулю CPU, в Janux GS31 интегрировано до 4-х модулей «Snowball», каждый с 8-ю SoX NXP i.MX8M, FPGA PolarFire MPF200T и до 32 NPU Gyrfalcon Lightspeeur SPR2803. Они объединяются, чтобы создать подсистему обработки зрения с 32 SoC i.MX8M и 128 NPU, которые поддерживают «транскодирование и анализ видео со сверхнизкой задержкой» на 128 каналах видео 1080p60. Приложения включают мониторинг «умных городов», инфраструктуры, интеллектуального корпоративного / промышленного видеонаблюдения, обнаружения объектов, распознавания и классификации и интеллектуального визуального анализа.

У SolidRun не было анонса, цены или доступности для «скорого» AI-сервера Janux GS31 - который, будем откровенны, вы, вероятно, не могли себе позволить в любом случае. Тем не менее, CNXSoft обнаружил страницу продукта с существенными деталями.


HoneyComb LX2K

с CEx7 LX2160A

CEx7 LX2160A, который теперь доступен отдельно , стоит от 550 долларов. Модуль Type 7 построен на 16-ядерном 16- ядерном корпусе Cortex-A72 Layerscape LX2160A от NXP без головок до 2 ГГц . Существует также 64 ГБ двухканальной памяти DDR4. Неясно, предлагает ли Janux GS31 дополнительный eMMC объемом до 64 ГБ.

SolidRun еще не опубликовал спецификации для модуля Snowball, но список спецификаций и блок-схема Janux GS31 помогают заполнить пробелы. Snowball включает в себя широко распространенный четырехъядерный процессор Cortex-A53 SoC с тактовой частотой до 1,5 ГГц NXP от NXP, среднюю дальность действия, процессор MCU Cortex-M4 и 3D-готовый графический процессор Vivante GC7000 Lite с поддержкой 4K.

Каждый из 4х модулей Snowball предлагает 4x SoC i.MX8M, что является самой большой кластеризацией SoC i.MX, которую мы когда-либо видели. SolidRun также развертывает i.MX8M на своих i.MX8 SOM и HummingBoard Pulse SBC .

Блок-схема Janux GS31

Каждый модуль Snowball также содержит 32 чипа Lightspeeur SPR2803 Neural Accelerator (или Lightspeeur 2803) от Gyrfalcon Technology, Inc (GTI). SolidRun использует NPU на своей мини-SOM i.MX 8M , которая также доступна на пульсе HummingBoard.

На Janux GS31 Lightspeeur 2803 указан как предлагающий 2150 тера операций в секунду при 300 МГц. Согласно странице продукта GTI, 2803 работает при 24 TOPS / Вт на чип, с оптимальной пиковой производительностью при 16,8 ТОП при 300 МГц и в режиме пониженного энергопотребления 16,8 ТОП при 700 мВт. Модуль Snowball поддерживает фреймворки искусственного интеллекта, включая TensorFlow, Caffe и PyTorch, а также сети AI, включая VGG, ResNet и MobileNet.

Поскольку блок-схема описывает каждый модуль как имеющий два блока из 16 NPU, вполне возможно, что SolidRun использует GTI Gainboard 2803 , серверно-ориентированную карту PCIe-ускорителя с 16 Lightspeeur 2803 NPU. GTI также предлагает маломощный Lightspeeur NPU 2801S, который используется на USB-накопителе Orange Pi 4B SBC и Orange Pi AI Stick Lite от Shenzhen Xunlong .

Наконец, модули Snowball обеспечивают Microsemi PolarFire MPF200T FPGA от Microchip, среднюю линейку PolarFire с 192K логическими элементами. Двойные PCIe коммутаторы также находятся на модуле.

Сервер интеллектуального анализа данных Janux GS31 дополнительно оборудован одним GbE, 2x 10GbE SFP +, 2x USB-хостом и портом micro-USB. На блок-схеме также показан разъем PCIe x16, который можно использовать для подключения плат Snowball и поэтому может быть недоступен. Также имеется неопределенный объем памяти NVMe через разъем M.2 2280/22110, а также экран OLED.

Система для монтажа в стойку 1U имеет размеры 500 x 445 x 43,5 мм и потребляет максимум 900 Вт от источника питания 100-240 В. Даже с 8-кратными вентиляторами с ШИМ-регулированием существует узкий рабочий диапазон от 10 до 35 ° C и относительная, неконденсируемая влагостойкость от 20% до 80%.

Дополнительная информация

Никакая информация о ценах или доступности не была предоставлена ​​для сервера Janux GS31 AI Inference. Более подробную информацию можно найти на странице продукта SolidRun .