Конструкция микросхемы AI объединяет до шести открытых ядер MIPS на базе Linux с ядром TensorFlow

«TritonAI 64» IP компании Wave Computing для периферийного вывода позволяет SoC с 6-ю ядрами open-ISA MIPS-64 (с SIMD) работать под управлением Google TensorFlow на стеке Debian, а также технологиями WaveTensor и WaveFlow для обработки до 8 TOPS / ватт.

Ранее в этом месяце Wave Computing выпустила свой первый MIPS ISA с открытым исходным кодом без лицензионных сборов и роялти, как было обещано, когда она объявила о своей инициативе MIPS Open в декабре прошлого года.
Теперь компания представила лицензируемый IP-дизайн для построения системы на кристаллах, которая объединяет до 6x ядер MIPS-64 с открытым исходным кодом и стек Linux, работающий под управлением TensorFlow от Google.
Новый дизайн TritonAI 64 также включает в себя собственную подсистему WaveTensor Wave и матрицу WaveFlow для нейронной обработки.


Концептуальная схема TritonAI 64 (слева) и блок-схема

(нажмите на картинку, чтобы увеличить)

Платформа TritonAI 64 «обеспечивает 8-разрядную целочисленную поддержку 8-разрядных целочисленных вычислений для высокопроизводительного интеллектуального анализа AI на краю сейчас, с bfloat16 и 32-разрядной поддержкой на основе плавающей запятой для обучения на периферии в будущем», - говорит Wave Computing ,
TritonAI 64 запускается с 64-битным ядром MIPS SIMD, поддерживающим до 6 четырехъядерных ядер MIPS-64.
Этот блок ЦП «интегрирован с уникальным подходом Wave к потоку данных и настраиваемой технологией на основе тензора», - говорится в сообщении компании.

Wave предлагает TritonAI Application Programming Kit (APK), который включает в себя интегрированную среду разработки (IDE) MIPS с открытым исходным кодом на основе Linux.
APK также включает в себя среду программирования на основе Debian Linux TensorFlow с API-интерфейсом WaveRT и библиотеками.


TritonAI 64 APK архитектура

(щелкните изображение, чтобы увеличить)

Поддержка TensorFlow включает поддержку и обновления сборки TensorFlow-lite, а также сборку TensorFlow для обучения на периферии.
Дополнительные структуры AI, такие как Caffe2, могут быть перенесены в подсистему MIPS, а поддержка дополнительных сетей AI включена посредством преобразования ONNX .

WaveTensor и WaveFlow

Среда TensorFlow взаимодействует как с ядрами MIPS, так и с IP-интерфейсом Wave AI для обучения и обучения: WaveTensor и WaveFlow.
Его подсистема WaveTensor предназначена для выполнения алгоритмов сверточной нейронной сети (CNN).
Wave обрабатывает механизмы обработки WaveTensor до PetaTOP из 8-битных целочисленных операций на одном ядре, объединяя расширяемые срезы из 4 × 4 или 8 × 8 ядерных умножителей матрицы, утверждает Wave.
Производительность CNN может масштабироваться до 8 TOPS / ватт и более 10 TOPS / мм2 в 7-нм технологических узлах промышленного стандарта «с библиотеками, использующими типичное напряжение и процессы», - говорится в сообщении компании.


Диаграммы WaveTensor (слева) и WaveFlow

(нажмите на картинку, чтобы увеличить)

По словам Wave Computing, TritonAI 64 также предоставляет «очень гибкую линейно масштабируемую» структуру WaveFlow, которая поддерживает сложные алгоритмы ИИ, а также традиционные алгоритмы обработки сигналов и визуализации.
Говорят, что WaveFlow обеспечивает «низкую задержку, выполнение AI-сетей с одним размером пакета и возможность реконфигурирования для одновременного выполнения AI-сетей».

Матрица WaveFlow включает масштабируемые листы в двумерном макете.
Каждая плитка имеет 16x процессоров и 8x MAC (8int).
WaveFlow может выполнять алгоритмы с или без вмешательства или поддержки подсистемы MIPS.

«Огромный рост числа случаев использования искусственного интеллекта на основе современных технологий усугубляет проблемы разработчиков SoC, которые продолжают бороться с устаревшими продуктами IP, которые не были предназначены для эффективной обработки искусственного интеллекта», - заявил Дерек Мейер, генеральный директор Wave Computing.
«Наше решение TritonAI обеспечивает им защиту инвестиций программируемой платформы, которая может масштабироваться для поддержки приложений ИИ как сегодня, так и завтра».

Дальнейшая информация

Wave Computing для своего TritonAI 64 IP не предоставила информацию о ценах и наличии.
Дополнительную информацию можно найти в объявлении TritonAI 64 и на странице продукта .