Google и Synaptics представили процессоры для работы искусственного интеллекта без интернета

Компании Synaptics и Google Research представили семейство микроконтроллеров Astra SR200, предназначенных для выполнения задач искусственного интеллекта непосредственно на электронных устройствах. Новые чипы способны обрабатывать изображения, звук и сигналы датчиков без постоянного обращения к облачным серверам. Производительность встроенного нейросетевого ускорителя достигает 400 миллиардов операций в секунду.

Разработка ориентирована на умные очки, носимую электронику, интеллектуальные камеры и промышленные сенсорные системы. Главное преимущество новой архитектуры заключается в сочетании производительного процессора, специализированного ускорителя ИИ и памяти большой ёмкости при сравнительно небольшом энергопотреблении.

Семейство Astra SR200 включает три модели. Младший SR210 обеспечивает до 200 миллиардов операций в секунду и предназначен для постоянного распознавания голосовых команд и обработки сигналов датчиков. SR230 достигает 300 миллиардов операций в секунду и дополнительно поддерживает камеры и дисплеи. Старший SR250 способен выполнять до 400 миллиардов операций в секунду и оснащён двумя трактами обработки изображений и вывода данных.

Все три модели совместимы по расположению выводов и используют общий набор программных инструментов. Это позволит производителям создавать устройства разной производительности на одной технологической платформе.

В основе процессоров лежат два вычислительных ядра Arm Cortex-M85 и Cortex-M52. Первое работает на частоте до 800 МГц и отвечает за сложные вычисления, второе предназначено для энергоэффективной обработки данных. Отдельный маломощный блок обеспечивает постоянное обнаружение голосовой активности и включает основные компоненты только при необходимости.

Особое внимание уделено памяти. Astra SR200 поддерживает до 8 МБ SRAM и дополнительную высокоскоростную DRAM объёмом до нескольких сотен мегабайт. По заявлению Synaptics, такая архитектура при определённых нагрузках позволяет сократить энергопотребление подсистемы памяти примерно втрое по сравнению с обычной системной DRAM.

Большой объём памяти необходим для хранения параметров нейросетей и обработки данных непосредственно на устройстве. Это позволяет запускать более сложные модели искусственного интеллекта без постоянного подключения к интернету.

Основой системы стала технология Coral NPU от Google Research, использующая открытую архитектуру RISC-V. Ускоритель поддерживает вычисления для свёрточных нейронных сетей и трансформерных моделей, применяемых при распознавании изображений, анализе звука и обработке естественного языка.

Одновременно Google представила компилятор Coral Compiler 1.0, созданный на базе IREE и MLIR. Он позволяет переносить нейросетевые модели из PyTorch, TensorFlow и JAX на совместимые ускорители, упрощая разработку программного обеспечения для компактных электронных устройств.

Ещё одним достижением стало завершение разработки 32-битной архитектуры Coral NPU с новым матричным вычислительным блоком Matrix Execution Unit. Его конфигурация рассчитана на производительность до 1 триллиона операций в секунду при целевом среднем энергопотреблении около 10 мВт во время нейросетевых вычислений. Эти характеристики относятся к разрабатываемой архитектуре ускорителя и не являются показателями всего процессора Astra SR200.

Новые технологии позволят создавать устройства, способные самостоятельно распознавать окружающие объекты, выполнять голосовые команды и анализировать показания датчиков. Например, умные очки смогут обрабатывать информацию с камер непосредственно на устройстве, а промышленные системы — обнаруживать изменения в работе оборудования без постоянной передачи данных в облако.

Для разработчиков также представлена отладочная плата Coralboard SR на базе нового семейства процессоров. Одновременно начались массовые поставки другой платы — Coralboard SL с процессором Astra SL2619 и нейросетевым ускорителем производительностью 1 триллион операций в секунду.