Учёные представили энергоэффективный чип с технологией вычислений в памяти
Компания SK hynix совместно с TetraMem разработала экспериментальный процессор нового поколения, который выполняет вычисления искусственного интеллекта непосредственно в памяти. Такой подход позволяет значительно сократить энергопотребление и уменьшить задержки, возникающие при постоянной передаче данных между процессором и памятью.
В основе разработки лежит аналоговая технология вычислений в памяти (Analog In-Memory Computing). В отличие от традиционных процессоров, где память служит только для хранения данных, новый чип выполняет математические операции прямо в массиве памяти, где находятся параметры нейросетевой модели.
Прототип использует мемристоры — электронные компоненты, способные одновременно хранить информацию и участвовать в вычислениях. Это позволяет эффективно выполнять операцию глубинной свёртки, широко применяемую при работе современных нейросетей для обработки изображений и других данных.
По словам разработчиков, перенос вычислений в память существенно снижает объём обмена данными между вычислительными блоками и памятью. Именно передача данных сегодня является одной из главных причин высокого энергопотребления, нагрева и задержек в системах искусственного интеллекта, особенно по мере роста размеров моделей до сотен миллиардов и даже триллионов параметров.
Совместная разработка объединила технологии памяти SK hynix с платформой аналоговых вычислений TetraMem, а также решения в области схемотехники, архитектуры искусственного интеллекта, программного обеспечения и оптимизации вычислительных систем. По мнению компаний, это демонстрирует практическую возможность создания энергоэффективных ускорителей нового поколения.
Разработчики намерены продолжить сотрудничество и развивать технологии вычислений в памяти для будущих систем искусственного интеллекта.
Исследование в журнале Advanced Intelligent Systems.