Искусственные нейроны в миллион раз быстрее человеческих

Создание искусственных нейронов, более эффективных, чем человеческие... идея не нова. Но исследователи из Массачусетского технологического института только что вывели его на совершенно новый уровень. Они утверждают, что создали искусственную нейронную сеть, способную работать в миллион раз быстрее человека.

Этот успех был достигнут с помощью "аналоговой" нейронной сети. Но в чем смысл создания искусственных нейронов? Чтобы понять это, нам нужно вернуться к понятию "нейронная сеть"". Нейроны можно рассматривать как "основную рабочую единицу" мозга. Это специализированные клетки. Они передают информацию другим нервным клеткам в зависимости от их специализации. В целом они состоят из:

• дендрит, который принимает нервный сигнал
• сома, клеточное тело, которое его расшифровывает
• аксон, который передает его

Эти нейроны соединены друг с другом синапсами, которые связывают аксон и дендрит. Они общаются посредством электрических сигналов, называемых "потенциалами действия": именно благодаря этому высвобождаются нейротрансмиттеры. Нейротрансмиттеры — это "химические посланники", которые проходят через синапсы для передачи информации. Таким образом, мы имеем естественную нейронную сеть.

Искусственная нейронная сеть относится к области, широко известной как "искусственный интеллект". По сути, это система, которой "скармливают" большой объем данных, чтобы она "училась" и извлекала логические связи для определенной цели. Эти методы обучения вдохновлены функционированием биологических нейронов, поэтому их называют "искусственными нейронными сетями".

По сути, передаваемые данные циркулируют в искусственной "сетке" нейронов, обычно виртуальной. На самом деле это точки в сети, связанные между собой компьютерным кодом (синапсы, так сказать). Таким образом, эта сеть получает входящую информацию, данные обучения, и испускает исходящую информацию.

В обоих случаях имеет место явление "обучения", которое включает в себя обработку данных. В нашем (биологическом) мозге связи между нейронами, синапсы, усиливаются или ослабевают под воздействием опыта и обучения. В искусственной нейронной сети принцип примерно такой же: связи между точками сети взвешиваются в соответствии с обработкой большого количества данных. Именно поэтому его называют глубоким обучением.

Новинка, представленная учеными, — нейронная сеть, которая выполняет эти вычисления чрезвычайно быстро и с минимальными затратами энергии. Для этого, как они объясняют, они использовали не цифровую нейронную сеть, а аналоговую. Итак, давайте вернемся к разнице между аналоговым и цифровым.

Аналоговый и цифровой — это два разных процесса. Они используются для транспортировки и хранения данных. Например, аудио, изображение, видео... Аналоговая система появилась на заре электричества. С другой стороны, цифровые технологии появились благодаря компьютерам. В аналоговой системе основным принципом является воспроизведение записываемого сигнала в аналогичной форме.

Например, аналоговое телевидение работало по этому принципу. Изображение, подлежащее ретрансляции, преобразовывалось в электрические сигналы, которые назывались "видеосигналы" и характеризовались своей частотой, т.е. количеством колебаний в одну секунду. Эти электрические сигналы повторно передавались с помощью электромагнитной волны, к которой были приложены те же амплитуды, что и к исходному сигналу. Таким образом, передаваемый сигнал является своего рода "воспроизведением" исходного сигнала.

В цифровой технологии сигнал, подлежащий записи, преобразуется в последовательность 0 и 1. Таким образом, амплитуды больше не воспроизводятся, а кодируются и декодируются по прибытии. Именно это изменилось с переходом на цифровое телевидение.

Таким образом, в цифровом формате мы получаем сигнал с двумя амплитудами вместо бесконечного числа в аналоговом. До сих пор искусственные нейронные сети работали в основном по цифровому принципу. Таким образом, сети программируются с помощью алгоритмов обучения, а вычисления производятся с помощью последовательностей 0 и 1. Однако именно благодаря применению аналоговой системы ученым Массачусетского технологического института удалось создать нейронную сеть, которая работает гораздо быстрее и эффективнее, чем у человека. Точнее, в миллион раз быстрее.

В аналоговой системе глубокого обучения происходит не передача данных в виде 0 и 1, а "увеличение и уменьшение электрической проводимости протонных резисторов", что обеспечивает автоматическое обучение, говорится в пресс-релизе MIT. Проводимость определяется как способность пропускать ток (обратная величина сопротивления). "Проводимость контролируется движением протонов. Для увеличения проводимости в канал резистора вталкивается больше протонов, а для уменьшения проводимости протоны удаляются. Для этого используется электролит (подобный тому, что используется в батарее), который проводит протоны, но блокирует электроны".

Электрическое сопротивление — это физическое свойство материала, которое ограничивает прохождение электрического тока в цепи. Поэтому компонент с таким свойством служит для ограничения потока электронов в цепи. В данном случае он является ключевым элементом, поскольку регулирует движение протонов.

Высокая устойчивость к электрическим импульсам

Почему этот процесс позволяет нейронной сети функционировать быстрее? "Прежде всего, вычисления производятся в памяти, так что огромные объемы данных не передаются из памяти в процессор", — объясняют ученые. "Аналоговые процессоры также выполняют операции параллельно. Если размер массива увеличивается, аналоговому процессору не требуется больше времени для выполнения новых операций, поскольку все вычисления происходят одновременно".

Таким образом, достигнутая скорость исчисляется в наносекундах. Это стало возможным еще и потому, что ученые использовали специальный материал: неорганическое фосфосиликатное стекло (IPG), материал, подобный тому, который используется в пакетах влагопоглотителей. Этот материал является очень хорошим проводником, так как имеет большое количество нанометрических пор, пропускающих протоны, и в то же время способен выдерживать высокие импульсные электрические напряжения. По словам ученых, это качество было очень важным, поскольку именно эта прочность позволяет им применять более высокие электрические напряжения и, таким образом, достигать таких высоких скоростей.

"Потенциал действия в биологических клетках повышается и понижается с временной шкалой в миллисекунды, потому что разница напряжения около 0,1 вольта ограничена стабильностью воды", — объясняет ведущий автор исследования Джу Ли, профессор ядерной науки и инженерии и профессор материаловедения и инженерии Battelle Energy Alliance. "Здесь мы подаем напряжение до 10 вольт через специальную наноразмерную пленку из твердого стекла, которая проводит протоны, не повреждая ее окончательно. И чем сильнее поле, тем быстрее работают ионные устройства".

Ученые надеются, что смогут перепроектировать систему, чтобы сделать ее пригодной для крупносерийного производства. Они возлагают большие надежды на этот прорыв: "Как только будет разработан аналоговый процессор, больше не нужно будет обучать массивы, над которыми работают все остальные, но массивы с беспрецедентной сложностью, которую не может позволить себе никто другой, превзойдут все, что было возможно раньше. Другими словами, это не более быстрый автомобиль, это космический корабль", — добавляет Мурат Онен, ведущий автор и постдокторант Массачусетского технологического института.