Не так давно компания Syntiant из Калифорнии представила свою новую разработку - нейроморфный чип NDP200, обладающий очень высокой энергоэффективностью. Этот чип, в первую очередь, предназначен для управления искусственными нейронными сетями, которые анализируют входной поток видеоданных и выдают сигналы другим системам, когда на видео определяется нечто важное. Но это является не единственной возможной областью применения нового чипа, и его разработчики продемонстрировали, что при должном подходе и правильном обучении он способен на несколько большее.

Для "правильного" обучения чипа разработчики использовали VizDoom, облегченную версию первого поколения этой игры, которая достаточно часто используется в исследованиях, связанных с искусственным интеллектом. Внутри чипа была организована многослойная нейронная сеть, верхние слои которой несли ответственность за понимание того, что видит сеть на входящем потоке видео. А набор более нижних слоев отвечал за реакции и меры, принимаемые сетью в ответ на то, что она видит.

Всего в сети насчитывается 600 тысяч параметров, размещенных в 640 килобайтах оперативной памяти. Это, конечно, не миллиарды параметров, входящие в состав сети ChatGPT, но это гораздо больше 10 тысяч параметров, требующихся для распознавания простых фраз типа "Ok, Google".

Сеть была обучена играть в вид игры "Круговая защита", что включает в себя перемещения внутри круглого помещения и отстрел всего, что шевелится. Сначала сеть была обучена распознавать появляющихся монстров, а затем стрелять в них. В первое время сеть очень быстро расстреливала боекомплект, но со временем научилась экономить боеприпасы. И, в конце концов, она стала гораздо лучшим игроком, чем любой из ее разработчиков, игравших в Doom в студенческом возрасте.

Для того, чтобы продемонстрировать эффективность работы чипа NDP200, специалисты Syntiant провели сравнение с процессором ARM Cortex A53, на котором была реализована сеть на базе MobileNetV1 с 200 тысячами параметров. На одном из стандартных тестов, MLPerf, чип NDP200 тратит всего 166 микроджоулей на анализ одного кадра изображения, всего 1 сотую от количества, требовавшегося ARM-процессору для выполнения той же самой задачи. Чип NDP200 оказался способен проанализировать и обработать шесть кадров в секунду, потребляя при этом всего 1 милливатт.

Отметим, что компания Syntiant не держит в секрете внутреннюю начинку чипа NDP200. Его эффективность заключается в правильной организации многопоточной передачи данных из памяти в нейроморфное ядро, в котором производятся операции по умножению и накоплению, базовые операции на которых стоят все операции глубинного обучения и искусственного интеллекта. А суммарная пропускная способность шины между памятью и процессором составляет 9 гигабайт в секунду.

Похоже, что пока представители компании Syntiant не планируют производить увеличение сложности разрабатываемых ими чипов. "Мы будем направлять свои усилия на совершенствовании имеющихся технологий и увеличении эффективности работы наших чипов" - пишут представители Syntiant, - "А более чем полумиллиона параметров пока вполне достаточно для создания нейронных сетей, способных быстро и безошибочно решать задачи, стоящие перед обычными электронными устройствами потребительского уровня".