Нейроморфные вычисления и спайковые нейронные сети

Материал из MachineLearning.

Статья написана с использованием LLM ChatGPT (GPT-5.6 Sol Medium) и проверена участником Valeriia Berdnikova 14:00, 19 июля 2026 (MSD). Промпт приводится полностью в Обсуждение:Нейроморфные вычисления и спайковые нейронные сети.

Содержание

1 Основные понятия и различия
- 1.1 Нейроморфные вычисления
- 1.2 Спайковая нейронная сеть
- 1.3 Биологическая нервная система
- 1.4 Классическая искусственная нейронная сеть
2 История развития
3 Биологические основы
- 3.1 Строение нейрона
- 3.2 Мембранный потенциал
- 3.3 Генерация спайка
- 3.4 Синапсы
- 3.5 Синаптическая пластичность
4 Событийное представление информации
- 4.1 Событийные вычисления
- 4.2 Частотное кодирование
- 4.3 Временное кодирование
- 4.4 Ранговое кодирование
- 4.5 Популяционное кодирование
- 4.6 Дельта-кодирование
5 Математические модели спайковых нейронов
- 5.1 Модель Integrate-and-Fire
- 5.2 Leaky Integrate-and-Fire
- 5.3 Hodgkin–Huxley
- 5.4 Модель Ижикевича
- 5.5 Exponential Integrate-and-Fire и AdEx
- 5.6 Spike Response Model
- 5.7 Сравнение моделей нейронов
6 Архитектура спайковой нейронной сети
- 6.1 Входной слой
- 6.2 Скрытые слои
- 6.3 Синаптические задержки
- 6.4 Рекуррентные связи
- 6.5 Выход и декодирование
7 Отличие вычислительного процесса SNN
8 Обучение спайковых нейронных сетей
- 8.1 Основная трудность
9 Spike-Timing-Dependent Plasticity
10 Обучение с учителем
- 10.1 SpikeProp
- 10.2 Потери по числу спайков
11 Суррогатный градиент
12 Обучение без учителя
13 Обучение с подкреплением
14 Локальные и онлайн-методы
15 Преобразование ANN в SNN
- 15.1 Основная идея
- 15.2 Преимущества
- 15.3 Ограничения
16 Оптимизируемые параметры
17 Общий алгоритм обучения суррогатным градиентом
18 Нейроморфное аппаратное обеспечение
- 18.1 Архитектурные принципы
- 18.2 Цифровые и аналоговые системы
19 BrainScaleS
20 SpiNNaker
21 IBM TrueNorth
22 Intel Loihi
23 DYNAP-SE
24 Энергоэффективность
25 Применения
- 25.1 Событийное компьютерное зрение
- 25.2 Робототехника
- 25.3 Автономные системы
- 25.4 Сенсорные сети
- 25.5 Распознавание речи и звука
- 25.6 Анализ временных рядов
- 25.7 Медицинская диагностика
- 25.8 Энергоэффективный искусственный интеллект
26 Сравнение с другими архитектурами
- 26.1 SNN и CNN
- 26.2 SNN и RNN
- 26.3 SNN и трансформеры
27 Преимущества
- 27.1 Временная выразительность
- 27.2 Разреженные вычисления
- 27.3 Низкая задержка
- 27.4 Локальное обучение
- 27.5 Потоковая обработка
- 27.6 Энергоэффективность на периферии
28 Ограничения
- 28.1 Сложность обучения
- 28.2 Временная стоимость
- 28.3 Разрыв между программным обучением и аппаратным выполнением
- 28.4 Ограниченная стандартизация
- 28.5 Проблемы масштабирования обучения
- 28.6 Аппаратные вариации
- 28.7 Ограниченная биологическая правдоподобность
- 28.8 Сложность честного сравнения
29 Когда применение SNN оправдано
30 Практический порядок разработки
31 Современные направления
32 См. также
33 Примечания
34 Литература

Нейроморфные вычисления — направление вычислительной техники и искусственного интеллекта, в котором архитектура, модели и способы обработки информации создаются под влиянием принципов организации биологических нервных систем. К таким принципам относятся распределённость вычислений, локальная память, событийная передача сигналов, параллелизм, адаптивность и использование внутреннего состояния вычислительных элементов.^[1]

Спайковые нейронные сети (англ. spiking neural networks, SNN) — класс искусственных нейронных сетей, в которых нейроны обладают внутренней временной динамикой и обмениваются дискретными событиями — спайками. В отличие от большинства классических нейронных сетей, SNN обрабатывают не только величины сигналов, но и моменты их появления.^[1]

Нейроморфные вычисления связаны с машинным обучением, глубоким обучением, нейронными сетями, вычислительной нейробиологией, робототехникой, встраиваемыми системами и энергоэффективными вычислениями. При этом нейроморфное оборудование, математическая модель спайкового нейрона и алгоритм обучения являются разными уровнями системы и не должны отождествляться.

Спайковая сеть может моделироваться на обычном центральном или графическом процессоре, а нейроморфный процессор может поддерживать несколько типов нейронной динамики и локальных алгоритмов обучения. Биологический нейрон, в свою очередь, значительно сложнее любого искусственного спайкового элемента.

Основные понятия и различия

Нейроморфные вычисления

Нейроморфные вычисления охватывают:

математические модели нейронов и синапсов;
событийные алгоритмы;
асинхронные коммуникационные сети;
аналоговые, цифровые и смешанные нейроморфные схемы;
событийные сенсоры;
локальное обучение;
совместное проектирование алгоритмов и аппаратного обеспечения.

Цель направления не обязательно состоит в точном воспроизведении мозга. Часто биологические принципы используются как инженерные эвристики для уменьшения задержек, энергопотребления и объёма перемещаемых данных.

Спайковая нейронная сеть

Спайковая сеть задаётся:

множеством нейронов;
внутренними переменными состояния;
синаптическими связями;
правилами распространения спайков;
временными задержками;
механизмом пластичности или внешнего обучения;
способом кодирования входа;
способом декодирования результата.

Выход нейрона можно представить последовательностью моментов спайков:

${\cal S}_i=\{t_i^1,t_i^2,\ldots\}.$

Соответствующий спайковый поезд записывается как

$s_i(t)=\sum_f\delta(t-t_i^f),$

где $\delta$ — дельта-функция, а $t_i^f$ — момент $f$ -го спайка нейрона $i$ .

Биологическая нервная система

Биологическая нервная система включает нейроны многих типов, глиальные клетки, химические и электрические синапсы, нейромодуляторы, дендритные вычисления, структурную пластичность и сложные механизмы гомеостаза.

Большинство SNN моделирует лишь небольшую часть этих процессов:

интегрирование входных токов;
утечку мембранного потенциала;
порог генерации спайка;
сброс состояния;
рефрактерный период;
адаптацию;
изменение синаптических весов.

Поэтому биологическая правдоподобность модели всегда относительна и зависит от рассматриваемого уровня описания.

Классическая искусственная нейронная сеть

В обычном искусственном нейроне вычисляется

$y=\phi\left(\sum_jw_jx_j+b\right),$

где $x_j$ — входы, $w_j$ — веса, $b$ — смещение, а $\phi$ — функция активации.

Такой нейрон обычно не хранит собственную непрерывно изменяющуюся мембранную переменную. В SNN выход зависит не только от текущего входа, но и от накопленного состояния:

$u_i[t+1]=F(u_i[t],s[t],\theta_i).$

Здесь $u_i[t]$ — состояние нейрона, $s[t]$ — входные спайки, а $\theta_i$ — параметры динамики.

История развития

В 1943 году Маккаллок и Питтс предложили формальную модель порогового нейрона, ставшую одной из основ теории искусственных нейронных сетей.^[1]

В 1952 году Алан Ходжкин и Эндрю Хаксли опубликовали количественную модель генерации потенциала действия в аксоне кальмара. Модель описывала напряжение на мембране и динамику ионных проводимостей.^[1]

В 1980-х годах Карвер Мид развивал аналоговые электронные схемы, использующие физические свойства транзисторов для моделирования нервных систем. В 1990 году он закрепил термин neuromorphic electronic systems за классом схем, вдохновлённых организацией биологических вычислений.^[1]

В 1997 году Вольфганг Маасс описал спайковые сети как третье поколение моделей нейронных сетей и исследовал их вычислительную выразительность.^[1]

В 2000-х годах развитие SNN ускорили:

экспериментальные исследования временной пластичности;
алгоритмы обучения точному времени спайков;
нейроморфные сенсоры;
крупномасштабные симуляторы;
специализированные аппаратные платформы.

В 2010-х годах появились системы BrainScaleS, SpiNNaker, IBM TrueNorth и Intel Loihi. Одновременно стали развиваться методы преобразования обычных сетей в SNN и прямое обучение глубоких спайковых моделей с помощью суррогатных градиентов.

Биологические основы

Строение нейрона

Упрощённо биологический нейрон состоит из:

дендритов, принимающих сигналы;
тела клетки;
мембраны;
аксона;
синаптических окончаний.

Дендритное дерево не является пассивным набором проводов. Оно может выполнять локальные нелинейные преобразования. Однако многие искусственные модели объединяют все дендритные входы в одну скалярную переменную.

Мембранный потенциал

Мембрана клетки разделяет среды с разными концентрациями ионов. Разность электрических потенциалов между внутренней и внешней сторонами мембраны называется мембранным потенциалом.

В электрической эквивалентной схеме мембрана часто представляется ёмкостью:

$C_m\frac{dV}{dt}=I_{\rm in}(t)-I_{\rm ion}(V,t),$

где

$C_m$ — мембранная ёмкость;
$V$ — мембранный потенциал;
$I_{\rm in}$ — входной ток;
$I_{\rm ion}$ — суммарный ионный ток.

Генерация спайка

При достаточной деполяризации мембраны открываются потенциал-зависимые ионные каналы и возникает потенциал действия. После спайка мембрана возвращается к исходному состоянию и некоторое время может быть менее возбудимой.

В простых моделях этот процесс заменяется пороговым правилом:

$V(t)\geq V_{\rm th}.$

При выполнении условия регистрируется спайк, после чего потенциал сбрасывается к $V_{\rm reset}$ .

Искусственный порог и мгновенный сброс являются математическими абстракциями. В биологическом нейроне спайк формируется непрерывной динамикой ионных каналов.

Синапсы

Синапс передаёт влияние пресинаптического нейрона постсинаптическому. Возбуждающие синапсы увеличивают вероятность спайка, а тормозные — уменьшают её.

Простой синаптический ток может описываться уравнением

$\tau_s\frac{dI_s}{dt}=-I_s+\sum_f w\delta(t-t_{\rm pre}^f),$

где $w$ — синаптический вес, а $\tau_s$ — постоянная времени синапса.

Более подробные модели используют проводимости:

$I_s(t)=g_s(t)(V(t)-E_s),$

где $g_s$ — синаптическая проводимость, а $E_s$ — равновесный потенциал.

Синаптическая пластичность

Сила синапса может изменяться под влиянием:

активности нейронов;
относительного времени спайков;
вознаграждения;
нейромодуляторов;
гомеостатических механизмов;
локальной концентрации химических веществ.

Правило STDP является лишь одной из экспериментально наблюдаемых форм пластичности. Биологическое обучение не сводится к единственной экспоненциальной зависимости между двумя спайками.

Событийное представление информации

Событийные вычисления

В событийной системе операция инициируется появлением события. Если вход не изменяется и нейроны не генерируют спайки, часть вычислительных блоков может оставаться неактивной.

В традиционной синхронной сети каждый слой обычно вычисляется для всех элементов тензора. В SNN потенциально обрабатываются только активные связи:

${\cal C}\sim\sum_t{\rm nnz}(s[t]),$

где ${\rm nnz}(s[t])$ — число спайков в момент $t$ .

Такое преимущество реализуется только при разреженной активности и эффективной аппаратной поддержке событий. При моделировании SNN на графическом процессоре разворачивание сети по времени может оказаться дороже вычисления обычной сети.

Частотное кодирование

Значение кодируется числом спайков в интервале:

$r_i=\frac{1}{T}\sum_{t=1}^{T}s_i[t].$

Преимущества:

устойчивость к небольшому сдвигу времени;
простое декодирование;
удобство преобразования ANN в SNN.

Ограничения:

требуется несколько временных шагов;
растёт задержка;
преимущества точного времени спайков используются слабо.

Временное кодирование

Значение определяется временем первого или нескольких спайков:

$x_i\longmapsto t_i^{\rm spike}.$

Например, большая величина может кодироваться ранним спайком:

$t_i=t_{\max}-\alpha x_i.$

Временное кодирование потенциально уменьшает число спайков и задержку, но более чувствительно к шуму и требует точного моделирования времени.

Ранговое кодирование

Информация задаётся порядком появления спайков:

$t_{i_1}<t_{i_2}<\cdots<t_{i_k}.$

Абсолютные интервалы могут иметь меньшее значение, чем последовательность активации нейронов.

Популяционное кодирование

Одна величина представляется активностью группы нейронов:

$x\longmapsto\{s_1(t),\ldots,s_m(t)\}.$

Каждый нейрон может иметь собственную область чувствительности. Популяционное кодирование повышает устойчивость, но увеличивает число элементов сети.

Дельта-кодирование

Спайки генерируются при существенном изменении сигнала:

$|x(t)-x(t-\Delta t)|>\vartheta.$

Подобный принцип используется событийными камерами и другими асинхронными сенсорами.

Математические модели спайковых нейронов

Модели различаются по биологической подробности, числу переменных, вычислительной стоимости и воспроизводимым режимам активности.

Модель Integrate-and-Fire

В простейшей модели интегрирования и возбуждения мембранный потенциал накапливает входной ток:

$C_m\frac{dV}{dt}=I(t).$

Спайк возникает при достижении порога:

$V(t)\geq V_{\rm th}.$

После спайка выполняется сброс:

$V\leftarrow V_{\rm reset}.$

При постоянном положительном токе потенциал растёт линейно.

Основные параметры:

$C_m$ — мембранная ёмкость;
$V_{\rm th}$ — порог;
$V_{\rm reset}$ — потенциал сброса;
$t_{\rm ref}$ — рефрактерный период.

Преимущества:

минимальная вычислительная стоимость;
простая аналитическая интерпретация;
удобная аппаратная реализация.

Ограничения:

отсутствует утечка;
не моделируется форма потенциала действия;
ограниченное разнообразие режимов активности;
память о старом входе сохраняется неограниченно долго без дополнительного механизма.

Модель применяется в теоретическом анализе, простых аппаратных схемах и учебных задачах.

Leaky Integrate-and-Fire

В модели LIF добавляется утечка к потенциалу покоя:

$\tau_m\frac{dV}{dt}=-(V-V_{\rm rest})+R_mI(t),$

где

$\tau_m=R_mC_m$ — мембранная постоянная времени;
$R_m$ — мембранное сопротивление;
$V_{\rm rest}$ — потенциал покоя.

При отсутствии входа потенциал экспоненциально возвращается к $V_{\rm rest}$ .

Дискретная форма может быть записана как

$u_i[t+1]=\beta u_i[t]+\sum_jw_{ij}s_j[t]-V_{\rm th}s_i[t],$

где

$\beta=\exp\left(-\frac{\Delta t}{\tau_m}\right).$

Последний член соответствует вычитающему сбросу. В других реализациях используется жёсткий сброс к фиксированному значению.

Преимущества:

низкая вычислительная стоимость;
естественная временная память;
совместимость с событийным оборудованием;
удобство обучения суррогатным градиентом;
простая разреженная реализация.

Ограничения:

одинаковая форма всех спайков;
ограниченное моделирование адаптации и пачечной активности;
параметры не всегда непосредственно соответствуют реальной клетке;
качество зависит от шага дискретизации.

LIF является одной из наиболее распространённых моделей в машинном обучении и на нейроморфных процессорах.

Hodgkin–Huxley

Модель Ходжкина — Хаксли описывает токи через натриевые, калиевые и утечечные каналы:

$C_m\frac{dV}{dt}=I_{\rm ext}-I_{\rm Na}-I_{\rm K}-I_{\rm L}.$

Натриевый ток:

$I_{\rm Na}=\bar g_{\rm Na}m^3h(V-E_{\rm Na}).$

Калиевый ток:

$I_{\rm K}=\bar g_{\rm K}n^4(V-E_{\rm K}).$

Ток утечки:

$I_{\rm L}=g_{\rm L}(V-E_{\rm L}).$

Переменные каналов $x\in\{m,h,n\}$ изменяются по правилу

$\frac{dx}{dt}=\alpha_x(V)(1-x)-\beta_x(V)x.$

В этой модели спайк возникает как результат динамики системы, а не задаётся искусственным порогом.

Основные параметры:

максимальные проводимости каналов;
равновесные потенциалы;
мембранная ёмкость;
функции открытия и закрытия каналов;
внешний ток.

Преимущества:

физиологически интерпретируемые параметры;
воспроизведение формы потенциала действия;
возможность изучения ионных механизмов;
высокая биофизическая правдоподобность на уровне мембранной динамики.

Ограничения:

несколько дифференциальных уравнений на нейрон;
высокая вычислительная стоимость;
сложность обучения крупных сетей;
необходимость оценки большого числа параметров;
избыточность для многих задач классификации.

Модель применяется преимущественно в вычислительной нейробиологии, исследовании возбудимости и моделировании малых нейронных цепей.

Модель Ижикевича

Модель Ижикевича объединяет квадратичную динамику потенциала с переменной восстановления:^[1]

$\frac{dv}{dt}=0.04v^2+5v+140-u+I,$

$\frac{du}{dt}=a(bv-u).$

При достижении уровня спайка выполняется

$v\leftarrow c,$

$u\leftarrow u+d.$

Здесь

$v$ — мембранный потенциал;
$u$ — переменная восстановления;
$a$ — скорость восстановления;
$b$ — чувствительность восстановления к потенциалу;
$c$ — значение сброса;
$d$ — изменение восстановления после спайка.

Изменение параметров позволяет воспроизводить регулярную активность, пачки спайков, быстрые разряды и другие режимы.

Преимущества:

две динамические переменные;
разнообразие режимов активности;
существенно меньшая стоимость, чем у модели Ходжкина — Хаксли;
удобство крупномасштабного моделирования.

Ограничения:

параметры частично феноменологические;
спайк завершается искусственным условием отсечения;
модель не описывает отдельные ионные токи;
результат может зависеть от шага интегрирования и порога отсечения.

Exponential Integrate-and-Fire и AdEx

Экспоненциальная модель уточняет динамику около порога:

$C_m\frac{dV}{dt}=-g_L(V-E_L)+g_L\Delta_T\exp\left(\frac{V-V_T}{\Delta_T}\right)+I.$

Модель AdEx добавляет адаптационную переменную $w$ :^[1]

$C_m\frac{dV}{dt}=-g_L(V-E_L)+g_L\Delta_T\exp\left(\frac{V-V_T}{\Delta_T}\right)-w+I,$

$\tau_w\frac{dw}{dt}=a(V-E_L)-w.$

После спайка обычно выполняется

$V\leftarrow V_{\rm reset},\qquad w\leftarrow w+b.$

Преимущества:

гладкое приближение начала спайка;
моделирование адаптации;
несколько режимов активности;
меньшая стоимость, чем у биофизических моделей.

Ограничения:

сложнее LIF;
требуется численное интегрирование;
возможна чувствительность к параметрам и шагу времени.

Spike Response Model

В модели спайкового отклика потенциал выражается через ядра реакции на входные и собственные спайки:

$u_i(t)=\eta(t-\hat t_i)+\sum_j\sum_f w_{ij}\varepsilon(t-t_j^f),$

где

$\eta$ описывает влияние последнего спайка нейрона;
$\varepsilon$ — постсинаптическое ядро;
$\hat t_i$ — время последнего выходного спайка.

Модель удобна для анализа точного времени спайков и алгоритмов типа SpikeProp.

Сравнение моделей нейронов

Модель	Динамические переменные	Биофизическая подробность	Вычислительная стоимость	Типичные применения	Основное ограничение
Integrate-and-Fire	Потенциал	Низкая	Очень низкая	Теория, простые аппаратные модели	Нет утечки
LIF	Потенциал	Низкая	Низкая	Глубокие SNN, нейроморфные процессоры	Ограниченное разнообразие активности
Hodgkin–Huxley	Потенциал и переменные каналов	Высокая	Высокая	Вычислительная нейробиология	Плохо масштабируется
Izhikevich	Потенциал и восстановление	Средняя	Умеренная	Крупные биологически мотивированные сети	Феноменологический сброс
AdEx	Потенциал и адаптация	Средняя	Умеренная	Адаптивные нейроны, аппаратные модели	Сложнее LIF
Spike Response Model	Ядра отклика и история спайков	Средняя	Зависит от числа событий	Временное кодирование и обучение	Требуется хранение истории

Архитектура спайковой нейронной сети

Входной слой

Если сенсор уже создаёт события, вход можно передавать в сеть непосредственно. К таким источникам относятся:

событийные камеры;
силиконовые улитки;
асинхронные тактильные датчики;
нейрофизиологические записи.

Обычные изображения, звук и числовые признаки необходимо преобразовать в спайковые последовательности.

Скрытые слои

Спайковая сеть может быть:

полносвязной;
свёрточной;
рекуррентной;
резервуарной;
графовой;
трансформероподобной;
гибридной.

На каждом временном шаге слой обновляет синаптические и нейронные состояния:

$I^{(l)}[t]=W^{(l)}s^{(l-1)}[t],$

$u^{(l)}[t+1]=F(u^{(l)}[t],I^{(l)}[t]),$

$s^{(l)}[t]=H(u^{(l)}[t]-V_{\rm th}),$

где $H$ — пороговая функция Хевисайда.

Синаптические задержки

Спайк может достигать постсинаптического нейрона с задержкой $d_{ij}$ :

$I_i[t]=\sum_jw_{ij}s_j[t-d_{ij}].$

Задержки позволяют моделировать временные шаблоны и увеличивают пространство обучаемых параметров.

Рекуррентные связи

В рекуррентной SNN состояние зависит от предыдущей активности сети:

$u[t+1]=F(u[t],W_{\rm in}s_{\rm in}[t]+W_{\rm rec}s[t]).$

Такая сеть естественно обрабатывает последовательности, но её обучение сталкивается с задачей временного назначения ответственности.

Выход и декодирование

Декодирование по числу спайков:

$z_c=\sum_{t=1}^{T}s_c[t].$

Предсказанный класс:

$\hat c=\mathop{\rm argmax}_c z_c.$

Декодирование по первому спайку:

$\hat c=\mathop{\rm argmin}_c t_c^{\rm first}.$

Декодирование по потенциалу:

$\hat c=\mathop{\rm argmax}_c u_c[T].$

Фильтрованная частота:

$r_c[t+1]=\rho r_c[t]+s_c[t].$

Выбор декодера связан с функцией потерь и способом кодирования входа.

Отличие вычислительного процесса SNN

В классической прямой нейронной сети вычисление обычно выполняется один раз:

$x^{(l+1)}=\phi(W^{(l)}x^{(l)}).$

В SNN сеть разворачивается по времени:

поступают входные события;
обновляются синаптические токи;
изменяются мембранные потенциалы;
нейроны сравниваются с порогом;
генерируются спайки;
выполняется сброс и обновление адаптации;
события передаются следующим нейронам;
накапливается выходное решение.

Стоимость зависит одновременно от числа слоёв, временных шагов и спайковой активности.

Обучение спайковых нейронных сетей

Основная трудность

Пороговая функция

$s=H(u-V_{\rm th})$

почти всюду имеет нулевую производную и не дифференцируема в точке порога. Поэтому обычное обратное распространение ошибки нельзя непосредственно применить к моменту генерации спайка.

Основные подходы:

локальная пластичность;
обучение точного времени спайков;
суррогатные градиенты;
вероятностные модели;
преобразование ANN в SNN;
эволюционная оптимизация;
локальные трёхфакторные правила.

Spike-Timing-Dependent Plasticity

STDP изменяет вес в зависимости от разности времён пре- и постсинаптического спайков:

$\Delta t=t_{\rm post}-t_{\rm pre}.$

Для $\Delta t>0$ типичное правило потенциации:

$\Delta w=A_+\exp\left(-\frac{\Delta t}{\tau_+}\right).$

Для $\Delta t<0$ правило депрессии:

$\Delta w=-A_-\exp\left(\frac{\Delta t}{\tau_-}\right).$

Здесь $A_+$ и $A_-$ задают амплитуды изменения, а $\tau_+$ и $\tau_-$ — временные окна.

Зависимость синаптической модификации от относительного времени спайков наблюдалась экспериментально в культурах гиппокампальных нейронов.^[1]

Преимущества STDP:

локальность;
отсутствие глобального обратного прохода;
совместимость с онлайн-обучением;
аппаратная реализуемость;
использование временной структуры.

Ограничения:

простое попарное правило плохо решает глубокое назначение ответственности;
обучение без меток не гарантирует признаки, полезные для задачи;
необходимы конкуренция, торможение и гомеостаз;
результаты чувствительны к частоте спайков;
биологическая пластичность сложнее стандартной формулы.

STDP применялось для обучения распознаванию цифр без учителя совместно с латеральным торможением и адаптивными порогами.^[1]

Обучение с учителем

SpikeProp

SpikeProp обучает время выходного спайка путём распространения временной ошибки назад по сети.^[1]

Для целевого времени $t_i^*$ можно использовать ошибку

${\cal L}=\frac{1}{2}\sum_i(t_i-t_i^*)^2.$

Градиент зависит от чувствительности времени пересечения порога к весам.

Ограничения SpikeProp:

обычно предполагается небольшое число спайков;
возникают проблемы, если нейрон не сгенерировал спайк;
обучение чувствительно к начальному состоянию;
расширение на глубокие рекуррентные сети сложно.

Потери по числу спайков

Для классификации задаётся целевое число спайков:

${\cal L}_{\rm count}=\frac{1}{2}\sum_c\left(\sum_ts_c[t]-y_c\right)^2.$

Также можно вычислять логиты по фильтрованной активности и применять перекрёстную энтропию:

${\cal L}_{\rm CE}=-\sum_cy_c\ln p_c.$

Суррогатный градиент

В прямом проходе используется настоящая пороговая функция:

$s[t]=H(u[t]-V_{\rm th}).$

В обратном проходе её производная заменяется гладкой функцией:

$\frac{\partial s}{\partial u}\simeq\tilde\sigma'(u-V_{\rm th}).$

Например,

$\tilde\sigma'(x)=\frac{\beta}{(1+\beta|x|)^2}.$

Параметр $\beta$ управляет шириной области ненулевого градиента.

Сеть разворачивается на $T$ шагов, после чего применяется обратное распространение ошибки во времени:

$\frac{\partial{\cal L}}{\partial W}=\sum_{t=1}^{T}\frac{\partial{\cal L}}{\partial s[t]}\frac{\partial s[t]}{\partial u[t]}\frac{\partial u[t]}{\partial W}.$

Суррогатная производная не является истинной производной дискретного спайка. Это практическая аппроксимация, позволяющая использовать градиентную оптимизацию.^[1]

Преимущества:

обучение глубоких и рекуррентных SNN;
использование оптимизаторов глубокого обучения;
совместное обучение весов, порогов и постоянных времени;
работа с различными функциями потерь.

Ограничения:

хранение состояний всех временных шагов;
высокая стоимость BPTT;
затухание или взрыв градиентов;
расхождение между прямой и обратной моделью;
ограниченная биологическая правдоподобность;
зависимость от формы суррогатной функции.

Обучение без учителя

Без учителя SNN могут формировать представления с помощью:

STDP;
конкурентного обучения;
латерального торможения;
гомеостатической пластичности;
предсказания следующего события;
реконструкции входного спайкового потока;
контрастивного обучения;
кластеризации спайковых представлений.

Локальные правила хорошо подходят для адаптации на устройстве, но обычно уступают глобально оптимизированным глубоким моделям на сложных классификационных задачах.

Обучение с подкреплением

В обучении с подкреплением локальная пластичность может модулироваться глобальным сигналом вознаграждения.

Трёхфакторное правило имеет вид

$\Delta w_{ij}\propto\delta(t)e_{ij}(t),$

где

$e_{ij}(t)$ — локальный след пригодности;
$\delta(t)$ — сигнал вознаграждения или ошибка предсказания вознаграждения.

След пригодности сохраняет информацию о недавних сочетаниях пре- и постсинаптической активности. Вознаграждение определяет знак и величину окончательного изменения.^[1]

Спайковые сети также могут использоваться как политика или функция ценности в обычных алгоритмах глубокого обучения с подкреплением. В этом случае обновление вычисляется внешним оптимизатором, а не локальным биологическим правилом.

Локальные и онлайн-методы

Алгоритм e-prop разлагает градиент рекуррентной сети на локальные следы пригодности и обучающие сигналы:

$\frac{d{\cal L}}{dw_{ij}}\simeq\sum_tL_j[t]e_{ij}[t].$

Здесь $L_j[t]$ — обучающий сигнал нейрона, а $e_{ij}[t]$ — локально вычисляемый след. Подход уменьшает необходимость хранить полную историю сети и пригоден для онлайн-обучения, хотя является приближением полного BPTT.^[1]

Преобразование ANN в SNN

Основная идея

Сначала обучается обычная сеть с активациями ReLU:

$a_i=\max(0,z_i).$

Затем активация заменяется частотой спайков:

$a_i\simeq\kappa r_i.$

Веса и пороги масштабируются так, чтобы частоты находились в допустимом диапазоне.

Методы преобразования поддерживают свёртки, нормализацию, объединение и некоторые остаточные архитектуры.^[1]

Преимущества

использование развитых методов обучения ANN;
высокая точность исходной модели;
отсутствие необходимости дифференцировать спайк;
удобное развёртывание на нейроморфном оборудовании.

Ограничения

частотное кодирование может требовать много шагов;
возникает ошибка дискретизации частоты;
не все функции ANN имеют точный спайковый аналог;
временная динамика используется ограниченно;
преобразованная сеть не обязательно энергоэффективна;
требуется контроль активности и порогов.

Оптимизируемые параметры

В современных SNN обучаются не только веса:

пороги;
мембранные постоянные времени;
синаптические постоянные времени;
задержки;
параметры адаптации;
начальные состояния;
структура связей;
параметры кодировщика;
параметры декодировщика.

Общая задача имеет вид

$\theta^*=\mathop{\rm argmin}_{\theta}{\bf E}_{(x,y)\sim{\cal D}}{\cal L}(f_\theta(x),y)+\lambda R(\theta).$

Регуляризатор может ограничивать число спайков:

$R_{\rm spike}=\sum_{i,t}s_i[t],$

или отклонение от целевой частоты:

$R_{\rm rate}=\sum_i(r_i-r_i^*)^2.$

Снижение числа спайков не гарантирует снижение энергии, если аппаратная система тратит значительную энергию на обновление состояний и маршрутизацию.

Общий алгоритм обучения суррогатным градиентом

Вход: набор данных D, SNN f_theta,
      число временных шагов T.
Выход: параметры theta.

1. Инициализировать параметры нейронов и синапсов.
2. Для каждого мини-пакета:
   2.1. Закодировать вход в спайковую последовательность.
   2.2. Обнулить состояния сети.
   2.3. Для t от 1 до T:
        а) вычислить синаптические токи;
        б) обновить мембранные потенциалы;
        в) сгенерировать спайки;
        г) применить сброс и рефрактерность;
        д) сохранить необходимые состояния.
   2.4. Декодировать выход сети.
   2.5. Вычислить функцию потерь.
   2.6. Развернуть обратное распространение по времени.
   2.7. Заменить производную порога
        суррогатной производной.
   2.8. Обновить параметры оптимизатором.
3. Вернуть обученную сеть.

Нейроморфное аппаратное обеспечение

Архитектурные принципы

Традиционная архитектура фон Неймана разделяет память и вычислительное устройство. Передача весов и активаций между ними может составлять значительную часть задержки и энергии.

Нейроморфные процессоры стремятся:

размещать память рядом с вычислением;
обновлять только активные элементы;
передавать разреженные события;
использовать асинхронную маршрутизацию;
поддерживать внутреннее состояние нейронов;
реализовывать локальную пластичность;
масштабировать сеть через множество ядер.

Спайк часто передаётся как адрес события:

${\cal E}_{\rm spike}=(i,t),$

где $i$ — идентификатор нейрона, а $t$ — время.

Цифровые и аналоговые системы

Цифровые системы представляют состояние числами конечной разрядности.

Преимущества:

воспроизводимость;
программируемость;
устойчивость к физическим вариациям;
удобство интеграции с цифровыми системами.

Аналоговые системы используют физическую динамику токов и напряжений.

Преимущества:

естественное решение дифференциальных уравнений;
высокая скорость;
потенциально низкая энергия.

Ограничения:

разброс параметров;
шум;
сложность калибровки;
ограниченная точность;
трудность переноса модели.

Смешанные системы объединяют аналоговую нейронную динамику с цифровой маршрутизацией и управлением.

BrainScaleS

BrainScaleS — смешанная аналогово-цифровая платформа, развивавшаяся для ускоренного моделирования нейронной динамики. В ней аналоговые схемы реализуют нейроны и синапсы, а цифровая сеть передаёт события.

Раннее поколение использовало интеграцию на уровне кремниевой пластины и могло выполнять динамику значительно быстрее биологического времени.^[1]

BrainScaleS-2 объединяет:

аналоговые адаптивные нейроны;
программируемые синапсы;
цифровую маршрутизацию событий;
встроенные процессоры;
гибридную пластичность;
ускоренное физическое моделирование.^[1]

Преимущества:

ускоренная динамика;
параллельность;
доступ к аналоговым состояниям;
исследование пластичности.

Ограничения:

аппаратный разброс;
необходимость калибровки;
ограничение доступной топологии;
сложный программный стек;
перенос модели требует аппаратно-зависимого обучения.

SpiNNaker

SpiNNaker — цифровая многоядерная система, ориентированная на моделирование больших SNN в биологическом реальном времени.^[1]

Основные особенности:

большое число программируемых процессорных ядер;
пакетная передача спайков;
аппаратная многоадресная маршрутизация;
распределённая память;
программная реализация моделей нейронов;
поддержка биологических симуляций и робототехники.

Преимущества:

гибкость моделей;
масштабирование;
работа в реальном времени;
развитая событийная коммуникация.

Ограничения:

нейронная динамика вычисляется программно;
энергия выше, чем у некоторых специализированных схем;
производительность зависит от нагрузки на маршрутизаторы;
сложные модели уменьшают число нейронов на ядро.

IBM TrueNorth

TrueNorth — цифровой нейроморфный процессор, содержащий 4096 нейросинаптических ядер, около одного миллиона программируемых спайковых нейронов и 256 миллионов настраиваемых синапсов.^[1]

Архитектура использует:

событийную коммуникацию;
локальную память;
цифровые нейроны;
низкоразрядные синаптические параметры;
плиточное масштабирование ядер.

TrueNorth ориентирован прежде всего на энергоэффективный вывод. Общий механизм произвольного обучения весов непосредственно на кристалле не является его центральной функцией.

Преимущества:

высокая плотность нейронов и синапсов;
низкое энергопотребление при подходящих задачах;
масштабируемая цифровая архитектура.

Ограничения:

ограничения нейронной модели;
ограничения точности весов;
сложность отображения произвольных сетей;
обучение обычно выполняется вне процессора.

Intel Loihi

Loihi — цифровой многоядерный исследовательский процессор с поддержкой спайковых нейронов, синаптических задержек, иерархических связей и программируемых локальных правил обучения.^[1]

Особенности первого Loihi:

около 130 тысяч нейронов;
асинхронная событийная обработка;
локальное состояние;
встроенный механизм пластичности;
программируемые задержки;
распределённая маршрутизация.

Loihi 2 расширяет программируемость нейронной динамики, поддерживает более гибкие сообщения и используется совместно с открытой программной средой Lava.^[1]

Преимущества:

обучение на устройстве;
низкая задержка при потоковых задачах;
программируемые правила пластичности;
масштабирование через многоядерные системы.

Ограничения:

исследовательский, а не универсальный массовый процессор;
аппаратные ограничения разрядности и маршрутизации;
необходимость специализированного программирования;
преимущество зависит от активности и структуры задачи.

DYNAP-SE

DYNAP-SE и DYNAP-SE2 относятся к смешанным асинхронным процессорам для событийных SNN. Аналоговые схемы реализуют нейронную и синаптическую динамику, а цифровая инфраструктура маршрутизирует события.

DYNAP-SE2 поддерживает несколько биологически мотивированных механизмов, включая адаптацию, задержки, кратковременную пластичность и проводимостные синаптические процессы.^[1]

Платформа предназначена для исследований, потоковой сенсорной обработки и периферийных устройств с низким энергопотреблением.

Энергоэффективность

Энергия спайковой системы приближённо зависит от:

$E=E_{\rm state}+N_{\rm spike}E_{\rm route}+N_{\rm synop}E_{\rm synop}+E_{\rm IO},$

где

$E_{\rm state}$ — обновление внутренних состояний;
$N_{\rm spike}$ — число спайков;
$E_{\rm route}$ — стоимость маршрутизации события;
$N_{\rm synop}$ — число синаптических операций;
$E_{\rm synop}$ — стоимость синаптической операции;
$E_{\rm IO}$ — ввод и вывод данных.

Нейроморфная система может быть энергоэффективнее CPU или GPU, если:

активность разрежена;
данные поступают событиями;
сеть хорошо помещается на аппаратуре;
не требуется много временных шагов;
коммуникация локальна;
отсутствуют частые преобразования между спайковым и плотным представлением.

Утверждение, что любая SNN автоматически энергоэффективнее ANN, неверно. Сравнение должно выполняться при одинаковой точности, задержке, размере задачи и полном учёте ввода, вывода и подготовки данных.

Применения

Событийное компьютерное зрение

Событийная камера независимо фиксирует изменения яркости в каждом пикселе. Событие можно представить как

$e_k=(x_k,y_k,t_k,p_k),$

где

$x_k,y_k$ — координаты;
$t_k$ — время;
$p_k$ — знак изменения контраста.

Пиксель генерирует событие при условии

$|\ln I(t)-\ln I(t-\Delta t)|\geq C.$

Такие сенсоры обеспечивают высокое временное разрешение, широкий динамический диапазон и разреженный поток данных.^[1]

Задачи:

распознавание жестов;
оптический поток;
сопровождение объектов;
оценка движения;
обнаружение событий;
быстрая навигация;
распознавание объектов.

Ограничения:

отсутствие абсолютной яркости в чистом потоке событий;
шумовые события;
сложность стандартизации данных;
необходимость специальных алгоритмов.

Робототехника

SNN применяются для:

управления движением;
уклонения от препятствий;
сенсомоторной координации;
локализации;
управления манипуляторами;
реактивного поведения;
адаптации на устройстве.

Событийная обработка особенно полезна, когда требуется малая задержка и сенсор работает непрерывно. Для сложного планирования SNN часто объединяются с традиционными алгоритмами управления.

Автономные системы

В автономных системах нейроморфные модели исследуются для:

потокового восприятия;
обнаружения опасных изменений;
навигации беспилотных аппаратов;
локальной обработки без облака;
энергоограниченных мобильных платформ.

Для критически важных приложений требуются верификация, оценка устойчивости и резервные контуры управления.

Сенсорные сети

В распределённых сенсорных сетях события могут передаваться только при изменении сигнала. Это уменьшает:

объём коммуникации;
время активности радиоканала;
нагрузку на центральный узел;
энергопотребление постоянно работающих датчиков.

Применения включают мониторинг вибраций, звука, окружающей среды и промышленного оборудования.

Распознавание речи и звука

Аудиосигнал может кодироваться:

частотой спайков;
событиями в частотных каналах;
моделью улитки;
временем пересечения порогов;
дельта-модуляцией.

Рекуррентные SNN способны обрабатывать временную структуру речи и выполнять распознавание ключевых слов. Преимущество наиболее заметно при непрерывной работе на периферийном устройстве.

Анализ временных рядов

Спайковые сети применяются к:

промышленным сигналам;
финансовым последовательностям;
сетевому трафику;
показаниям датчиков;
обнаружению аномалий;
прогнозированию событий.

Для медленно меняющихся плотных рядов предварительное преобразование в спайки может не давать преимущества.

Медицинская диагностика

Исследовательские применения включают:

анализ ЭЭГ;
классификацию ЭКГ;
обнаружение приступов;
анализ нейронных записей;
интерфейсы мозг — компьютер;
носимые диагностические устройства.

Основные ограничения:

небольшие и неоднородные выборки;
различия между пациентами;
требования к интерпретируемости;
клиническая валидация;
цена ошибок.

Энергоэффективный искусственный интеллект

Нейроморфные системы рассматриваются для:

постоянно включённых датчиков;
умных камер;
слуховых устройств;
носимой электроники;
мобильных роботов;
периферийной аналитики;
адаптации без передачи данных в облако.

Сравнение с другими архитектурами

Подход	Представление данных	Временная динамика	Вычислительная стоимость	Энергоэффективность	Задержка	Масштабируемость	Преимущества	Ограничения
Спайковая нейронная сеть	Спайки и внутреннее состояние	Явная	Зависит от числа шагов и спайков	Потенциально высокая на событийном оборудовании	Низкая при временном коде; высокая при длинном частотном окне	Ограничена маршрутизацией и средствами обучения	Разреженность, потоковая обработка, локальная память	Сложное обучение, незрелые стандарты
Классическая полносвязная ANN	Плотные векторы	Обычно отсутствует	Матричные умножения	Хорошо оптимизирована на современных ускорителях	Низкая для малых сетей	Высокая	Простота обучения и реализации	Не использует событийную структуру
Свёрточная нейронная сеть	Регулярные пространственные тензоры	Обычно отсутствует	Свёртки по всем позициям	Высокая на специализированных ускорителях	Предсказуемая	Высокая	Сильная пространственная индуктивная структура	Неестественна для асинхронных событий без адаптации
Рекуррентная нейронная сеть	Последовательность плотных векторов	Явная	Последовательные матричные операции	Зависит от оборудования и длины последовательности	Растёт с длиной	Ограничена последовательной зависимостью	Работа с временными зависимостями	Трудности обучения длинной памяти
Трансформер	Последовательность токенов	Через позиционное кодирование и внимание	Полное внимание порядка $O(T^2d)$	Обычно требует значительных вычислений	Высокая для длинного контекста	Хорошая на параллельном оборудовании, но требовательна к памяти	Гибкое моделирование дальних зависимостей	Высокая стоимость внимания
Обычное глубокое обучение	Плотные или структурированные тензоры	Зависит от архитектуры	Хорошо поддерживается GPU и TPU	Высокая эффективность при пакетной обработке	Может быть высокой из-за пакетной обработки	Очень высокая программная зрелость	Качество, инструменты, большие модели	Энергия и память для непрерывных потоков

SNN и CNN

Спайковая свёрточная сеть сохраняет пространственные ядра CNN, но активации заменяются спайковой динамикой:

$I^{(l)}[t]=K^{(l)}*s^{(l-1)}[t].$

SNN не отменяет свёртку. Она изменяет представление активаций и способ вычисления во времени.

SNN и RNN

LIF-нейрон уже обладает рекуррентным состоянием:

$u[t+1]=\beta u[t]+I[t]-V_{\rm th}s[t].$

Поэтому даже прямой слой SNN имеет временную память. Однако классическая RNN передаёт плотное непрерывное состояние, а SNN может передавать разреженные бинарные события.

SNN и трансформеры

Спайковые трансформеры объединяют:

спайковое кодирование;
внутреннюю нейронную динамику;
механизмы внимания;
остаточные связи;
нормализацию.

Если внимание вычисляется обычными плотными матричными операциями, модель может потерять значительную часть нейроморфной эффективности. Энергетическое преимущество зависит от реализации внимания и разреженности.

Преимущества

Временная выразительность

SNN непосредственно моделирует:

время спайка;
интервалы;
порядок событий;
задержки;
адаптацию;
временное накопление.

Разреженные вычисления

При низкой частоте спайков выполняется меньше синаптических операций.

Низкая задержка

Временное кодирование может позволить принять решение после первых информативных событий, не ожидая полного кадра или длинного окна.

Локальное обучение

STDP и трёхфакторные правила могут выполняться рядом с синаптической памятью.

Потоковая обработка

Сеть естественно поддерживает состояние между событиями и не требует повторно обрабатывать неизменившийся вход.

Энергоэффективность на периферии

Сочетание событийных сенсоров, SNN и специализированного процессора уменьшает перемещение данных и может быть эффективно в постоянно включённых системах.

Ограничения

Сложность обучения

Дискретность спайков, рекуррентность и временное разворачивание усложняют оптимизацию.

Временная стоимость

Если сеть использует частотное кодирование и сотни шагов, задержка и число операций могут превысить стоимость обычной ANN.

Разрыв между программным обучением и аппаратным выполнением

Обученная модель может использовать:

высокую точность весов;
операции, отсутствующие на процессоре;
слишком большую связность;
неподдерживаемые задержки;
слишком много состояний.

После отображения на оборудование точность может снизиться.

Ограниченная стандартизация

Платформы различаются:

моделями нейронов;
форматами событий;
разрядностью;
правилами пластичности;
топологией;
программными средствами.

Перенос одной модели между процессорами сложнее, чем перенос обычной сети между GPU.

Проблемы масштабирования обучения

Полный BPTT требует памяти порядка

$O(TN),$

где $T$ — число шагов, а $N$ — число сохраняемых состояний.

Для сокращения памяти применяются:

усечённое BPTT;
контрольные точки;
обратимое вычисление;
локальные потери;
следы пригодности;
онлайн-обучение.

Аппаратные вариации

В аналоговых системах одинаковые параметры модели могут давать разные физические значения. Требуются:

калибровка;
аппаратно-ориентированное обучение;
компенсация шума;
устойчивые модели;
обучение в аппаратном контуре.

Ограниченная биологическая правдоподобность

Использование спайков не делает сеть моделью мозга. Типичные SNN могут игнорировать:

сложные дендриты;
нейромодуляцию;
глию;
структурную пластичность;
многообразие каналов;
метаболические ограничения;
анатомическую организацию.

Сложность честного сравнения

Нельзя сравнивать только число спайков и число операций. Необходимо учитывать:

точность;
задержку;
энергопотребление всей системы;
ввод и вывод;
предварительное кодирование;
размер пакета;
технологический процесс;
разрядность;
стоимость обучения;
стоимость маршрутизации.

Когда применение SNN оправдано

SNN особенно полезны, если:

данные поступают асинхронными событиями;
важна точная временная структура;
устройство работает непрерывно;
энергобюджет ограничен;
требуется малая задержка;
обработка выполняется рядом с сенсором;
нужна локальная адаптация;
активность естественно разрежена.

Обычная нейронная сеть может быть предпочтительнее, если:

вход представляет плотный статический тензор;
доступен эффективный GPU;
энергия не является главным ограничением;
требуется максимальная точность на стандартном наборе данных;
отсутствует нейроморфное оборудование;
временное кодирование не несёт полезной информации;
преобразование в спайки только увеличивает сложность.

Практический порядок разработки

Определить, содержит ли задача событийную или временную структуру.
Выбрать кодирование входа.
Выбрать модель нейрона.
Определить временной шаг и горизонт моделирования.
Выбрать архитектуру и декодер.
Определить способ обучения.
Добавить ограничение спайковой активности.
Сравнить с обычной ANN одинакового размера.
Измерить точность и задержку.
Измерить число спайков и синаптических операций.
Выполнить оценку на целевом оборудовании.
Проверить устойчивость к шуму, пропущенным событиям и вариациям параметров.

Современные направления

глубокие SNN с суррогатными градиентами;
обучение с малым числом временных шагов;
спайковые трансформеры;
локальное онлайн-обучение;
совместное обучение нейронных и синаптических постоянных времени;
обучение задержек;
гибридные ANN–SNN;
событийные графовые сети;
спайковое обучение с подкреплением;
самоконтролируемое обучение событийных данных;
аппаратно-ориентированная оптимизация;
обучение непосредственно на нейроморфном процессоре;
аналоговые вычисления в памяти;
нейроморфные сенсоры нескольких модальностей;
стандартизированное сравнение энергии и задержки;
моделирование дендритных вычислений;
структурная пластичность;
масштабируемые нейроморфные системы.

См. также

Примечания

Литература

Dayan P., Abbott L. F. Theoretical Neuroscience: Computational and Mathematical Modeling of Neural Systems. — Cambridge, Massachusetts: MIT Press, 2001. — ISBN 978-0-262-04199-7
Gerstner W., Kistler W. M., Naud R., Paninski L. Neuronal Dynamics: From Single Neurons to Networks and Models of Cognition. — Cambridge: Cambridge University Press, 2014. — ISBN 978-1-107-06083-8
Gerstner W., Kistler W. M. Spiking Neuron Models: Single Neurons, Populations, Plasticity. — Cambridge University Press, 2002. — ISBN 978-0-521-89079-3
McCulloch W. S., Pitts W. A Logical Calculus of the Ideas Immanent in Nervous Activity // Bulletin of Mathematical Biophysics. — 1943. — Т. 5. — С. 115—133.
Hodgkin A. L., Huxley A. F. A Quantitative Description of Membrane Current and Its Application to Conduction and Excitation in Nerve // The Journal of Physiology. — 1952. — Т. 117. — № 4. — С. 500—544.
Mead C. Neuromorphic Electronic Systems // Proceedings of the IEEE. — 1990. — Т. 78. — № 10. — С. 1629—1636.
Maass W. Networks of Spiking Neurons: The Third Generation of Neural Network Models // Neural Networks. — 1997. — Т. 10. — № 9. — С. 1659—1671.
Bi G. Q., Poo M. M. Synaptic Modifications in Cultured Hippocampal Neurons: Dependence on Spike Timing, Synaptic Strength, and Postsynaptic Cell Type // The Journal of Neuroscience. — 1998. — Т. 18. — № 24. — С. 10464—10472.
Bohté S. M., Kok J. N., La Poutré H. Error-Backpropagation in Temporally Encoded Networks of Spiking Neurons // Neurocomputing. — 2002. — Т. 48. — № 1—4. — С. 17—37.
Izhikevich E. M. Simple Model of Spiking Neurons // IEEE Transactions on Neural Networks. — 2003. — Т. 14. — № 6. — С. 1569—1572.
Brette R., Gerstner W. Adaptive Exponential Integrate-and-Fire Model as an Effective Description of Neuronal Activity // Journal of Neurophysiology. — 2005. — Т. 94. — № 5. — С. 3637—3642.
Florian R. V. Reinforcement Learning Through Modulation of Spike-Timing-Dependent Synaptic Plasticity // Neural Computation. — 2007. — Т. 19. — № 6. — С. 1468—1502.
Lichtsteiner P., Posch C., Delbruck T. A 128×128 120 dB 15 μs Latency Asynchronous Temporal Contrast Vision Sensor // IEEE Journal of Solid-State Circuits. — 2008. — Т. 43. — № 2. — С. 566—576.
Schemmel J., Brüderle D., Grübl A., Hock M., Meier K., Millner S. A Wafer-Scale Neuromorphic Hardware System for Large-Scale Neural Modeling // 2010 IEEE International Symposium on Circuits and Systems. — 2010.
Furber S. B., Galluppi F., Temple S., Plana L. A. The SpiNNaker Project // Proceedings of the IEEE. — 2014. — Т. 102. — № 5. — С. 652—665.
Merolla P. A. et al. A Million Spiking-Neuron Integrated Circuit with a Scalable Communication Network and Interface // Science. — 2014. — Т. 345. — № 6197. — С. 668—673.
Diehl P. U., Cook M. Unsupervised Learning of Digit Recognition Using Spike-Timing-Dependent Plasticity // Frontiers in Computational Neuroscience. — 2015. — Т. 9. — С. 99.
Rueckauer B., Lungu I. A., Hu Y., Pfeiffer M., Liu S. C. Conversion of Continuous-Valued Deep Networks to Efficient Event-Driven Networks for Image Classification // Frontiers in Neuroscience. — 2017. — Т. 11. — С. 682.
Davies M. et al. Loihi: A Neuromorphic Manycore Processor with On-Chip Learning // IEEE Micro. — 2018. — Т. 38. — № 1. — С. 82—99.
Zenke F., Ganguli S. SuperSpike: Supervised Learning in Multilayer Spiking Neural Networks // Neural Computation. — 2018. — Т. 30. — № 6. — С. 1514—1541.
Bellec G., Scherr F., Subramoney A., Hajek E., Salaj D., Legenstein R., Maass W. A Solution to the Learning Dilemma for Recurrent Networks of Spiking Neurons // Nature Communications. — 2020. — Т. 11. — С. 3625.
Pehle C., Billaudelle S., Cramer B., Kaiser J., Schreiber K., Stradmann Y., Weis J., Leibfried A., Müller E., Schemmel J. The BrainScaleS-2 Accelerated Neuromorphic System with Hybrid Plasticity // Frontiers in Neuroscience. — 2022. — Т. 16. — С. 795876.
Richter O., Wu C., Whatley A. M., Köstinger G., Nielsen C., Qiao N., Indiveri G. DYNAP-SE2: A Scalable Multi-Core Dynamic Neuromorphic Asynchronous Spiking Neural Network Processor // Neuromorphic Computing and Engineering. — 2024. — Т. 4. — № 1. — С. 014003.
Intel Labs Taking Neuromorphic Computing to the Next Level with Loihi 22026-07-19.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D0%BC%D0%BE%D1%80%D1%84%D0%BD%D1%8B%D0%B5_%D0%B2%D1%8B%D1%87%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%B8%D1%8F_%D0%B8_%D1%81%D0%BF%D0%B0%D0%B9%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%BD%D0%BD%D1%8B%D0%B5_%D1%81%D0%B5%D1%82%D0%B8»