Нейрокомпьютеры

– максимально возможное значение порога.

Условие возбуждения нейрона примет следующий вид:

P(t) - ?(t) ( 0

(7)

С учетом отмеченных обстоятельств получаем следующую математическую

модель информационных процессов в нервной клетке:

Первое уравнение системы (8) воспроизводит процесс пространственной

суммации возбуждающих и тормозных входных воздействий Vвх(t), поступающих в

момент времени t на все синаптические контакты нейрона. Второе уравнение

моделирует процесс входной суммации входных воздействий в области аксонного

холмика и отражает кумулятивные свойства нейрона. Третье, четвертое и пятое

соотношения описывают процесс генерации спайков с учетом условия

возбуждения нейрона (7), его рефрактерности и формы генерируемых импульсов.

Рассмотренная модель (8) довольно точно отражает современные

нейрофизиологические представления об информационной деятельности нервных

клеток. Кроме того, она проще исходной модели (4), поскольку не содержит

нелинейного уравнения (1). Все это позволяет использовать ее в качестве

основы для построения искусственных нейронов и нейронных сетей,

воспроизводящих подпороговые и надпороговые процессы спайковой активности с

учетом формы нервных импульсов. Воспроизведение рефрактерности и формы

спайков, в свою очередь, весьма актуально при организации биоуправляемых

экспериментов, поскольку организация таких экспериментов предполагает

согласование входных и выходных параметров сопрягаемых естественных и

искусственных нейронов. Однако в случае моделирования информационных

процессов в сетях взаимосвязанных интернейронов, которые не должны

взаимодействовать с естественными нейронами, алгоритм (8), а также

реализующий его искусственный нейрон могут быть существенно упрощены.

Так, с целью упрощения модели (8) прежде всего, учтем тот

экспериментально установленный факт, что ни амплитуда нервных импульсов, ни

их форма не участвуют в кодировании информации, передаваемой от клетки к

клетке. Следовательно, без ущерба для информационной адекватности модели

(8) ее биологическому прототипу спайк Vвых(t) можно аппроксимировать не

функцией (5), а более простым прямоугольным импульсом e(t) единичной

амплитуды и длительности, равной tи. Очевидно, что при этом как сама

модель, так и ее технический аналог заметно упрощается.

Далее учтем и то, что единственным достоверно установленным на

сегодняшний день информативным параметром выходных спайков является

величина их межимпульсных интервалов, т. е. частота следования нервных

импульсов в функции от величины возбуждения нервной клетки.

Таким образом, в качестве выходных величин нервных клеток следует

рассматривать не сами спайки и, естественно, не аппроксимирующие их сигналы

прямоугольной формы e(t), а частоты их следования, которые в свою очередь

отражают степень возбуждения нейрона в каждый момент непрерывного времени

t. Более того, выходная функция Z(t) нейрона может быть представлена при

этом либо в виде частоты следования сигналов e(t), либо непосредственно в

виде аналоговых величин или цифровых кодов, отражающих степень возбуждения

нервной клетки. При таком подходе три последних уравнения математической

модели (8) можно заменить одним уравнением следующего типа:

Z(t) = max{0, k[P(t) - ?п]}, (9)

где Z(t) – частота, пропорциональная возбуждению P(t) - ?п нейрона либо

кодирующая ее аналоговая или цифровая величина; k – коэффициент

пропорциональности; max{0, k[P(t) - ?п]} – функция, выделяющая те интервалы

изменения P(t), на которых справедливо нестрогое равенство P(t)( ?п.

Очевидно, что если функция (9) является выходной, то для

взаимосвязанных и взаимодействующих нейронов значения Z(t) должны служить и

в качестве входных. Обозначая входные величины как xj(t), представим

алгоритм информационных процессов в нервной клетке в виде более простой,

чем (8), но эквивалентной ей математической модели:

где xj(t) – аналог интенсивности входных воздействий, поступающих на j-й

вход нейрона с синаптическим весом (j; V(t) – аналог потенциала,

характеризующего суммарное входное воздействие, получаемое в результате

пространственной суммации; P(t) – аналог мембранного потенциала нейрона; ?п

– аналог постоянного порогового потенциала нервной клетки; ( =1/(; (=(ki ;

ki – коэффициент пропорциональности при V(t); Zmax - максимально возможное

значение Z(t), определяемое абсолютной рефрактерностью моделируемой клетки.

Вводя в систему (10) обозначение возбудимости нейрона в виде функции

y(t) = P(t) – ?п, (11)

получим идеализированную математическую модель информационных процессов в

нервной клетке, которая имеет следующий вид:

где ( ( (?п; ((j(t) – синаптический вес, величина которого может изменяться

во времени под воздействием внешних факторов, например из-за аксо-аксонных

взаимодействий.

Как и в модели (8), первое уравнение системы (12) описывает процесс

пространственной суммации входных воздействий, но не в форме единичных

спайков, а в более общей форме величин, имеющих смысл мгновенных частот их

следования. Второе уравнение описывает закон изменения возбудимости нейрона

y(t), а третье – определяет процесс формирования выходных величин,

характеризующих текущее возбуждение нервной клетки.

Математическую модель (12) можно использовать для построения

нейроподобных элементов и цифровых нейропроцессоров.

3.Модели адаптивных процессов в нейроне

Адаптация, или приспособление к изменяющимся условиям внешней среды,

является одним из наиболее важных свойств всего живого. Это свойство

проявляется не только на уровне всего организма, но и на уровне отдельных

его подсистем, отдельных клеток и внутриклеточных образований. На этом

основании были разработаны модели нейронов, описывающие адаптивные реакции

нейрона. Суть таких реакций заключается в плавном понижении частоты

выходной импульсации в ответ на продолжительное стационарное внешнее

воздействие, имеющее вид ступенчатой функции. Переходная характеристика

адаптивной модели в этом случае соответствует кривой 1 на рисунке 1. Кривая

2 на том же рисунке обозначает реакцию на то же входное воздействие V(t)

неадаптивного нейрона.

Другим типом адаптивных реакций являются так называемые “on”, “off” и

“on–off” ответы нервных клеток. Они наиболее характерны для рецепторных

нейронов зрительного анализатора и возникают при световом раздражении

сетчатки глаза.

По виду переходные характеристики “on”, “off” ответов отличаются от

кривой 1 на рисунке 1 тем, что при возрастании времени t они довольно

быстро стремятся к нулю, а не к некоторой, отличной от нуля, постоянной

величине. Последнее обстоятельство приводит к выводу о возможности

воспроизведения адаптивных “on”, “off” ответов путем дифференцирования

реакций неадаптивного нейрона, а именно кривых типа 2 на рисунке 1.

Действительно, в этом случае выходные импульсные последовательности будут

появляться в моменты начала и окончания ступенчатого входного воздействия,

что и соответствует “on”, “off” ответам нейрона. Легко показать, что такой

простейший механизм адаптивного поведения можно воспроизвести при помощи

математической модели (12) практически без ее усложнения.

Рис. 1. Переходные характеристики.

Пусть суммарное входное воздействие V(t), поступающее на синаптические

входы нейрона, представляет собой ступенчатый сигнал h, определяемый

соотношением:

Тогда при ? = 0 и ( = 1 второе уравнение системы (12) примет вид

Решением уравнения (13) является функция

график которой совпадает с переходной характеристикой неадаптивной модели

нейрона. Именно по этой причине устройство, реализующее алгоритм (12),

может использоваться как искусственный неадаптивный нейрон.

Однако, если в качестве выходной величины неадаптивной модели нервной

клетки использовать не функцию Z(t), а абсолютные значения дифференциалов

dy(t), то выходная реакция такой модели на входное ступенчатое воздействие

будет описываться соотношением

Нетрудно видеть, что график функции (14) качественно не отличается от

переходной характеристики модели, реализующей “on” и “off” ответы

нейронов. Последнее обстоятельство позволяет утверждать, что для

моделирования простейших адаптивных реакций нервных клеток рецепторного

типа достаточно воспроизводить первые два уравнения модели (12), а выходы

организовать в соответствии с получаемым из (12) соотношением

где ( – неизменный во времени порог.

В то же время, по мнению нейрофизиологов, более сложные механизмы

адаптивного поведения нейронов основаны на изменении их пороговых свойств.

В соответствии с другими представлениями изменение порога клетки

происходит в зависимости от изменения входной активности нейрона. Модель,

воспроизводящую второй механизм, называют адаптивной по входу. Очевидно,

что могут иметь место динамические нейроподобные элементы, адаптивные как

по входу, так и по выходу одновременно. Строятся такие модели на основе

следующих рассуждений.

Для построения на основе алгоритма (10) математической модели

адаптивной обработки информации в нейроне будем исходить из того, что, по

мнению физиологов, механизм адаптивного поведения нервных клеток связан с

изменениями порога (. В связи с этим используем уравнение (6), но не для

формирования спайков как в модели (8), а для воспроизведения адаптивных

реакций нейрона. При этом будем полагать, что при адаптации по выходу

мембранный потенциал клетки сравнивается с переменным порогом ((t(, закон

изменения которого имеет вид

Используя уравнение (15) в алгоритме (10), получим нейроподобную

модель с адаптацией по выходу:

В случае адаптации по входу в правой части уравнения (15) вместо Z(t)

необходимо использовать функцию P(t). Поэтому нейроподобная модель с

адаптацией по входу несколько отличается от модели (16) и имеет следующий

вид:

Очевидно, что для модели с адаптацией как по входу, так и по выходу

будем иметь:

В системе уравнений (18) порог ((t) зависит как от входной величины

(2P(t), так и от выходной (1Z(t) активности нервной клетки. Причем полагая

(2 = 0, (1 ( 0, получим модель с адаптацией только по входу. Более того,

при (1 = (2 = (2 = 0 и ((t)–( = y(t) получим исходную неадаптивную модель

(10).

Иными словами, модель (18) более универсальна, чем неадаптивная модель

(10), и по этой причине может быть использована для построения

искусственных нейронов, воспроизводящих как адаптивные, так и неадаптивные

реакции. Однако структура искусственного нейрона при этом также

усложняется. Поэтому прежде чем решить вопрос о целесообразности подобного

усложнения, необходимо учесть мнение физиологов о том, что нервная клетка

является лишь структурной единицей мозга и в полной мере обладает далеко не

всеми свойствами биологических систем.

В частности, многие физиологи полагают, что адаптивные реакции типа

привыкания, как и многие другие функции нервной ткани, реализуются не

отдельными нейронами, а их совокупностями в процессе совместной

корпоративной деятельности. В связи с этим наряду с понятием нейрона, как

структурной единицы нервной системы, в современной нейрофизиологии

используется понятие о ее функциональной единице, в качестве которой

выступает не отдельный нейрон, а некоторая совокупность нервных клеток,

называемая нейронным ансамблем. В простейшем случае нейронный ансамбль

состоит из двух взаимосвязанных нейронов, один из которых выполняет

основные функции, а второй – вспомогательные (усиление, торможение,

модификация процессов в основном нейроне и т. д.).

При таком подходе систему уравнений (18) можно рассматривать как

модель информационных процессов не в отдельной клетке, а в гипотетическом

двухнейронном ансамбле, основной нейрон которого реализует алгоритм (10), а

вспомогательный воспроизводит процесс модификации порогового потенциала

основного нейрона в функции от его входной и выходной активности. Алгоритм

вспомогательного нейрона при этом может быть представлен в следующем виде:

где x1 = P(t) – пространственный потенциал дендритного дерева основного

нейрона, поступающий на вспомогательный нейрон при помощи дендритных

связей; x2 = Z(t) – выходная активность основного нейрона, заводимая на

вспомогательный нейрон при помощи аксосоматической связи; (п – порог покоя

вспомогательного нейрона, совпадающий с порогом покоя нейрона основного;

W(t) – соматический выход вспомогательного нейрона, поступающий на сому

основного нейрона через сомасоматический контакт.

С учетом алгоритма (19), модель информационных процессов в основном

нейроне принимает вид:

Таким образом, с целью воспроизведения адаптивных реакций вместо

усложнения структуры отдельного искусственного нейрона можно идти путем

создания адаптивных нейроподобных ансамблей, состоящих из устройств,

реализующих более простую неадаптивную модель (10), (12). Важная

особенность этой модели состоит в том, что на ее основе могут строиться не

только искусственные нейроны и нейроподобные ансамбли с адаптивными

реакциями типа “on”, “off” ответов и функцией привыкания, но и такие

субклеточные информационные процессы, как облегчение синаптической

передачи.

Суть облегчения заключается в том, что при увеличении интенсивности

входных воздействий на некоторый синапс происходит повышение его

интенсивности, т. е. повышается его способность к еще более интенсивной

передаче возбуждений на постсинаптическую мембрану. И, наоборот, при

уменьшении интенсивности входных воздействий (при уменьшении использования

синапса в некоторой нейрональной информационной цепи) его эффективность

падает. Модификацию синаптической передачи можно связать с такими

изменениями синаптических весов (j , при которых все величины (j

становятся прямо пропорциональными частотам следования соответствующих

входных импульсаций xj(t). Тогда интенсивность синаптической передачи будет

соответствовать идее облегчения, т. е. при увеличении интенсивности входных

воздействий соответствующие коэффициенты (j будут увеличиваться, а при ее

уменьшении – уменьшаться.

В качестве математической модели данного процесса можно использовать

уравнение, подобное (15), но записанное относительно переменного во времени

синаптического веса (j (t):

где (с – постоянная времени изменения синаптического веса; (п –

синаптический вес покоя (при отсутствии x(t)).

Если в уравнении (20) положить x(t) = h, где

то его решением будет служить функция

Из выражения (21) следует, что

т. е. для больших x синаптический вес больше, для меньших – меньше.

Иными словами модель (20) действительно может служить моделью такого

процесса, как облегчение синаптической передачи.

Резюмируя изложенное приходим к выводу, что модели учитывающие

пространственно-временную суммацию, т. е. модели типа (10), (12) являются

достаточно универсальными и могут быть положены в основу построения

различных нейроподобных элементов, ансамблей и сетей.

4.Формальные нейроны

Наиболее простой физически реализуемой информационной моделью нервной

клетки является формальный нейрон (ФН). В основе построения формальных

нейронов лежит представление о нервной клетке как о логическом элементе,

работающем по принципу «все или ничего». Предполагается, что между клетками

возможны аксо-дендритные синаптические взаимодействия. Входные и выходные

спайки аппроксимируются при этом единичными импульсами прямоугольной формы

e(t) или единичными потенциалами и считается, что выходная функция является

логической функцией от входных булевых переменных, а также от синаптических

весов (j(t)=(j и порога (п, принимающих целочисленные значения.

Обычно формальный нейрон определяется как пороговый логический элемент

со следующими основными свойствами:

1. Он имеет N синаптических входов, которые могут быть возбуждающими

((j>0) или тормозными ((j0 цифровой нейроподобный

элемент выполняет функции генератора величин Zi+1(t=kyi(t, т. е. выполняет

функции нейрона, а при (t=0 превращается в элемент памяти. В последнем

случае величина yi хранится в регистре ЦНЭ без изменения. Для ее считывания

необходимо положить k=1, (j=0, (=0, (=0 и подать (t=1, а для записи новой

информации на одном из входов r необходимо в течение одного шага

интегрирования иметь синаптический вес (r=1, а коэффициенты (j (j(r)

синаптических весов остальных входов – равными нулю, (=0, (=0, (t=1.

Следует отметить и еще одну особенность рассматриваемого алгоритма.

Ее суть состоит в том, что при 0(yi(1, (=0, (=1, (j({0, 1}, (t({0, 1},

k({0, 1}, xji({0, 1}, Zi+1({0,1} цифровой нейроподобный элемент,

реализующий алгоритм (27), в функциональном отношении превращается в схему,

выполняющую следующее логическое выражение:

Последнее обстоятельство интересно в том отношении, что открывает

принципиальную возможность построения нейроподобных сетей, состоящих из

цифровых динамических нейронов, позволяющих при некоторых условиях

выполнять чисто алгебраические соотношения, свойственные логическим

моделям.

Иными словами, разностный алгоритм (27) цифрового нейроподобного

Страницы: 1, 2, 3, 4