От абака до нейрокомпьютера

"За время жизни всего лишь одного поколения рядом с человеком вырос странный новый вид: вычислительные и подобные им машины, с которыми, как он обнаружил, ему придется делить мир. Ни история, ни философия, ни здравый смысл не могут подсказать нам, как эти машины повлияют на нашу жизнь в будущем, ибо они работают совсем не так, как машины, созданные в эру промышленной революции."

Мервин Минский


Бег времени

Человек на протяжении своего существования на земном шаре всегда пытался облегчить свой труд и улучшить условия жизни с тем завидным постоянством, с каким любая система стремится к минимуму энергии. До сих пор остается загадкой, что же является двигателем прогресса: природная лень, присущая каждому homo sapiens, пытливый ум наших предков и современников или что-то иное. Но именно это что-то, будь то лень или нечто другое, и является причиной того, что наши жилища превратились из холодных пещер, увешанных шкурами зверей, в уютные квартиры с центральным отоплением и освещением, а вычислительные средства прошли долгий путь развития от абака до высокопроизводительных машин нового поколения, одной из которых является нейрокомпьютер.


Часть 1. Что такое нейрокомпьютер?

Прежде чем начать разговор о нейрокомпьютерах и о том, что в них такого хорошего, определим как сам термин "нейрокомпьютер", так и понятия, непосредственно связанные с ним.

Нейрокомпьютер - это вычислительная машина нового поколения, реализованная на основе специализированной элементной базы с использованием искусственных нейронных сетей (ИНС).

В свою очередь, ИНС - это обучающаяся система, состоящая из множества однотипных, простых и взаимодействующих между собой процессоров (искусственных нейронов) и имитирующая работу нейронов человеческого мозга. Обучение ИНС по Менделю и Макларену представляет собой "процесс, при котором свободные параметры нейронной сети адаптируются в результате ее непрерывной стимуляции внешним окружением". Таким образом, обучение ИНС, по сути, является аналогом программирования для обычных компьютеров. Методы обучения или, как еще говорят, тренировки или настраивания параметров нейронных сетей получили название нейропарадигм. Самые известные из них приведены в таблице 1. Одним из наиболее часто используемых методов обучения ИНС является алгоритм обратного распространения ошибки.

Таблица 1
Название нейропарадигмы Где применяется
Неокогнитрон Для распознавания рукописного текста и иероглифов
Сеть Хопфилда Для поиска и восстановления данных по их фрагментам
Машина Больцмана Для распознавания изображений и сигналов радаров
Обратное распространение ошибки Для синтеза речи, контроля движения роботов, оценки эффективности капиталовложений

Архитектурой нейрокомпьютера является MSIMD (или MIMD), т.е. структура с параллельными потоками одинаковых команд и множественным потоком данных, которая обеспечивает высокий параллелизм расчетов. Один из отцов теории ИНС М. Минский выдвинул гипотезу, согласно которой производительность обычной параллельной вычислительной системы из N процессоров растет пропорционально логарифму N, в то время как применение нейросистем позволяет увеличить быстродействие не в логарифм N раз, а в N раз.


Часть 2. Взлеты и падения

Если проследить этапы развития нейротехнологий, то можно заметить, что искренний интерес к ним со стороны общественности нередко сменяется прохладцей.

Впервые о создании вычислительных систем, работавших по принципу человеческого мозга, ученые серьезно заговорили в начале второй половины прошлого века. И эти идеи не являлись лишь плодом фантазии нескольких исследователей, а имели под собой четкое научное обоснование. Ведь человеческий мозг, состоящий из сети нейронов (нервных клеток), представляет собой высокоэффективную и параллельную систему обработки информации, смоделировав которую, можно было бы получить компьютер невероятного быстродействия. Вскоре появились работы таких известных ученых, как Д. Хебб, М. Минский, Ф. Розенблат и др., заложившие основы построения искусственных нейронных сетей. Уже в начале 60-х годов были построены первые ИНС, самыми известными из которых являются персептрон (перцептрон, от англ. perceptron) Ф. Розенблатта, "Адалин" В. Уидроу и система "Альфа" А. Г. Ивахненко . Работа кипела, фантазия ученых рисовала совершенно невообразимое будущее.

Однако вскоре М. Минским, профессором Массачусетского технологического института, было доказано, что нейронные сети, построенные на персептронах, хоть и просты с точки зрения технической реализации, но не способны решить большое число разнообразных задач. Это повлекло за собой спад исследований в данной области, продолжавшийся до начала 80-х годов.

Появление новых парадигм (машина Больцмана, сеть Хопфилда и др.), а также стремительно возрастающая потребность в высокопроизводительных ЭВМ способствовали возрождению интереса к ИНС. Идея построения "электронного мозга" получила дальнейшее развитие в трудах Д. Хопфилда, Ф. Уоссермена, Б. Уидроу, Т. Кохонена, С. Гроссберга и других. В середине 80-х годов в США, Японии и странах Европейского Союза стартуют государственные исследовательские программы, направленные на налаживание массового производства нейрокомпьютеров к 2000 году. Самые крупные из них представлены в таблице 2.

Таблица 2
Название программы Страна Время проведения Объемы финансирования
DARPA США 1987-1995 гг. $400 млн.
Human Frontier Япония 1988-1996 гг. $6600 млн.
BRAIN ЕС 1988-1996 гг. $10 млн.

Поддержка со стороны государств и большие инвестиции привели к формированию целой индустрии аппаратного и программного обеспечения для нейровычислителей. Тогда, в 90-х годах, было налажено производство средств моделирования ИНС и созданы первые компьютеры, акселераторы, чипы и программы с приставкой "нейро". По наблюдениям компании Busines Communications Company Inc., в конце 1992 года объем мирового рынка нейротехнологий составлял $120 млн. (hardware) и $50 млн. (software). К 2000 году эти показатели выросли в 5-6 раз.

По оценкам специалистов, в ближайшее время ожидается значительный технологический рост в области проектирования нейронных сетей и нейрокомпьютеров. За последние годы уже открыто немало новых возможностей ИНС, а работы в данной области становятся важным вкладом в промышленность, науку и имеют большое экономическое значение.


Часть 3. Области применения нейрокомпьютеров

Нейровычислители и ИНС могут быть использованы для решения большого класса сложных (плохо формализованных) задач из различных областей человеческой жизни. В частности, нейрокомпьютерные технологии успешно применяются при анализе потребительского рынка, проектировании и оптимизации сетей связи, распознавании речи, управлении ценами и производством, исследовании спроса, обслуживании кредитных карт, медицинской диагностике, обнаружении фальсификаций, распознавании символов и т.д. Типовые задачи, решаемые с помощью нейронных сетей и нейрокомпьютеров, представлены на рисунке.

Пока существует потребность в высокопроизводительных вычислителях, нейрокомпьютеры не останутся без работы. Область их применения расширяется и будет расширяться, потому что эти мощные вычислительные машины являются самым успешными ЭВМ нового поколения.


Часть 4. Нейрокомпьютеры и нейроускорители

Нейрокомпьютер следует отличать от нейроэмуляторов, обычных ЭВМ с массовым параллелизмом, реализующих базовые функции нейрологики на программном уровне, и нейроускорителей, стандартных вычислительных систем со специальными платами расширения, т.к. он представляет собой функционально законченное вычислительное устройство. Другими словами, если вы устанавливаете на вашем ПК программу, моделирующую нейронную сеть, и начинаете решать с ее помощью задачу оптимального распределения денежных инвестиций, то ваш компьютер можно будет назвать нейроэмулятором. Если же вы приобретете плату IBM ZISC 036 и воткнете ее в PCI слот на материнской плате, то ваш компьютер можно будет считать нейроускорителем. Ну а если вы решите променять вашего железного друга на компьютер Synapse-1, то вы станете счастливым обладателем нейрокомпьютера.

На сегодняшний день большую популярность приобрели нейроускорители, выпускаемые в виде плат и модулей, реализованных на базе ПЦОС, ПЛИС или специализированных нейрочипов. Хотя и среди нейрокомпьютеров, выпускаемых в виде конструктивно-автономных систем, есть коммерческие модели. Но таких устройств на порядок меньше. Примеры нейроускорителей: карта IBM ZISC 036, Fujitsu Neuro-Turbo, Siemens Synapse 2 и Synapse 3, DSP60V6 компании "Инструментальные системы", NeuroMatrix NMT403 начно-технического центра "Модуль" и др.

ZISC 036 - нейропроцессор фирмы IBM, ориентированный на решение широкого круга задач от распознавания образов до классификации и содержащий 36 нейронов, каждый из которых представляет собой независимый процессор. Характеристики нейрочипа ZISC 036:

  • 36 нейронов;
  • возможность соединения нескольких процессоров (каскадирования);
  • от 1 до 64 компонент во входном векторе;
  • напряжение питания 5V;
  • потребляемая мощность - 1 W при 16 MHz;
  • частота - 0-20 MHz;
  • CMOS-технология;
  • входной вектор загружается через 3,5 мкс, результат появляется через 0,5 мкс.

Самыми известными "полноценными" коммерческими нейрокомпьютерами являются: Synapse-1 компании Siemens Nixdorf, "Силиконовый мозг" (США) и "Эмбрион" (Россия).

Машины Synapse-1, обладающие скалярной многопроцессорной архитектурой и наращиваемой памятью, используются для распознавания речи, изображений, образов и имеют невероятную скорость самообучения. Характеристика нейрокомпьютера Synapse-1:

  • процессорная плата с матрицей из восьми ПЦОС МА16;
  • производительность 3,2 миллиарда операций умножения (16х16 бит) и сложения (48 бит) в секунду;
  • память весов 128 Мб;
  • устройство данных на базе Motorola MC68040;
  • устройство управления на базе Motorola MC68040.

Сегодня сотни компаний занимаются разработкой и производством нейрочипов, однако только некоторые из них поставляют свою продукцию на рынок. Остальные обслуживают военный комплекс либо создают единичные продукты для специальных целей.


Взгляд в будущее

В настоящее время архитектура фон Неймана уже не может удовлетворить все нарастающие потребности в высокопроизводительных вычислительных системах. Поэтому все большее внимание уделяется принципиально новым способам организации вычислительного процесса, которые позволяют достигнуть максимально возможного параллелизма расчетов. Одной из перспективных на сегодняшний день идей является моделирование работы человеческого мозга, реализованное в нейрокомпьютерах. Однако им придется пройти еще длинный путь в своем развитии, т.к. львиная доля всех наработок в этой области пока остается невостребованной.

Можно предположить, что продвижения в нейробиологии вызовут настоящий прорыв в области нейрокомпьютерных технологий. Многие ученые склонны полагать, что запуск человека в космос или создание водородной бомбы на фоне такого триумфа покажутся не такими уж впечатляющими достижениями, какими мы считаем их сегодня.

Виталий КРАСИЛЬНИКОВ,
[email protected]

Версия для печатиВерсия для печати

Номер: 

47 за 2005 год

Рубрика: 

Вчера
Заметили ошибку? Выделите ее мышкой и нажмите Ctrl+Enter!

Комментарии

Аватар пользователя Красильников Виталий
Комментарии:

Классификацию архитектур см. в статье про пятое поколение ЭВМ в “КВ” №42/2005

ПЦИС - процессор цифровой обработки сигналов

ПЛИС - программируемые логические интегральные схемы

Ссылки:

1) http://aip.mk.ua/cplusp/all_98/1n98y2a.htm

2) http://iit1.mpei.ac.ru/pubkrug1.pdf

3) http://www.citforum.ru/hardware/neurocomp/neyrocomp_01.shtml