Умер пионер нейронных сетей


Дэвид Рамелхарт, один из тех, кому обычно приписывают повторное открытие метода обучения нейронных сетей с обратным распространением, умер в возрасте 68 лет.

Сообществу ИИ Дэвид Рамелхарт наиболее известен тем, что вместе с Джеем Макклелландом представил алгоритм, который вызвал всплеск интереса к нейронным сетям в начале 1980-х годов.

До этого сообщество ИИ отказалось от исследований нейронных сетей из-за анализа, представленного Мински и Папертом, о том, что существует множество очень простых вещей, которым искусственный нейрон не может научиться. В то время эта работа была неправильно понята как означающая, что не стоит работать с искусственными нейронами любого типа. Конечно, правда в том, что это просто указывает на то, что отдельный слой нейронов ограничен в том, что он может изучать, и ничего не говорит о нескольких слоях.

Дэвид Э. Румелхарт, 1942-2011 гг.

В то время несколько исследователей поняли, что несколько слоев искусственных нейронов могут научиться большему, но в отсутствие эффективного алгоритма обучения это рассматривалось как спонтанное и что-то вроде тупика. Рамелхарт и Макклелланд придерживались более оптимистичного взгляда и экспериментировали с небольшими смоделированными нейронными сетями.

Метод обучения, который можно было бы использовать с многослойными сетями, был описан еще в 1969 году, но он по большей части игнорировался сообществом ИИ, все еще находящимся в тисках Минкси и Паперта, которые отвергли искусственные нейроны. Только после публикации в 1987 году статьи Рамелхарта с Хинтоном и Уильямсом в Nature идея о том, что обучение универсальных многослойных сетей не только возможно, но и действенно, стала популярной.

Затем в двухтомной книге Рамелхарта и Макселланда Parallel Distributed Processing (PDP) была представлена общая структура, в которой многоуровневые нейронные сети и алгоритм обратного распространения имели смысл. Он также продвигал идею «распределенного кодирования» – когда вы ищете код, который неэффективен в обычном смысле, но упрощает обучение.

Документ, книга и работа группы PDP изменили способ создания ИИ и привели к подходу машинного обучения, основанному на различных разработках искусственной нейронной сети, которая используется до сих пор. Действительно, многие аналитические методы «больших данных» и даже такое оборудование, как Kinect, были бы невозможны без подхода нейронной сети.

Хотя многие исследователи искусственного интеллекта считают Рамельхарта ученым-компьютерщиком, он был психологом, и большая часть его работы была направлена на понимание того, как работают люди, особенно моделей познания, языка и восприятия. Действительно, премия Дэвида Э. Рамелхарта, премия в размере 100 000 долларов, ежегодно присуждаемая Фондом Глушко-Самуэльсона, нацелена на вклад в «теоретические основы человеческого познания».

Рассказывая о своем коллеге и друге, Джей Макклелланд объяснил:

«Он был очарован идеей, что наш разум работает на субсимволическом уровне». Идея заключалась в том, что мысли возникают из нейронной активности. Они являются следствием взаимодействия нейронов. Он пошел за кулисы, чтобы найти реальную основу наших способностей к мышлению ».

Дэвид Рамелхарт умер 13 марта. Причиной стало осложнение болезни Пика, болезни, похожей на болезнь Альцгеймера.


Добавить комментарий