Обучение физике нейронных сетей избавляет от «хаотической слепоты»


Исследователи из Университета штата Северная Каролина обнаружили, что обучение физике нейронных сетей позволяет этим сетям лучше адаптироваться к хаосу в их среде. Эта работа имеет значение для усовершенствованных приложений искусственного интеллекта (ИИ), от медицинской диагностики до автоматизированного пилотирования дронов.

Нейронные сети — это продвинутый тип ИИ, в значительной степени основанный на том, как работает наш мозг. Наши естественные нейроны обмениваются электрическими импульсами в зависимости от силы их связей. Искусственные нейронные сети имитируют это поведение, регулируя числовые веса и смещения во время тренировок, чтобы минимизировать разницу между их фактическими и желаемыми результатами. Например, нейронную сеть можно обучить распознавать фотографии собак, просматривая большое количество фотографий, делая предположение о том, принадлежит ли фотография собаке, видя, как далеко она находится, а затем корректируя ее вес и смещения до тех пор, пока они не появятся. ближе к реальности.

Недостатком такого обучения нейронной сети является так называемая «слепота к хаосу» — неспособность предсказать хаос в системе или отреагировать на него. Обычный ИИ слеп к хаосу. Но исследователи из Лаборатории нелинейного искусственного интеллекта (NAIL) штата Северная Каролина обнаружили, что включение функции Гамильтона в нейронные сети позволяет им лучше «видеть» хаос в системе и соответствующим образом адаптироваться.

Проще говоря, гамильтониан воплощает в себе полную информацию о динамической физической системе — общее количество всех присутствующих энергий, кинетических и потенциальных. Представьте себе качающийся маятник, перемещающийся во времени взад и вперед в пространстве. А теперь посмотрите на снимок этого маятника. Снимок не может сказать вам, где находится маятник на своей дуге или куда он пойдет дальше. Обычные нейронные сети работают по снимку маятника. Нейронные сети, знакомые с гамильтоновым потоком, понимают движение маятника в целом — где он находится, где он будет или может быть, и энергии, участвующие в его движении.

В рамках экспериментального проекта команда NAIL включила гамильтонову структуру в нейронные сети, а затем применила их к известной модели звездной и молекулярной динамики, называемой моделью H & eacute; non-Heiles. Гамильтонова нейронная сеть точно предсказывала динамику системы, даже когда она перемещалась между порядком и хаосом.

«Гамильтониан — это действительно« особый соус », который дает нейронным сетям способность изучать порядок и хаос», — говорит Джон Линднер, приглашенный исследователь в NAIL, профессор физики в Колледже Вустера и автор статьи, описывающей работа. «С помощью гамильтониана нейронная сеть понимает основную динамику так, как не может обычная сеть. Это первый шаг к физически подкованным нейронным сетям, которые могут помочь нам решить сложные проблемы».

Работа опубликована в Physical Review E и частично поддерживается Управлением военно-морских исследований (грант N00014-16-1-3066). Первым автором является постдокторант штата Северная Каролина Аншул Чоудхари. Билл Дитто, профессор физики в NC State, является директором NAIL. Приглашенный исследователь Скотт Миллер; Судешна Синха из Индийского института научного образования и исследований Мохали; и аспирант штата Северная Каролина Эллиот Холлидей также внесли свой вклад в работу.


Добавить комментарий