Ученые из Франции построили математическую теорию обучения живых организмов при обработке сенсорной информации. Их теория, основанная на рекуррентных нейросетях, расширяет классическую теорию обучения до случая пространственных корреляций. Работа опубликована в журнале Physical Review Letters.
Как сенсорная информация кодируется и обрабатывается нейронами в мозге — одна из самых интересных проблем в вычислительной нейробиологии. Во многих областях мозга активность нейронов сильно зависит от некоторого сенсорного параметра: например, активность нейронов места зависит от ориентации головы и положения животного в пространстве. За последние десятилетия искусственные нейронные сети с непрерывным аттрактором стали привлекательной моделью для объяснения работы нейронов мозга при обработке пространственной информации извне. Такие модели могут объяснить как большая нейронная система может кодировать информацию из низкоразмерного сенсорного пространства и непрерывно обновлять ее с течением времени в соответствии с входными сигналами.
Физики Альдо Батиста (Aldo Battista) and Реми Монассон (Rémi Monasson) из Высшей Нормальной Школы Парижа использовали рекуррентные нейросети (RNN) для объяснения того, как аттракторы могут возникать из многомерной динамики и показали что RNN способны хранить большое количество пространственной информации с высоким разрешением.
Для моделирования своей сети ученые предположили, что каждый нейрон случайно расположен на многомерном торе, который представляет собой окружающую среду, способную влиять на нейроны. Для каждой точки на торе модель извлекает паттерн активности нейронов, таким образом создавая выборку.
Ученые построили теорию оптимального создания и хранения отображений из пространственных параметров в бинарные параметры активности нейронов. Для обучения своей модели исследователи предложили использовать метод опорных векторов и показали стабильность такого процесса обучения.
В результате физики создали математическую модель, которая способна описать, как обучаются живые организмы, и показали ее корректную работу. Авторы предполагают, что их модель способна описать, как происходит развитие грызунов в течение первых недель жизни, основываясь на обширной работе исследователей из США. В дальнейшем ученые собираются прояснить, каким образом развивается нейросеть для того, чтобы учитывать все больше и больше пространственной информации и, в конечном итоге, определить непрерывный аттрактор.
Нейросети иногда применяют и для считывания активности мозга, но пока до чтения мыслей еще очень далеко. Подробнее об этом можно прочитать в блоге «Нейросети научились читать мысли в режиме реального времени. Что? Нет!».