«Теории всего» для интеллекта с Девеном Навани.
Всеохватывающие идеи возникают нечасто. Это потому, что они отвечают на спорные, невероятно сложные вопросы.
Теория эволюции Дарвина дала нам ответ на вопрос, существует ли общий предок для всех многоклеточных организмов. Теория Большого взрыва предложила решение загадки возникновения Вселенной. Наш последний квест, создание общего искусственного интеллекта, поставил еще один такой вопрос:
Есть ли организационный принцип для всей разумной жизни?
Может ли кто-нибудь записать набор условий, которые должны выполняться, чтобы вызвать что-то живым? Какое поведение обязательно проявляют биологические существа?
В то время, когда сообщество ИИ отступает от традиционных алгоритмов в области глубокого обучения и обучения с подкреплением, эта линия вопросов привлекает все большее внимание.
Эксперты по искусственному интеллекту считают, что создание настоящего интеллекта требует более глубокого понимания высочайшего стандарта биологического интеллекта, «последнего рубежа» научных открытий: человеческого мозга.
Тем не менее, если бы мозг был достаточно прост, чтобы мы могли полностью понять его механику и описать его так лаконично, то были бы мы слишком глупы, чтобы открыть такой принцип?
Карл Фристон, самый цитируемый из ныне живущих нейробиологов, так не считает. По словам Фристона, быть живым - значит действовать таким образом, чтобы уменьшить пропасть между вашими ожиданиями и вашими сенсорными сигналами. Свою идею он называет принципом свободной энергии.
Я хочу глубже изучить принцип свободной энергии Friston и дать объяснение, которое могло бы способствовать пониманию выше среднего, без всякой математики.
Прежде чем мы начнем, важно помнить, что Фристон рассматривает свой принцип как концепцию «как если бы». Биологическим объектам не нужно сводить к минимуму свободную энергию, чтобы существовать, но они ведут себя и самоорганизуются так, как будто они это делают. Мы хотим избежать понимания этого принципа в слишком редуцирующей манере и, скорее, в качестве рабочей гипотезы.
Еще в 19 веке Гельмгольц объяснил, что мозг можно рассматривать как байесовскую машину вероятностей. Наш мозг, как полагал Гельмгольц, вычисляет и воспринимает вероятностным образом, постоянно делая прогнозы и корректируя убеждения в зависимости от того, что вносят чувства. Мозг стремится минимизировать «ошибку предсказания».
Например, если я считаю, что мне следует встать с постели, и мои чувства говорят мне, что я все еще лежу, мой мозг может разрешить это несоответствие или удивление, изменив мое убеждение. Вместо того, чтобы встать и приготовиться к работе, почему бы не поспать еще?
В некотором смысле идея мозга как «механизма вывода» служит основой принципа свободной энергии Фристона. Свободная энергия - это разница между состояниями, в которых вы ожидаете оказаться, и состояниями, которые ваши чувства сообщают вам о том, что вы находитесь. Разница в том, что принцип свободной энергии предлагает два режима действий для мозга, когда он делает прогноз, который не согласуется с тем, что передают чувства, или когда свободная энергия высока:
- Мозг пересматривает свое предсказание, чтобы его убеждения совпадали с сенсорным вводом. Это идея Гельмгольца, которую мы описали ранее.
- Мозг сигнализирует телу действовать таким образом, чтобы оно находилось в новом состоянии, а новый сенсорный ввод соответствовал ранее существовавшим убеждениям.
Вариант два называется активный вывод, и это ключевое различие между гипотезой байесовского мозга и принципом Фристона.
Возвращаясь к нашему предыдущему примеру, теперь у меня есть другой способ устранить несоответствие. Мой мозг может заставить мои мышцы включиться, чтобы я выбрался из кровати. Теперь мои чувства говорят мне, что я встал с постели, что соответствует моим прежним убеждениям.
С добавлением активного вывода мы можем объяснить не только наши изменяющиеся убеждения и представления, но и мотивы действий, которые предпринимает наше тело.
В конце концов, концепции Гельмгольца и Фристона основываются на концепции отрицательной энтропии, которая никоим образом не является новой.
Второй закон термодинамики подчеркивает необратимость природных процессов. Вселенная стремится к энтропии или растворению. Все биологические системы, от клетки до человеческого мозга, противостоят Второму закону. Принцип Фристона дает правдоподобное объяснение того, как живые существа делают это.
Этот принцип становится действительно убедительным, когда вы думаете о нем как о теории психического заболевания. Шизофреники, например, не могут обновить свое представление о мире после получения сенсорной информации.
На сегодняшний день детище Фристона в значительной степени существует в его исследованиях, возможно, из-за его математической сложности. Проведенный нами здесь анализ, несмотря на его глубину, был поверхностным по сравнению с работами Фристона.
Я вижу перспективу в идее Фристона как объяснение того, как мы ведем себя, но мне особенно приятно видеть, как принцип свободной энергии изменит области глубокого обучения и обучения с подкреплением.
В опубликованной исследовательской статье нет прямой связи между принципом свободной энергии и новым алгоритмом DL / RL. Текущие явные ссылки существуют в виде неформальных исследований на Github или теоретических статей на Medium.
Однако в сообществе ИИ наблюдается тенденция к созданию алгоритмов, которые тесно связаны с идеями минимизации ошибок прогнозирования. Дипак Патхак, доктор философии. Кандидат в Калифорнийский университет в Беркли разработал алгоритм обучения с подкреплением, в котором агент не зависит от внешнего вознаграждения. Вместо этого Патак создает модель обучения на основе любопытства, программируя минимизацию ошибок предсказания в качестве вознаграждения для агента. Как и люди, агент выполняет действия, сводящие к минимуму неожиданность.
Я с нетерпением жду возможности увидеть, как принцип свободной энергии станет главной руководящей силой в области искусственного интеллекта и нейробиологии. Если связь будет установлена, принцип свободной энергии и работа Фристона вполне могут стать ступенькой на пути к общему искусственному интеллекту.
Девен Навани изучает электротехнику, информатику и бизнес-администрирование в Калифорнийском университете в Беркли.
Ссылки:
- Рок, Эйдан. «Эйдан Рок». Pauli Space, 12 апреля 2018 г.
- «Боже, помоги нам, давай попробуем понять Friston о свободной энергии». Slate Star Codex, 5 марта 2018 г.,
- Равив, Шон. «Гениальный нейробиолог, в котором может быть ключ к истинному ИИ». Wired, Conde Nast, 19 ноября 2018 г.,
