自由能原理 — Karl Friston
Free Energy Principle — Karl Friston
频道:Serious Science · 时长:15:13 · 发布:2017-06-16 · 播放:172023
简介
神经科学家 Karl Friston 用 15 分钟讲解自由能原理,涵盖马尔可夫毯、贝叶斯模型证据和全局脑理论。
HN 为什么推荐
作为对 Friston 的“大脑即预测机器”思想的高层次、通俗易懂的介绍。
这里有一个关于这个想法的很好的视频介绍,来自伦敦大学学院的 Karl Friston — HN, 2023
中文字幕节选
自由能原理最初源于系统神经科学,作为一种方式, 一种有原则的方式,来理解 大脑做什么以及如何做。随后, 这些原理被证明如此简单而强大,以至于它们 被应用于各种情境中。因此,人们几乎 可以将自由能原理视为 任何表现出生命特征的生物系统的组织原则。 我这样开头的原因是,有 两条路径来解释或理解自由 能原理。你可以从 19世纪像亥姆霍兹这样的人的视角出发, 试图理解大脑中的无意识推理, 并通过综合分析 和心理学构建一个故事,直到当前 机器学习中令人兴奋的发展——比如 杰弗里·辛顿的亥姆霍兹机。然后 它如何被置于 生成主义或具身认知的语境中。我在概括这些概念, 最终得到自由能原理, 或者你可以从顶层开始,只问 关于活着是什么的非常简单的问题。 如果你活着并且存在, 你必须表现出什么样的行为?事实上, 如果你回答这些问题,你最终 会得到与 遵循历史路径完全相同的答案。 为简洁起见,我将走高层路径。我将从 事物存在这一极简假设出发, 然后尝试展开它,并展示如何 达到大脑作为推理引擎的概念, 有时被称为贝叶斯大脑假说。 大脑是主动构建解释的 器官的最佳例子之一, 通过自身对世界的采样。因此,这种 主动视角非常重要,因为 大脑不仅必须解释 所有感官输入,还必须选择 采样哪些感官输入。它负责 收集信息和证据,以支持自己的 预测和关于世界的信念。但 我讲得太快了,所以现在我必须向你解释 为什么任何存在的系统都会表现得 好像它有一个世界模型,并且试图 为自己的世界模型收集证据。 所以,故事从承认这一点开始:如果你想谈论某事物, 你所谈论的事物与 其他一切之间必须存在分离。如果 没有边界,就没有任何事物, 因为事物与非事物之间 没有区别。从统计学上讲, 这种区别或边界被称为 马尔可夫毯。它只是一种数学方式, 将某个抽象世界系统的状态—— 有机体、文化、生命、细胞、大脑——分为 边界内部的事物,这些事物由 该系统拥有,以及边界外部的事物, 这些事物对系统来说是外在的。所以, 它可以是一个细胞及其环境;它可以是 一个表型;它可以是我和我的环境。 嗯,在任何尺度上,都必须有这种划分。 现在,这种分离的存在本身, 即马尔可夫毯,结合 该系统随时间持续存在的假设, 会告诉你一些关于内部状态行为的相当深刻的道理, 以及构成马尔可夫毯的状态。 这有点抽象,但实际上相当 简单。马尔可夫毯有两个部分。 有感觉状态,它们被定义 仅仅是因为它们不影响外部 状态,但它们确实影响内部状态。 因此,例如感觉信息, 会通过感觉状态介导,从 外部世界进入我的内部世界,我的大脑。 还有活跃状态,它们朝相反 方向。所以,它们影响外部状态,但 不受外部状态影响。它们 实际上依赖于内部状态。 如果把我自己当作我世界的模型,我的 活跃状态就是我当前如何移动, 而我的感觉状态则是我的 光感受器的活动,所有那些感觉器官, 以及我可支配的感觉上皮。
HN 上的讨论
我在硕士阶段研究过类似的东西,关于语言的神经生物学。众所周知,大脑中的阅读回路会预测接下来会出现哪些词——像“高速公路上的果酱让交通变慢”这样的句子不会引起太多活动,而“高速公路上的果酱是粘的”则会,因为“高速公路”使得“果酱”更可能是关于缓慢的交通而不是调味品。(这里可能与LLM有一些有趣的相似之处……)但我们是在视觉皮层中观察,早在大脑甚至感知到单词之前,我们发现即使在那里,根据人们看到的是真实单词(如sheep)还是非单词(如brast),回路也会有预激活。我认为将大脑概念化为统计机器有很多可取之处——从进化角度来说这非常合理。UCL的Karl Friston有一个很好的视频介绍了这个想法:[VIDEO] — frereubu, 2023-03
我发现这次对Karl Friston的采访有助于从高层次理解自由能原理:[VIDEO] — jchook, 2018-11
好吧,所以与其说是关于信息的流动和性质,不如说是关于语义。> 将计算视为一个物理过程,处理关于其环境中细节的“信息”,突出了这一点。你熟悉Karl Friston关于自由能原理的工作吗?[0] 他谈到生物(计算代理)的本质是建模其外部环境并根据该模型行动。基于内部逻辑做出决策需要外部刺激和语义在某种反馈循环中被分析和增强。> 所有这一切的关键是认识到,一旦你将语义和信息处理视为物理过程的问题,你就能看到正确的语义对于产生物理结果是必要的。我想我理解你在说什么,并且它触及了我自己的一些探究。如果你有一个更具体的例子,可能更好地帮助我理解你关于这一点的想法。[0] [VIDEO] — soulofmischief, 2020-07
这与Karl Friston的自由能原理非常契合:[VIDEO] 现在有很多神经科学的研究方向都展示了预测编码。一个很好的例子是句子中常见词与不常见词的使用。如果你用fMRI扫描某人阅读这两个句子:高速公路上的果酱让一切变慢。高速公路上的果酱让一切变粘。当人们读到“粘”这个词而不是该语境中更常见的“慢”时,你会看到活动闪现。理论是,当句子中的一切如预期进行时,几乎不需要更新先前的期望,但当你遇到与先前预测相悖的内容时,这是一个信号,表明需要积极思考某些事情。 — frereubu, 2019-05
相关视频
- 把农场当作生态系统来经营,Gabe Brown 第一部分:土壤健康的五大原则 · Living Web Farms · 2:31:00
- Alvin Lucier - I Am Sitting In A Room · TrilobiteJuice · 45:25
- 1. 人类行为生物学导论 · Stanford · 57:14
- George Lakoff:道德政治 · University of California Television (UCTV) · 58:57
- 斯坦福 Sapolsky 谈美国抑郁症(完整讲座) · Stanford · 52:28
- 身体在想什么:神经系统之外的生物电计算 - NeurIPS 2018 · The Artificial Intelligence Channel · 52:06
- 伟大的色情实验 | Gary Wilson | TEDxGlasgow · TEDx Talks · 16:29
- 控制多巴胺以提升动力、专注力和满足感 · Andrew Huberman · 2:16:31
- 个人成长系列:William Dement博士谈健康睡眠和最佳表现... · Google TechTalks · 59:57
- 乔·罗根体验 #1109 - 马修·沃克 · PowerfulJRE · 1:55:32
- 类比是认知的核心 · Stanford · 1:08:37
- 蛋——一个短篇故事 · Kurzgesagt – In a Nutshell · 8:06
- 掌控你的睡眠,醒来时更清醒 · Andrew Huberman · 1:22:05
- 第 1 集 - 从意义危机中觉醒 - 引言 · John Vervaeke’s Lectern · 59:16
- 酒精对你的身体、大脑和健康的影响 · Andrew Huberman · 2:01:02
- 你实际上与一个沉默的陌生人共享大脑 · CGP Grey · 4:57