理查德·费曼:机器能思考吗?

Richard Feynman: Can Machines Think?

频道:Lex Clips · 时长:18:27 · 发布:2019-11-26 · 播放:2537776

在 YouTube 观看

简介

理查德·费曼 1985 年讲座问答的节选,讨论机器是否能思考。他讨论了定义计算机永远无法做到的事情的困难,并将机器智能与不模仿动物的机器进行比较。

HN 为什么推荐

HN 将其用作关于 AI、推理和 AGI 辩论中的早期权威观点。

很难找到某种方式,相当精确地定义我们能做而计算机永远无法做到的事情。 — HN, 2025

AI 与数据(其他) · 基础物理学 · 意识与认知

中文字幕节选

这是一段关于人工智能主题的问答摘录,出自 理查德·费曼1985年9月26日的一场讲座。我录下了观众的提问, 因为原问题几乎听不清。问题是:你认为是否会有 一种机器能像人类一样思考,并且比人类 更聪明?首先,像人类一样思考,我会说不会,我稍后会解释 为什么我说不会;其次,它们比人类更聪明,这是一个 需要定义智能的问题。如果你问我,它们下棋是否比任何人 类可能达到的水平都更好,是的,总有一天我会让你看到。现在它们 已经比大多数人类下棋更好了。顺便说一句,我们总是 做的一件事就是,我们希望机器不仅比我们更好,而是比任何人都好。 如果我们发现一台机器下棋比我们好,它并不会 让我们太印象深刻,我们会一直说,那它遇到大师级 棋手会怎样?我们想象我们人类就相当于大师,一切都 对,机器必须在最好的人所做的一切事情上,在最高水平上 都比人更好,好吧,但这对机器来说很难。不过关于 是否让它像机器一样思考的问题,我的观点基于 以下想法:我们试图用我们拥有的材料尽可能高效地 制造这些东西。材料与神经等不同。如果我们 想制造一个能在地面上快速奔跑的东西,我们可以观察 猎豹奔跑,我们可以尝试制造一台像猎豹一样奔跑的机器,但 制造一台带轮子的机器更容易,用快速轮子之类的东西,或者制造一个 在地面上方空中飞行的东西。当我们制造鸟时,飞机并不像鸟一样飞, 它们会飞,但不像鸟那样飞,好吧,所以它们不扇动翅膀,确切地说, 它们前面有一个旋转的装置,或者更现代的 飞机有一个管子,你加热空气然后从后面喷出,喷气 推进,喷气发动机有内部旋转的风扇等等,它使用汽油, 这不同,对吧。所以毫无疑问,后来的机器不会 像人那样思考。在这个意义上,关于智能,我 认为完全一样。例如,它们不会像我们一样做算术, 但它们会做得更好。让我们以数学为例,非常 基础数学,算术,它们做算术比任何人都好,快得多 而且方式不同,但本质上是一样的,因为最终数字是 等价的,对吧,所以这是一个很好的例子,说明我们永远不会改变它们做 算术的方式,让它更像人类,那将是倒退,因为 人类做的算术是缓慢、笨拙、混乱且充满错误的,而 这些家伙很快。如果比较计算机能做什么和人类能做什么,我们 发现以下相当有趣的比较。首先,如果我给你一个 人类一个问题,像这样,我要你把这些数字还给我,每隔一个, 按相反顺序,请。现在,我擅长一系列数字,我想要 它们给你,你没给我一个,还给我按相反顺序,每隔一个,我会告诉 你,我会让你容易些,只要把数字按我给你的方式还给我, 你准备好了吗?一七三九 二六五八三 一七二六三,有人能 做到吗?现在,那不超过二十或三十个数字, 但你可以给计算机五万个这样的数字,在几秒钟内确认任何相反顺序, 它们的总和,用它们做不同的事情等等,它不会忘记 它们很长时间,所以有些东西计算机做得 比人类好得多,你最好记住这一点,如果你比较机器 和人类,但人类必须为自己做的事情,他们总是这样做,他们

HN 上的讨论

相关——几十年前,理查德·费曼像老板一样讨论 AI。他讨论了文章中用 Haar 方法解决的确切问题,但来自他的时代。他提到了莱纳特,他是 OG,Yann LeCun 的“LeNet”可能就是以他命名的(文章中提到)。[VIDEO] — EGreg, 2024-10
不。我并不“感受到AGI”。我认为AGI是一个愚蠢的追求,就像让飞机扇动翅膀一样。费曼在80年代就说对了:[VIDEO] 我认为未来是大量的渐进式改进,这些改进会在各处复制,人类在几乎所有领域都会被超越,届时他们不再相互依赖。至于LLM,是的,我认为它们最有资格判断某个代码或发明是否新颖,因为它们经过了海量训练。例如,如果基于现有技术进行训练,它们可以比专利审查员强得多。你不习惯的是,LLM被喂入一些你从统计/启发式角度预期是普通水平,但实际上是多年工作的精炼成果的内容。LLM会崩溃,你会感到惊讶。你以为这是提示词的原因。提示词变了,最终结果是一样的(滚动到底部)。我想看看基础LLM能否用作交易流和评估实际项目的良好初筛工具。 — EGreg, 2025-11
这取决于假设 ChatGPT 不思考,这显然是错误的。见鬼,费曼在 1985 年就说过同样的话。[VIDEO] — lostmsu, 2025-10
好吧,你必须定义你所说的“智能”是什么意思。我认为只是时间不够,我们可以采用当前的 LLM 技术,把它放在一个管道中,包括 24/7 检查工作和建立知识库。很多你认为的“新原创想法”只是像提示 LLM“想出 20 个原创变体”或“20 种原创方式组合”它已经训练过或已添加到其上下文中的构建块。如果你足够频繁地这样做,并确保运行验收测试(例如单元测试或你领域中的任何东西),那么你真的可以走得很远。事实上,你也可以生成测试本身。本质上缺少的是自主增量改进,涉及验收测试和策展,而不仅仅是生成。就像 GAN 在生成新颖图像时所做的那样。“卓越的模式匹配并不意味着理解。”——你必须定义你所说的“理解”是什么意思。我认为我们必须重新审视约翰·塞尔的“中文房间”论证。毕竟,如果房间里的人使用的书是中文训练的结果,那么“整个中文房间”连同书和操作员可以说“理解”中文。这不仅仅是模式匹配,而是模型中的涌现… — EGreg, 2025-07
当然,但意图是非常多变的东西。考虑 IT 运维中的零点击和单点击部署。对于单点击部署,你需要一切自动化,但启动信号仍然由人类给出。对于零点击,你将有一个部署策略——人类决策现在完全不在关键路径上,只在编写和后续编辑该策略时发挥作用。然后你也可以生成这些策略,等等。同样可以应用于 AI。你可以有预设的提示,不断精炼以编码你的意图和偏好,然后只需单击使用它们。但你也可以构建一个框架,生成提示并持续监控趋势和整个世界,以任何任意标准(可能是它自己随机甚至变化的選擇),然后遵循它:一个奖励策略。然后像常规 IT 一样,你可以继续在此基础上叠加。因此,我不认为意图必然是区分点,而是经验和人类意图的共享理解。人们有各种个人、任意的偏好,经历着任意和无尽差异的生活,然后从中汲取来创造。确实,这永远不会被复制,正是因为我说过的:这是人类作为人类,这赋予他们一个独特的、不可剥夺的地位,按定义。就像如果我们… — perching_aix, 2025-05

相关视频