安德烈·卡帕西——“我们在召唤幽灵,而不是建造动物”

Andrej Karpathy — “We’re summoning ghosts, not building animals”

频道:Dwarkesh Patel · 时长:2:26:08 · 发布:2025-10-17 · 播放:1469394

在 YouTube 观看

简介

Dwarkesh Patel 采访安德烈·卡帕西,讨论强化学习为何有缺陷、AGI 为何可能融入平稳的 GDP 增长、自动驾驶为何耗时如此之久,以及教育的未来。对话时长约两个半小时。

HN 为什么推荐

主要被引用为卡帕西关于智能体、AGI 时间线和 LLM 观点的来源,而非直接推荐。

我刚看了这个最近(而且很棒!)的采访 — HN, 2025

机器学习与深度学习 · AI 安全、AGI 与影响 · 科技先驱与访谈

中文字幕节选

今天我和Andrej Karpathy对话。Andrej,你为什么说这将是 智能体的十年,而不是智能体的一年? 首先,感谢你邀请我。我 很高兴来到这里。你刚才提到的这句话,“这是智能体的十年”, 实际上是对一个已有说法的回应。 我不确定是谁说的,但他们 暗示这是智能体的一年, 关于LLM以及它们将如何演变。 我对此有感触,因为行业内 存在一些过度预测。 在我看来,更准确的说法是智能体的十年。 我们有一些非常早期的智能体,它们非常令人印象深刻,我 每天都在使用——Claude和Codex等等——但我 仍然觉得有很多工作要做。 我的反应是,我们将与这些东西合作十年。 它们会变得更好,这会很棒。 我只是在回应时间线的暗示。 你认为需要十年才能完成什么?瓶颈是什么? 实际上是让它工作。当你谈论 一个智能体,或者实验室所设想的 也许也是我所设想的,你 应该把它想象成一个员工或 一个你雇佣来与你合作的实习生。 例如,你在这里与一些员工合作。 你什么时候更愿意让像Claude或Codex这样的智能体来做那项工作?目前, 当然它们做不到。它们需要什么才能做到? 为什么你今天不做?你今天不做的原因 是因为它们就是不行。它们没有足够的智能, 它们不够多模态,它们不能使用计算机等等。 它们做不到你之前提到的很多事情。它们没有 持续学习。你不能只是告诉它们一些事情,它们就会记住。 它们在认知上有所欠缺,就是不行。 解决所有这些问题大约需要十年。 有趣。作为一个专业播客和远观AI的观众,我很容易 指出缺失的部分:持续 学习缺失,或者多模态缺失。 但我真的没有好的方法来给它设定时间线。 如果有人问持续学习需要 多长时间,我没有先验知识来判断 这是一个应该需要5年、10年还是50年的项目。为什么是 十年?为什么不是一年?为什么不是50年? 这涉及到我的一些 直觉,以及根据我自己在该领域的经验 进行一些推断。 我在AI领域已经近二十年了。 大约15年,不算太长。 你之前请了Richard Sutton,他在这个领域更久。 我确实有大约15年的经验,看到人们 做出预测,以及这些预测的结果如何。 我也在工业界待过一段时间,我做过研究, 也在工业界工作过一段时间。 我从中得到了一些普遍的直觉。 我觉得这些问题是可处理的,它们 是可以克服的,但仍然困难。 如果我平均一下,感觉就是十年。 这很有趣。我想听听不仅是历史, 还有在房间里的人们在各个不同的突破时刻 感觉即将发生什么。 他们的感觉是 过于悲观还是过于乐观? 我们要不要一个一个地过一遍? 这是个很大的问题,因为你说的是 15年间发生的事情。AI如此奇妙,是因为出现了 一系列地震般的转变,整个 领域突然之间就变了一副模样。 我大概亲身经历过两三次这样的转变。 我仍然认为还会继续出现 一些转变,因为它们几乎以惊人的规律性到来。 当我职业生涯开始,当我开始研究

HN 上的讨论

用电力的类比是合理的,但 ChatGPT 在发布后 5 分钟内就达到了大约 110% 的全球采用率。基础设施和电器必须跟上,但互联网已经全部建好了。所以我认为在几年后看结果是合理的。Andrey Karpathy 在与 Dwarkesh Patel 的采访中[0]著名地提到,计算机没有出现在 GDP 数字中,没有明显的跳跃或斜率变化。即使 Excel 如此之快,人们可能也没有充分发挥其潜力,而机构可能还在积极抵制变革。我的看法是,普通大众还没有找到生产力杠杆,他们处于乐于下拉并自动生成 Excel 日期列表的阶段,但不知道调整图表或阅读函数文档,更不用说 VBS 脚本了。而爱好者(开发者)社区我认为正在从内部工具和随意尝试的应用开始采用,但大的成功需要时间在其他方面成熟(设计、可靠性、用户反馈、营销……),这又回到你所说的,那需要时间。产品市场契合不会自动通过偶然或好的提示发生,我愿意这… — graeber_28927, 2026-03
他在 Dwarkesh 的采访中给出了更新:[VIDEO] 关于时间线没有太多细节——只是说他正在做这件事。 — meken, 2025-11
你可以用相关YouTube视频([VIDEO])的标题?安德烈·卡帕西——“我们在召唤幽灵,而不是建造动物” — moozilla, 2025-10
不是批评,但我刚看了这个最近(且很棒!)的采访,他在其中赞扬书面语言有多么特别。至少这是我的收获。仍在努力理解这种视觉编码器方法。他比我聪明多了![VIDEO] — bahmboo, 2025-10
这真是一个有趣的巧合,因为我刚看了一个安德烈·卡帕西的播客,他就是在“一年内完全自动驾驶”的圣人预测开启他们15年以上(且仍在继续)长跑时负责自动驾驶项目的人。如今,他已经转向预测AGI需要10年,而且,信不信由你,他还引用自己15年来做出准确预测的记录(如果你想笑一笑,下面有时间戳链接)。[VIDEO] — jimbo808, 2025-10

相关视频