Andrej Karpathy:软件正在再次改变

Andrej Karpathy: Software Is Changing (Again)

频道:Y Combinator · 时长:39:31 · 发布:2025-06-19 · 播放:2647436

在 YouTube 观看

简介

Andrej Karpathy 在 AI Startup School 上的主题演讲,阐述了软件 1.0、2.0 和 3.0,将 LLM 视为实用工具、晶圆厂和操作系统。它涵盖了 LLM 的怪癖、部分自主应用以及在生成和验证循环中保持人类参与。

HN 为什么推荐

HN 主要引用它作为 Karpathy 用英语编程的框架和先生成后验证工作流的来源,少数批评者认为它炒作。

我喜欢 Andrej Karpathy 关于 AI 时代软件的演讲。 — HN, 2025

软件实践、开源与职业 · 大语言模型与生成式 AI · 科技先驱与访谈

中文字幕节选

请欢迎特斯拉前AI总监Andrej Karpathy。 [音乐] 大家好。[音乐] 哇,这里好多人。 大家好。嗯,好的。是的。所以今天我很兴奋能在这里和大家聊聊AI时代的软件。 我听说你们中很多人是学生,比如本科生、硕士、 博士生等等。你们即将进入这个行业。 我觉得现在进入这个行业,其实是一个极其独特且非常有趣的时机。 现在进入这个行业。 我认为根本原因在于,嗯,软件正在再次发生变化。 我说“再次”,是因为我其实已经做过这个演讲了。 嗯,但问题是软件一直在变。 所以我其实有很多素材可以创作新的演讲,而且我认为它正在发生相当根本性的变化。 大致来说,软件在如此根本的层面上已经有70年没有太大变化了。 在如此根本的层面上已经有70年没有太大变化了。 然后我觉得在过去几年里,它相当迅速地变化了大约两次。 所以有大量的工作要做,大量的软件需要编写和重写。 所以让我们来看看软件这个领域。 如果我们把它看作是软件的地图,这是一个非常酷的工具,叫做GitHub地图。 叫做GitHub地图。 嗯,这就像是所有已编写的软件。 呃,这些是给计算机的指令,用于在数字空间中执行任务。 所以如果你放大这里,这些都是不同类型的代码仓库, 这就是所有已编写的代码。 几年前我观察到,嗯,软件正在发生变化, 出现了一种新型的软件,我当时称之为软件2.0。 当时的想法是,软件1.0是你为计算机编写的代码。 软件2.0基本上是神经网络,特别是神经网络的权重。 你并不是直接编写这些代码,你更多是在调整数据集, 然后运行优化器来创建这个神经网络的参数。 来创建这个神经网络的参数。而且我认为当时 神经网络被视为只是一种不同的分类器,比如决策树之类的。 决策树之类的。所以我认为,嗯,我认为 这个框架要合适得多。而现在我们实际上有了 类似于软件2.0领域的GitHub。我认为Hugging Face基本上就是软件2.0中的GitHub。 Face基本上就是软件2.0中的GitHub。 还有Model Atlas,你可以可视化那里编写的所有代码。 顺便说一下,如果你好奇的话,那个巨大的圆圈,中间的点, 这些是Flux的参数,那个图像生成器。 所以每当有人在Flux模型上微调时,你基本上就在这个空间里创建了一个git提交, 呃,你就创建了一种不同的图像生成器。 所以基本上,软件1.0是给计算机编程的计算机代码。 软件2.0是给神经网络编程的权重。 呃,这里是一个AlexNet图像识别神经网络的例子。 到目前为止,我们熟悉的所有神经网络,直到最近, 都是固定功能的计算机,比如图像到类别之类的。 我认为改变了的,而且我认为是相当根本性的变化是, 神经网络通过大型语言模型变得可编程了。 所以我认为这非常新、非常独特。 这是一种新型的计算机,所以在我看来,它值得一个新的 designation,即软件3.0。 designation,即软件3.0。

HN 上的讨论

我做过一个 vibe coding 的业余项目,我只是给 AI 指令说明我想要什么,使用基于角色的方法让代理生成或修复代码。效果相当不错。谁知道 10 到 20 年后软件工程领域会如何变化?我很喜欢 Andrej Karpathy 关于 AI 时代软件的演讲。[VIDEO] — MangoCoffee, 2025-08
是的,绝对是这样,但我很确定他只是说 vibe coding 是可能的,并且是一件有趣的事情,可以尝试看看你能走多远(这是真的,它能做一些令人惊讶的事情)并不是说公司应该真的尝试“vibe code”生产软件。两个出版商和三个作者未能理解“vibe coding”的含义 - [LINK](我想 Karpathy 在这个视频中解释了他的意思,虽然我忘了细节:软件正在改变(再次)[VIDEO])这个短语完全被断章取义了,可能是因为这是人们想要相信的。他们想相信困难的事情现在变得容易了,他们可以以此赚取或节省很多钱。 — chubot, 2025-09
啊,我可能应该列出一些我开发时所基于的“假设”:1) 关于“生成是学习发生的方式”这一说法,我依据的是这个:[LINK] 当然,那篇文章指的是检索是我们学习的主要方式之一,当然学习包含许多维度。但似乎不言而喻的是,在主动解决问题(即“生成”)时,检索大量发生,而在被动学习(即只是阅读/消费信息)时则较少。从个人经验来看,我总是注意到通过实践比仅仅消费文档学到的更多。但是的,我承认这个假设和我个人的经验/偏见对我帮助很大…… 2) 关于“最佳 AI 生产力流程”(AI 生成 > 人类验证 > 循环),我使用的是 Karpathy 上个月在 AI 创业学校演讲中描述的生产力循环,这里:[VIDEO] 这有助于让它更具体吗,Swyx(在这里点名你,因为我相当确定你为你的 handle 设置了社交监听器;)?很想听听你基于个人经验的直接想法。完全披露:我并不想过于学术化。老实说,我真的想得到一个… — billmalarky, 2025-08
>> 然而,反复出现的一个主题是,LLM 在某种程度上不受那些将其作为服务提供的公司的控制。演讲者特意指出了三个利益相关者(政府、公司、“普通人”),以及 LLM 产品如何不受政府控制。这有点不诚实。> 我不认为那是他说的,他是在指出第一批客户和用途。我引用的演示部分大约从 12:50 开始[0]。以下是所说的内容:我写过这个特别的性质,这次让我觉得非常不同。那就是 LLM 像翻转了技术扩散的方向,通常是技术中存在的。所以例如电力、密码学、计算、飞行、互联网、GPS,许多新的变革性技术尚未出现。通常政府和企业是第一批用户,因为它是新的、昂贵的等等,只有后来才扩散到消费者。但我觉得 LLM 有点像是翻转了。所以也许早期计算机都是关于弹道和军事用途,但有了 LLM,都是关于如何煮鸡蛋之类的。这确实像我的很多用途。所以对我来说真的很迷人,我们有一个新的神奇计算机,它就像在帮我煮鸡蛋。它不是帮助… — AdieuToLogic, 2025-06
他在这个时间戳使用的这个“clerk”库是什么,用来告诉他该做什么?[VIDEO] Gemini 通过截图或上下文找到了它:[LINK] 这是他在 MenuGen 上用于登录的:[LINK] — beacon294, 2025-06

相关视频