Sam Altman:OpenAI CEO 谈 GPT-4、ChatGPT 和 AI 的未来 | Lex Fridman 播客 #367
Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI | Lex Fridman Podcast #367
频道:Lex Fridman · 时长:2:23:56 · 发布:2023-03-25 · 播放:6793170
简介
Lex Fridman 对 OpenAI CEO Sam Altman 的长篇采访,关于 GPT-4、ChatGPT 和 AI 的未来。主题包括模型作为推理引擎、AI 风险和意识。
HN 为什么推荐
HN 主要引用它来获取 Altman 的具体言论,例如模型作为推理引擎而非数据库,而许多评论者认为采访肤浅或不真诚。
太多的处理能力被用于将模型用作数据库,而不是将模型用作推理引擎 — HN, 2023
大语言模型与生成式 AI · AI 安全、AGI 与影响 · 科技先驱与访谈
中文字幕节选
- 长期以来,我们一直是一个被误解、被严重嘲笑的组织。 就像,当我们创立时,我们宣布了这个组织 在2015年底,我们说我们要致力于AGI。 就像,人们认为我们疯了。 - 是的。- 你知道,就像,我记得当时 一家大型工业AI实验室的一位著名AI科学家, 就像,私下联系个别记者, 就像,你知道,这些人不是很好,谈论AGI是荒谬的 我简直不敢相信你给了他们时间。 就像,那就是这个领域中的小气和怨恨的程度 对于一群新的人说,我们要尝试构建AGI。 - 所以,OpenAI和DeepMind是一小群 勇敢到足以谈论AGI的人 面对嘲笑。- 我们现在不那么被嘲笑了。 - 我们现在不那么被嘲笑了。 以下是与Sam Altman的对话, OpenAI的CEO,该公司是GPT4、ChatGPT、 DALL·E、Codex以及许多其他AI技术背后的公司,这些技术单独和一起 构成了人工智能历史上一些最伟大的突破, 在计算和人类总体上。 请允许我就可能性和危险说几句话 在人类文明历史的当前时刻,AI的。 我相信这是一个关键时刻。 我们站在根本性社会 转型的边缘,很快,没人知道何时,但许多人, 包括我,相信它在我们有生之年。 人类物种的集体智慧 开始相形见绌,在许多数量级上 与AI系统中的通用超级智能相比 我们大规模构建和部署。 这既令人兴奋又令人恐惧。 它令人兴奋,因为可列举的应用 我们知道和还不知道的,将赋予人类 创造、繁荣、摆脱普遍贫困 和当今世界存在的苦难,并成功实现那古老而过于人性的 追求幸福。它令人恐惧,因为超级智能AGI所拥有的力量 可以摧毁人类文明, 有意或无意。 窒息人类精神的力量 以乔治·奥威尔《1984》的极权方式 或《美丽新世界》中以快乐为燃料的群众歇斯底里 在那里,正如赫胥黎所见,人们 爱上了他们的压迫,崇拜那些 剥夺他们思考能力的技术。 这就是为什么与领导者、工程师和哲学家的这些对话, 无论是乐观主义者还是愤世嫉俗者,现在都很重要。 这些不仅仅是关于AI的技术对话。 这些是关于权力的对话, 关于公司、机构和政治体系 部署、制衡这种权力。 关于分布式经济体系,激励 这种权力的安全和人类对齐。 关于部署AGI的工程师和领导者的心理 以及关于人性的历史, 我们在大规模上为善与恶的能力。 我深感荣幸能够认识 并与许多现在在OpenAI工作的人交谈,无论是在麦克风前还是后, 包括Sam Altman、Greg Brockman、 Ilya Sutskever、Wojciech Zaremba、Andrej Karpathy、 Jakub Pachocki以及许多其他人。 Sam 对我完全敞开心扉,这对我来说意义重大, 愿意进行多次对话, 包括一些有挑战性的话题,无论是否在录音。 我会继续这些对话, 既为了庆祝 AI 社区令人难以置信的成就, 也为了对重大决策持批判性视角进行最有力的论证,
HN 上的讨论
摘自他接受 Lex Friedman 的采访:引用他的话 [0][1]:> 你知道,我们训练这些模型的方式有一件有趣的事,我怀疑过多的处理能力——找不到更好的词——被用于将模型当作数据库使用,而不是将模型当作推理引擎使用。这个系统真正令人惊叹的地方在于,对于推理的某种定义——我们当然可以争论,而且有很多定义下这并不准确。但对于某种定义,它可以进行某种推理。而且,你知道,也许像学者、专家以及 Twitter 上的沙发四分卫会说不,它不能。你误用了这个词,你知道,随便吧。但我认为大多数使用过这个系统的人会说,好吧,它正在朝这个方向做些什么。我认为这很了不起。最令人兴奋的是,不知何故,从吸收人类知识中,它产生了这种推理能力。不过,我们会谈到这一点。现在,在某种意义上,我认为这将是对人类智慧的补充。[0] [LINK] [1] [VIDEO] — qwertox, 2023-04
14:17:“我怀疑过多的处理能力被用于将模型当作数据库使用,而不是将模型当作推理引擎使用” [VIDEO] — bluehorseray, 2023-03
Lex Fridman:魅力是危险的东西。沟通风格上的缺陷总体上是特性,而不是缺陷,至少对掌权的人类来说是这样。[VIDEO] — diimdeep, 2023-03
关于意识是世界的基本基底、我们身处梦境或模拟之中的评论很有意思。这正是非二元论者的立场。他说了 Brahman 吗?[VIDEO] — braindead_in, 2023-03
我非常努力地想理解 AI 乐观主义者的观点,但我震惊地发现,很难找到有人回应关于 AI 存在风险的实质性论点。在我看来,你多少必须回应 Bostrom 的《超级智能》[1] 中那些重大而棘手的观点,可能还有 Yudkowsky 的《致命性清单》[2]。它们涉及智能爆炸、工具性趋同、目标正交性,以及我们预期先进 AI 会表现出的各种欺骗行为。再顺便加上 Bostrom 的“脆弱世界”思想实验[3]。如果你不回应这些想法,辩论就没有意义。断章取义地把“AI 会杀死我们所有人”当作稻草人,确实听起来像疯子的散布恐慌。让我惊讶的是,每个人都熟悉“回形针最大化器”这个梗,但我却没有听到任何同样像梗一样简洁但有效的反驳。也许我漏掉了。请给我指个方向。Aaronson 肯定没有回应核心的理论担忧。相反,我们得到的是:> 你暂停的理由是否适用于基本上任何新兴技术——印刷机、无线电、飞机、互联网?“我们还… — hamburga, 2023-03
相关视频
- Jim Simons(完整版访谈)- Numberphile · Numberphile2 · 1:00:43
- Steve Jobs 2005 年斯坦福大学毕业演讲 · JoshuaG · 14:34
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- Alan Kay - 正常被认为有害 · powerfuloutlet · 1:07:26
- 培育语言,作者:Guy Steele · Bill Pugh · 53:31
- 软件设计哲学 | John Ousterhout | Talks at Google · Talks at Google · 1:01:40
- “Uncle” Bob Martin - “编程的未来” · Paul Stringer's Mobile Tech · 1:18:21
- VCF East: Ken Thompson 接受 Brian Kernighan 采访 · Vintage Computer Federation · 1:03:51
- Hamming,“你和你的研究”(1995年6月6日) · securitylectures · 44:02
- 技术演讲:Linus Torvalds 谈 git · Google · 1:10:15
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- Alan Kay 在“Intertwingled”节上对 Ted Nelson 的致敬 · TheTedNelson · 17:33
- Joe Rogan Experience #1035 - Paul Stamets · PowerfulJRE · 2:13:48
- “我对钱不感兴趣” - Ton Roosendaal 2017访谈 · Blender Guru · 1:46:51
- 所有演示之母,由Douglas Engelbart呈现(1968) · Marcel · 1:40:52