达里奥·阿莫代伊:Anthropic CEO谈Claude、AGI与AI及人类的未来 | Lex Fridman播客第452期
Dario Amodei: Anthropic CEO on Claude, AGI & the Future of AI & Humanity | Lex Fridman Podcast #452
频道:Lex Fridman · 时长:5:15:00 · 发布:2024-11-11 · 播放:1843515
简介
约五小时的Lex Fridman播客,嘉宾为Anthropic CEO达里奥·阿莫代伊,以及阿曼达·阿斯克尔谈Claude的性格和克里斯·奥拉谈机制可解释性。内容涵盖Claude、AGI和AI的未来。
HN 为什么推荐
主要被引用为Anthropic领导人言论的来源,如对AI进展和谄媚行为的看法。
大语言模型与生成式 AI · AI 安全、AGI 与影响 · 科技先驱与访谈
中文字幕节选
- 如果你外推我们迄今为止的曲线,对吧? 如果你说,嗯,我不知道,我们开始达到博士水平, 去年我们还处于本科水平, 前年我们还处于高中生的水平。 再次,你可以对在哪些任务上吹毛求疵 以及为了什么,我们仍然缺少模态, 但这些正在被添加,比如计算机使用被添加了, 比如图像生成被添加了。 如果你只是粗略地看一下这些能力增长的速度, 它确实让你觉得我们会在2026年或2027年达到那里。 我认为仍然存在100年内不会发生的世界。 那些世界,那些世界的数量正在迅速减少。 我们正在迅速耗尽真正令人信服的阻碍,真正令人信服的理由为什么 这不会在未来几年内发生。 扩展速度非常快。 就像我们今天做这个,我们制作一个模型,然后部署数千个, 也许数万个实例。 我认为到那时,你知道,肯定在两到三年内, 无论我们是否有这些超级强大的AI,集群将达到规模 你将能够部署数百万个这些。 我对意义持乐观态度。 我担心经济和权力集中。 那实际上是我更担心的,权力滥用。 - 而AI增加了世界上的权力总量, 如果你集中这种权力 并滥用这种权力,它可以造成不可估量的损害。 - 是的,这非常令人恐惧。 这非常令人恐惧。 - 以下是与Dario Amodei的对话, Anthropic的CEO,创建Claude的公司 目前并且经常在大多数LLM基准排行榜上名列前茅。 除此之外,Dario和Anthropic团队一直直言不讳地倡导 非常认真地对待AI安全话题,并且他们继续发表 关于这个和其他话题的许多引人入胜的AI研究。 之后我还邀请了Anthropic的另外两位杰出人士。 首先是Amanda Askell,她是一位研究员 致力于Claude的对齐和微调, 包括设计Claude的性格和个性。 有几个人告诉我,她可能比Anthropic的任何人都更多地 与Claude交谈过。 所以她绝对是一个关于提示工程和 如何从Claude获得最佳效果的实用建议的迷人对话对象。 之后,Chris Olah顺便来聊了聊。 他是机制可解释性领域的先驱之一, 这是一组令人兴奋的努力,旨在逆向工程神经网络 以弄清楚内部发生了什么, 从网络内部的神经激活模式推断行为。 这是一种非常有前途的方法 用于保持未来超级智能AI系统的安全。 例如,通过从激活中检测模型何时试图欺骗 与之交谈的人类。 这是“Lex Fridman Podcast”。 为了支持它,请查看描述中的赞助商。 现在,亲爱的朋友们,这里是Dario Amodei。 让我们从缩放定律和缩放假设的大想法开始。 它是什么?它的历史是什么? 我们今天处于什么位置? - 所以我只能描述它,你知道,因为它与我自己经历相关。 但我在AI领域已经大约10年了 这是我很早注意到的事情。 所以我第一次进入AI领域 是在2014年底,当时我在百度与吴恩达共事, 差不多正好是10年前。 我们做的第一件事是语音识别系统。
HN 上的讨论
在这种情况下,另一个有用的词是“谄媚”,意思是过度奉承或虚伪的赞同。Anthropic的Amanda Askell曾用它来描述他们试图在Claude中抑制的一种特质:[VIDEO] — tkgally, 2025-04
我说的时代精神是这样的:一旦某个事件开始,它就变得不可阻挡。最经典、最老套的例子包括伽利略的日心说与宗教裁判所,或者马丁·路德发起新教运动。有些想法一旦被那个时代的某些个人或机构开始构建,如果取得成功,就会继续朝那个方向发展。所以我说,“时代精神就是这样预测的。”在该领域奠定了重要基石的研究者(例如Ilya Sutskever、Dario Amodei等)[1, 2]表明,这最终必然会以某种方式发生。除此之外,目前大多数硬件开发、软件优化和发表的学术论文都集中在这个领域。即使考虑到围绕它的巨大炒作,除非出现重大瓶颈或泡沫,该领域的发展显然会继续。许多人仍然以讽刺的态度对待这类讨论,将其贴上营销或广告噱头的标签。然而,从目前情况来看,这似乎就是我们前进的方向。[1] [VIDEO] [2] [LINK] — batuhandumani, 2025-02
这是有趣播客采访的丰收周,主题围绕AI!除了这个,还有Lex Fridman对Anthropic多位关键人物的系列采访[0],以及Stephen Wolfram和Eliezer Yudkowsky关于AI风险主题的长篇讨论[1]。0. [VIDEO] 1. [LINK] — robinhouston, 2024-11
他研究并影响了现实世界。以下是Anthropic的CEO Dario Amodei,领先AI公司之一,在本周的采访中直接提到他:[VIDEO] — Philpax, 2024-11
> 但即使你这么做,我也能看出质量会下降。Dario在最近的一次采访中说,在负载高峰期,他们从不会切换到参数不同的低质量模型。但他留下了模糊空间,让人不确定这是否意味着他们仍可能使用量化或稀疏化。此外,他的回答不够明确,无法判断他们是否使用较低深度的束搜索或其他更便宜的采样技术。他说,唯一可能遇到不同模型本身的情况是在新版本发布前进行A-B测试时。我认为他澄清了这一切都适用于WebUI,而不仅仅是API。(编辑:我在HN上被限流了,下面是回复中提到的来源[VIDEO]) — cma, 2024-11
相关视频
- Jim Simons(完整版访谈)- Numberphile · Numberphile2 · 1:00:43
- Steve Jobs 2005 年斯坦福大学毕业演讲 · JoshuaG · 14:34
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- Alan Kay - 正常被认为有害 · powerfuloutlet · 1:07:26
- 培育语言,作者:Guy Steele · Bill Pugh · 53:31
- 软件设计哲学 | John Ousterhout | Talks at Google · Talks at Google · 1:01:40
- “Uncle” Bob Martin - “编程的未来” · Paul Stringer's Mobile Tech · 1:18:21
- VCF East: Ken Thompson 接受 Brian Kernighan 采访 · Vintage Computer Federation · 1:03:51
- Hamming,“你和你的研究”(1995年6月6日) · securitylectures · 44:02
- 技术演讲:Linus Torvalds 谈 git · Google · 1:10:15
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- Alan Kay 在“Intertwingled”节上对 Ted Nelson 的致敬 · TheTedNelson · 17:33
- Joe Rogan Experience #1035 - Paul Stamets · PowerfulJRE · 2:13:48
- “我对钱不感兴趣” - Ton Roosendaal 2017访谈 · Blender Guru · 1:46:51
- 所有演示之母,由Douglas Engelbart呈现(1968) · Marcel · 1:40:52