Sam Altman 与 OpenAI | 2023 霍金研究员 | 剑桥联盟
Sam Altman & OpenAI | 2023 Hawking Fellow | Cambridge Union
频道:Cambridge Union · 时长:1:04:19 · 发布:2023-11-15 · 播放:179612
简介
Sam Altman 在剑桥联盟接受 2023 年霍金研究员称号,并谈论 OpenAI、AGI 和 AI 安全,录制于 2023 年 11 月 1 日。其中包括他对 AGI 还剩下什么以及发现新物理学的评论。
HN 为什么推荐
在 Altman 被罢免的帖子中,HN 从中挖掘他最近关于 AGI 和安全的即兴言论;也有人嘲笑其语气。
两天前,Sam 被问及 AGI 还剩下什么。 — HN, 2023
大语言模型与生成式 AI · AI 安全、AGI 与影响 · 科技先驱与访谈
中文字幕节选
[音乐] [音乐] 晚上好,女士们,先生们。6年前,也就是2017年,剑桥联盟与史蒂芬·霍金教授 共同设立了今晚我们庆祝的这个奖学金,其理念是 将STEM领域的杰出人士带到剑桥,讨论和 辩论他们的工作和成就。自霍金教授在奖学金设立后不久去世以来,这个奖学金 被赋予了更深远的意义。今晚我们在这里不仅是为了庆祝 获奖者的成就,也是为了向霍金教授致敬,纪念他的遗产 以及他与剑桥学生的紧密联系。为此,我们很高兴 邀请到了霍金家族,特别是简和露西·霍金,感谢你们的到来。 谢谢。 [音乐] 今晚,我相信大家都知道,今年奖学金委员会投票决定 将2023年的奖学金授予OpenAI团队。OpenAI开发的模型, 特别是DALL·E和ChatGPT,代表了第一次我们 普通公众真正感受到并理解了AI将带来的巨大变革。 然而,奖学金委员会特别被OpenAI吸引的是 OpenAI所倡导的积极且负责任的AI愿景,其对开源 和公众获取AI的承诺,用萨姆自己的话说,成功地改变了 关于AI和AGI的奥弗顿窗口,这是其他事物之前很少能做到的。 结合起来,这正是霍金奖学金的意义所在:认可那些已经产生并将产生 非凡影响的成就,同时这些成就也是 为了人类的最高利益,旨在改善人类状况 和我们对于世界的理解。这是奖学金第一次 授予一个团体而非个人,但委员会认为这是 认可这一成就的合作性质的最合适方式。 那么,废话不多说,今晚来接受奖学金,并代表 他的团队发表演讲,请大家热烈欢迎萨姆 [音乐] [掌声] 奥特曼。 [音乐] 谢谢,非常感谢。 [音乐] 谢谢露西和整个霍金家族对我的热情和好客, 我和我的OpenAI同事们非常荣幸被选为 今年的霍金奖学金获得者,我很高兴能在这里代表团队。 我们深深感谢霍金奖学金委员会、剑桥联盟和 霍金家族。我来这里主要是想进行讨论,我很乐意回答很多 问题。我会尽量保持简短。来到这里真是令人谦卑, 剑桥大学,霍金教授对宇宙的深刻见解 给我们所有人留下了不可磨灭的印记,并给了我个人巨大的启发。 你们很多人可能知道,他深入参与了围绕AI 及其对社会潜在影响的问题。霍金教授许多早期关于 AI的评论非常有先见之明,它们深刻影响了我们的观点和工作。 我们相信AI改善我们生活、社会和世界的潜力是巨大的, 我们认为霍金教授会同意,正如他所说,我们无法 预测当我们的思维被AI放大时我们能实现什么。我认为这种 放大还处于非常早期的阶段,它将让所有人惊讶,希望如此。 他接着说,也许借助这次技术革命的工具, 我们能够消除上一次工业革命对世界造成的破坏。 我们将致力于最终消除疾病和贫困,我们生活的每个方面 都将被改变。在OpenAI,我们深受这种前景的启发。我们 知道要实现这个未来,我们必须安全地构建、发布和使用AI。我们必须尽我们所能 为其影响做准备,并在帮助我们的社会和 政府准备方面发挥作用。所以这就是为什么我们在OpenAI努力研究、开发和
HN 上的讨论
这不一定只是关于模型本身,还有法律——以及抗议者将横幅扔到Altman头上[0]——基本上是在说“你能不能不要这样”。[0] [VIDEO] — ben_w, 2024-04
对,我几分钟前刚在剑桥看了他的一个视频:[VIDEO] 它刚发布,但拍摄于11月1日。 — silenced_trope, 2023-11
他关于 AGI 需要另一次突破的声明不是照本宣科的,所以我认为他不是被指示这么说的。在这里观看:[VIDEO] Altman 从一开始就在 OpenAI,而且从一开始 OpenAI 就严重依赖于 AGI/超级智能的前提。 — mi3law, 2023-11
锡箔?帽子时间。从 Greg 到 Sam 到 Ilya,每个人都坚持“AGI 造福人类”。根据 OpenAI 的章程:AGI 明确被排除在所有商业和知识产权许可协议之外,包括与微软的协议。核弹。好吧,显然,董事会决定什么是 AGI。但那些董事会成员中有3人(现在除了 Ilya 都离开了)甚至不在 OpenAI 工作,只能知道其他人分享的信息。昨天,Altman 是这么说的:“就个人而言,在 OpenAI 的历史上,现在已经是第四次了,最近一次就在过去几周,当我们将无知之幕推后时,我有幸在场”[LINK] 两天前,Sam 被问及 AGI 还剩下什么。[VIDEO] 他说他们可以将语言模型推得更远,但还需要更多突破。但奇怪的是,他立即开始谈论超级智能和“发现新物理学”。在两周前的 No prior 播客中,与 Ilya 一起,他说 Transformer 显然可以带我们走向 AGI。[LIN… — og_kalu, 2023-11
我看了他最近在剑桥的获奖演讲(代表整个OpenAI),在提问环节有人提到了这个问题。如果我没总结错的话,他的回答是,我们只能通过在这些模型相对较小且能力较弱时与它们互动,来学习如何让它们安全。[VIDEO] — ben_w, 2023-11
相关视频
- Jim Simons(完整版访谈)- Numberphile · Numberphile2 · 1:00:43
- Steve Jobs 2005 年斯坦福大学毕业演讲 · JoshuaG · 14:34
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- Alan Kay - 正常被认为有害 · powerfuloutlet · 1:07:26
- 培育语言,作者:Guy Steele · Bill Pugh · 53:31
- 软件设计哲学 | John Ousterhout | Talks at Google · Talks at Google · 1:01:40
- “Uncle” Bob Martin - “编程的未来” · Paul Stringer's Mobile Tech · 1:18:21
- VCF East: Ken Thompson 接受 Brian Kernighan 采访 · Vintage Computer Federation · 1:03:51
- Hamming,“你和你的研究”(1995年6月6日) · securitylectures · 44:02
- 技术演讲:Linus Torvalds 谈 git · Google · 1:10:15
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- Alan Kay 在“Intertwingled”节上对 Ted Nelson 的致敬 · TheTedNelson · 17:33
- Joe Rogan Experience #1035 - Paul Stamets · PowerfulJRE · 2:13:48
- “我对钱不感兴趣” - Ton Roosendaal 2017访谈 · Blender Guru · 1:46:51
- 所有演示之母,由Douglas Engelbart呈现(1968) · Marcel · 1:40:52