StrictlyVC 对话山姆·奥特曼,第二部分(OpenAI)
StrictlyVC in conversation with Sam Altman, part two (OpenAI)
频道:Connie Loizos · 时长:38:58 · 发布:2023-01-18 · 播放:253750
简介
StrictlyVC 采访 OpenAI CEO 山姆·奥特曼的第二部分,聚焦人工智能。他讨论监管、AI 商品化、谷歌不愿发布自己的模型,以及最好和最坏的未来。
HN 为什么推荐
HN 评论者引用它作为奥特曼言论的主要来源,例如更缓慢地发布 AI、检测 LLM 输出是徒劳的,以及驳斥 GPT-4 参数数量谣言。
大语言模型与生成式 AI · AI 安全、AGI 与影响 · 科技先驱与访谈
中文字幕节选
[音乐] 外来的 所以接下来谈谈人工智能,这显然是你自那以来投入大部分时间的地方 我三年前见过你,我们坐在这里,但正如我逗你时说的,嗯,确实你 当时告诉我们即将发生的事情,我们都以为你有点夸张,我想 你知道的,夸张吧,但你是极其认真的,嗯,为什么你认为,我是说人们 知道你在研究这个,谷歌也在研究这个,为什么你认为 ChatGPT和DALL-E如此让人惊讶 我真的不知道,我反思了很多,呃,我 我们在API中有一个ChatGPT的模型,大概 我不知道,10个月左右,在我们推出ChatGPT之前,我有点以为 有人会直接构建它之类的,而且你知道足够多的人 玩过它,如果你在某个东西上做出真正好的用户体验, 我深信人们想要与这些模型互动的方式 是通过对话,你知道我们一直告诉 人们这个,我们一直试图让人们构建它,但人们不太愿意 做,所以我们最终说好吧,我们就自己来做,嗯,但是的,我认为 这些部分已经存在一段时间了,嗯,我认为DALL-E让人惊讶的一个原因是 如果你问,你知道,五到七年前,关于AI的铁定 智慧是,首先它会影响体力劳动,卡车驾驶,工厂工作, 在工厂工作,然后卡车驾驶,然后这种要求较低的认知 劳动,然后才是真正要求高的认知劳动,比如计算机编程,然后 然后最后,或者可能永远不会,因为也许有某种深层的人类 特殊配方,那就是创造力,当然我们现在可以看到,它真的 看起来会完全相反的方向,嗯,但我认为那不是 超级直观,所以我能理解为什么DALL-E让人惊讶,嗯,但我真的感到 有点困惑为什么ChatGPT会这样,呃,你知道我们真正 相信的一件事是,最负责任的方式是将这个推向社会的 是逐渐地,让人们、机构、政策制定者熟悉它, 思考其影响,感受技术,了解它能 做什么和不能做什么,很早就这样,嗯,而不是突然将一个超级强大的AGI 一下子投入世界,所以我们大约三年前推出了GPT-3, 然后我们把它放入API,就像,你知道,我想大概是2020年6月 所以是两年半前,嗯, 从那时到ChatGPT的增量更新,我觉得应该是 可预测的,我想做更多的内省,为什么我 在这方面校准错误,所以你知道你在这里时谈过以 负责任的方式发布东西,我想是什么给了你信心发布你已经 发布的东西,我是说,你认为我们准备好了吗,有足够的 护栏吗,看起来我们有,嗯,我们有 一个内部流程,我们试图破坏东西并研究影响, 我们使用外部审计员,我们有外部红队,我们与其他实验室合作, 让安全组织查看东西,嗯,有社会变革 ChatGPT将会引起或正在引起,我认为现在有一个大的关于 这对教育、学术诚信的影响,所有这些,但 现在开始这些,当风险还相对较低时,而不是只是 推出整个行业几年后会有的东西,没有时间让社会 更新,呃,我认为那会很糟糕,疫情向我们展示了,无论好坏,或者至少 向我展示了,社会可以更新以应对大规模变化,比我原本 想象的要快,在很多方面,但我仍然认为,鉴于我们预期的经济
HN 上的讨论
再梳理一遍时间线:2022/11/11:一条病毒式传播的推文声称 GPT-4 将拥有“100 万亿参数”。[1] 此时还没有任何关于混合专家模型的传言。2023/01/16:在一次采访中,Sam Altman 提到他看到了那条推文,并称其“完全是胡说八道”。[2] 2023/06/20:geohotz 和 PyTorch 的负责人,这两个本应拥有相关人脉的人,声称 GPT-4 是一个 8 x 220B 的混合专家模型。[3] 这是两个独立、互不相关的传言。一个被 Sam Altman 否认,而且从一开始就不可信。另一个从未被否认,且高度可信。你声称“OpenAI 的 CEO 明确否认”了“GPT4 是一个万亿参数的混合专家模型”,却没有任何来源,这是在把两者混为一谈。[1] [LINK] [2] [VIDEO] [3] [LINK] — letmevoteplease, 2023-07
这篇文章重复了 GPT4 拥有 100 万亿参数的谣言,而 Sam Altman 称这完全是胡说八道。[1] [1] [VIDEO] — Sunhold, 2023-03
>它们不应该都被封闭在公司内部 强烈同意。这正在成为比人们意识到的更大的担忧。Sam A说OpenAI将“比人们希望的要慢得多”地发布,并且未来会“搁置”他们的技术很长时间。[0] 而Deepmind的创始人说“AI行业公开出版其发现的文化可能很快需要结束。”[1] 这听起来像是谷歌和微软甚至不会通过API向人们提供他们最好的AI。他们只会将技术保留在内部来支持自己的服务。这强调了开放、分布式模型的必要性。就像你说的,两者都有空间。[0] [VIDEO] [1] [LINK] — calny, 2023-02
我看了这个[1]对Sam Altman的采访,谈到了AI的临时影响。我非常同意他的观点,基本上检测LLM的输出基本上是徒劳的,只在短期内相关。模型的准确性显然会提高,现在检测并不难,但未来会很难,特别是如果输出被修改或试图混淆来源。[1] [VIDEO] — wand3r, 2023-02
相关视频
- Jim Simons(完整版访谈)- Numberphile · Numberphile2 · 1:00:43
- Steve Jobs 2005 年斯坦福大学毕业演讲 · JoshuaG · 14:34
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- Alan Kay - 正常被认为有害 · powerfuloutlet · 1:07:26
- 培育语言,作者:Guy Steele · Bill Pugh · 53:31
- 软件设计哲学 | John Ousterhout | Talks at Google · Talks at Google · 1:01:40
- “Uncle” Bob Martin - “编程的未来” · Paul Stringer's Mobile Tech · 1:18:21
- VCF East: Ken Thompson 接受 Brian Kernighan 采访 · Vintage Computer Federation · 1:03:51
- Hamming,“你和你的研究”(1995年6月6日) · securitylectures · 44:02
- 技术演讲:Linus Torvalds 谈 git · Google · 1:10:15
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- Alan Kay 在“Intertwingled”节上对 Ted Nelson 的致敬 · TheTedNelson · 17:33
- Joe Rogan Experience #1035 - Paul Stamets · PowerfulJRE · 2:13:48
- “我对钱不感兴趣” - Ton Roosendaal 2017访谈 · Blender Guru · 1:46:51
- 所有演示之母,由Douglas Engelbart呈现(1968) · Marcel · 1:40:52