ChatGPT 惊人潜力的内幕故事 | Greg Brockman | TED
The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED
频道:TED · 时长:30:10 · 发布:2023-04-20 · 播放:1900491
简介
OpenAI 联合创始人 Greg Brockman 在 TED 2023 上解释了 ChatGPT 背后的设计原则,并演示了未发布的插件。在后续中,TED 负责人 Chris Anderson 追问开发时间线和发布此类工具的风险。
HN 为什么推荐
HN 评论者引用它作为 Brockman 观点的主要来源,例如快速行动以降低风险,以及 GPT-4 的算术等能力轶事。
中文字幕节选
我们在七年前创立了 OpenAI 因为我们觉得 AI 领域正在发生一些非常有趣的事情 我们想帮助引导它朝着积极的方向发展。 说实话,看到整个领域 从那时起发展到现在这个程度,真的非常令人惊叹。 听到像 Raymond 这样的人的反馈,真的让人很欣慰 他们正在使用我们构建的技术,还有其他人, 用它做了那么多美好的事情。 我们听到有人感到兴奋,也听到有人感到担忧, 还有人同时感受到这两种情绪。 说实话,我们也是这种感觉。 最重要的是,感觉我们现在正进入一个历史性的时期 在这个时期,我们整个世界将共同定义一项技术 它对我们社会的未来至关重要。 我相信我们能够管理好它,让它造福人类。 所以今天,我想向大家展示这项技术的当前状态 以及我们所珍视的一些底层设计原则。 首先我要展示的是,为 AI 构建工具是什么感觉 而不是为人类构建工具。 我们有一个新的 DALL-E 模型,可以生成图像, 我们把它作为一个应用开放给 ChatGPT,让它代表你来使用。 你可以做一些事情,比如问, 推荐一顿 TED 之后的美餐,并画一张它的图。 (笑声) 然后你就能获得所有的构思和创意来回交流 以及 ChatGPT 为你处理好的各种细节。 看,这不仅仅是餐食的点子, 而是一桌非常非常详细的盛宴。 让我们看看会得到什么。 但 ChatGPT 在这个例子中不只是生成图像—— 抱歉,它不只是生成文字,它还会生成图像。 这确实极大地扩展了它的能力 在代表你执行意图方面所能做的事情。 我要指出,这完全是现场演示。 这些都是 AI 在我们说话时实时生成的。 所以我其实也不知道我们会看到什么。 看起来很棒。(掌声) 光看着我就饿了。 现在我们也为 ChatGPT 扩展了其他工具,比如记忆功能。 你可以说“把这个保存下来以后用。” 这些工具有趣的地方在于它们非常可检查。 这里会弹出一个小提示,写着“使用 DALL-E 应用”。 顺便说一下,这个功能将在未来几个月内推送给所有 ChatGPT 用户。 你可以查看底层,看到它实际做的事情 就是像人类一样写了一段提示词。 所以你有能力检查机器是如何使用这些工具的, 这让我们能够给它们提供反馈。 现在已经保存好了,让我展示一下如何使用这些信息 以及如何与其他应用集成。 你可以说, “现在为刚才推荐的那道美味 列一个购物清单。”然后给 AI 增加一点难度。 “然后把它发推给所有 TED 观众。” (笑声)所以如果你真的做了这道非常非常美味的菜, 我绝对想知道它味道如何。 但你可以看到,ChatGPT 正在选择所有这些不同的工具 而不需要我明确告诉它在什么情况下用哪个。 我认为这展示了一种思考用户界面的新方式。 我们太习惯于这样想:好吧,我们有这些应用, 我们在它们之间点击切换,在它们之间复制粘贴, 通常在一个应用内,体验是很棒的, 只要你知道菜单在哪,了解所有选项。 是的,我希望你来。
HN 上的讨论
> “更多安全”阵营是在说要减缓 AI 的发展吗?这是一个极好的问题,答案非常非常微妙。警告:我将要使用的术语定义在当前讨论中正在积极演变。以下分类反映了我个人的观点,特别是包含了第四派:--- 基本上有四个相互竞争的派别。(1) “正常”派,包括 Sam Altman,基本上是说我们可以以后再处理存在性风险,现在让我们赚钱并继续正常生活。(2) “减速”派(“decelerate”的缩写),包括大多数老派 AI 安全人士,如 Ilya、Helen 和 Tasha。有时你会看到这些人在 Twitter 名字中使用“暂停按钮”表情符号或“停止标志”表情符号。(3) “e/acc”派(“有效加速主义者”的缩写)。这个派别混合了狂热的科技乌托邦主义者(如 Yann LeCun 和 Andrew Ng),以及一群在 Twitter 上发布硬汉梗并持有“哈哈让我们看着世界燃烧”态度的人。在我看来,… — upwardbound, 2023-11
根据我从最近的 TED 演讲 [0] 中了解到的,他们提到 GPT-4 可以完美地计算 40 位数的加法,但在计算一个 40 位数和一个 35 位数的加法时会出错。它并没有形成对算术的通用理解,而是形成了几个较小的特定情况的理解,这些理解可能并不总是正确的。[0] [VIDEO] — dave84, 2023-05
作者所描述的仅仅是雇主在重置他们对可雇佣技能的期望。在我 30 年的软件开发职业生涯中,我个人见过这种情况发生大约 3-4 次。坦率地说,作者的语调让我觉得有些危言耸听(还有点抱怨)。是的——这让人不舒服。但这也是必要的。学好这些工具,让自己能够熟练使用它们。并准备好迎接更多的变化。ChatGPT 已经在迭代:[VIDEO],而且它并不是唯一广泛可用的通用 AI 工具。 — danesparza, 2023-05
想必 ChatGPT 在编写数据库查询或回答关于大型 CSV 文件的问题方面,比不懂编程的人更擅长。这正是上周一位 OpenAI 联合创始人的公关演讲的主题——[VIDEO]——我猜类似的事情就是这篇文章的灵感来源。 — williamstein, 2023-04
相关视频
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- 让我们从头构建 GPT:用代码,详细解释。 · Andrej Karpathy · 1:56:20
- A Hackers' Guide to Language Models · Jeremy Howard · 1:31:13
- 为什么 AI 会想做坏事?工具性趋同 · Robert Miles AI Safety · 10:35
- [1小时演讲] 大型语言模型入门 · Andrej Karpathy · 59:48
- Veritasium:关于AI和学习,大家都搞错了什么——德里克·穆勒解释 · Perimeter Institute for Theoretical Physics · 1:15:10
- 智能与愚蠢:正交性论点 · Robert Miles AI Safety · 13:02
- 我们正在构建一个反乌托邦,只为让人们点击广告 | Zeynep Tufekci · TED · 22:55
- AI 安全入门,重制版 · Robert Miles AI Safety · 18:04
- AGI的火花:GPT-4的早期实验 · Sebastien Bubeck · 48:32
- 让我们构建GPT分词器 · Andrej Karpathy · 2:13:34
- 为什么不呢:把 AGI 想象成一家公司? · Robert Miles AI Safety · 15:27
- Transformer 中的注意力机制,逐步讲解 | 深度学习第六章 · 3Blue1Brown · 26:09
- AI 困境 - 2023 年 3 月 9 日 · Center for Humane Technology · 1:07:31