ChatGPT 惊人潜力的内幕故事 | Greg Brockman | TED

The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

频道:TED · 时长:30:10 · 发布:2023-04-20 · 播放:1900491

在 YouTube 观看

简介

OpenAI 联合创始人 Greg Brockman 在 TED 2023 上解释了 ChatGPT 背后的设计原则,并演示了未发布的插件。在后续中,TED 负责人 Chris Anderson 追问开发时间线和发布此类工具的风险。

HN 为什么推荐

HN 评论者引用它作为 Brockman 观点的主要来源,例如快速行动以降低风险,以及 GPT-4 的算术等能力轶事。

大语言模型与生成式 AI · AI 安全、AGI 与影响

中文字幕节选

我们在七年前创立了 OpenAI 因为我们觉得 AI 领域正在发生一些非常有趣的事情 我们想帮助引导它朝着积极的方向发展。 说实话,看到整个领域 从那时起发展到现在这个程度,真的非常令人惊叹。 听到像 Raymond 这样的人的反馈,真的让人很欣慰 他们正在使用我们构建的技术,还有其他人, 用它做了那么多美好的事情。 我们听到有人感到兴奋,也听到有人感到担忧, 还有人同时感受到这两种情绪。 说实话,我们也是这种感觉。 最重要的是,感觉我们现在正进入一个历史性的时期 在这个时期,我们整个世界将共同定义一项技术 它对我们社会的未来至关重要。 我相信我们能够管理好它,让它造福人类。 所以今天,我想向大家展示这项技术的当前状态 以及我们所珍视的一些底层设计原则。 首先我要展示的是,为 AI 构建工具是什么感觉 而不是为人类构建工具。 我们有一个新的 DALL-E 模型,可以生成图像, 我们把它作为一个应用开放给 ChatGPT,让它代表你来使用。 你可以做一些事情,比如问, 推荐一顿 TED 之后的美餐,并画一张它的图。 (笑声) 然后你就能获得所有的构思和创意来回交流 以及 ChatGPT 为你处理好的各种细节。 看,这不仅仅是餐食的点子, 而是一桌非常非常详细的盛宴。 让我们看看会得到什么。 但 ChatGPT 在这个例子中不只是生成图像—— 抱歉,它不只是生成文字,它还会生成图像。 这确实极大地扩展了它的能力 在代表你执行意图方面所能做的事情。 我要指出,这完全是现场演示。 这些都是 AI 在我们说话时实时生成的。 所以我其实也不知道我们会看到什么。 看起来很棒。(掌声) 光看着我就饿了。 现在我们也为 ChatGPT 扩展了其他工具,比如记忆功能。 你可以说“把这个保存下来以后用。” 这些工具有趣的地方在于它们非常可检查。 这里会弹出一个小提示,写着“使用 DALL-E 应用”。 顺便说一下,这个功能将在未来几个月内推送给所有 ChatGPT 用户。 你可以查看底层,看到它实际做的事情 就是像人类一样写了一段提示词。 所以你有能力检查机器是如何使用这些工具的, 这让我们能够给它们提供反馈。 现在已经保存好了,让我展示一下如何使用这些信息 以及如何与其他应用集成。 你可以说, “现在为刚才推荐的那道美味 列一个购物清单。”然后给 AI 增加一点难度。 “然后把它发推给所有 TED 观众。” (笑声)所以如果你真的做了这道非常非常美味的菜, 我绝对想知道它味道如何。 但你可以看到,ChatGPT 正在选择所有这些不同的工具 而不需要我明确告诉它在什么情况下用哪个。 我认为这展示了一种思考用户界面的新方式。 我们太习惯于这样想:好吧,我们有这些应用, 我们在它们之间点击切换,在它们之间复制粘贴, 通常在一个应用内,体验是很棒的, 只要你知道菜单在哪,了解所有选项。 是的,我希望你来。

HN 上的讨论

> “更多安全”阵营是在说要减缓 AI 的发展吗?这是一个极好的问题,答案非常非常微妙。警告:我将要使用的术语定义在当前讨论中正在积极演变。以下分类反映了我个人的观点,特别是包含了第四派:--- 基本上有四个相互竞争的派别。(1) “正常”派,包括 Sam Altman,基本上是说我们可以以后再处理存在性风险,现在让我们赚钱并继续正常生活。(2) “减速”派(“decelerate”的缩写),包括大多数老派 AI 安全人士,如 Ilya、Helen 和 Tasha。有时你会看到这些人在 Twitter 名字中使用“暂停按钮”表情符号或“停止标志”表情符号。(3) “e/acc”派(“有效加速主义者”的缩写)。这个派别混合了狂热的科技乌托邦主义者(如 Yann LeCun 和 Andrew Ng),以及一群在 Twitter 上发布硬汉梗并持有“哈哈让我们看着世界燃烧”态度的人。在我看来,… — upwardbound, 2023-11
根据我从最近的 TED 演讲 [0] 中了解到的,他们提到 GPT-4 可以完美地计算 40 位数的加法,但在计算一个 40 位数和一个 35 位数的加法时会出错。它并没有形成对算术的通用理解,而是形成了几个较小的特定情况的理解,这些理解可能并不总是正确的。[0] [VIDEO] — dave84, 2023-05
作者所描述的仅仅是雇主在重置他们对可雇佣技能的期望。在我 30 年的软件开发职业生涯中,我个人见过这种情况发生大约 3-4 次。坦率地说,作者的语调让我觉得有些危言耸听(还有点抱怨)。是的——这让人不舒服。但这也是必要的。学好这些工具,让自己能够熟练使用它们。并准备好迎接更多的变化。ChatGPT 已经在迭代:[VIDEO],而且它并不是唯一广泛可用的通用 AI 工具。 — danesparza, 2023-05
想必 ChatGPT 在编写数据库查询或回答关于大型 CSV 文件的问题方面,比不懂编程的人更擅长。这正是上周一位 OpenAI 联合创始人的公关演讲的主题——[VIDEO]——我猜类似的事情就是这篇文章的灵感来源。 — williamstein, 2023-04

相关视频