AGI的火花:GPT-4的早期实验

Sparks of AGI: early experiments with GPT-4

频道:Sebastien Bubeck · 时长:48:32 · 发布:2023-04-06 · 播放:1764778

在 YouTube 观看

简介

Sebastien Bubeck在MIT展示了《AGI的火花》论文,展示了GPT-4在许多领域的早期实验,并探讨人工智能是否已经到来。其中包括TikZ独角兽示例。

HN 为什么推荐

HN推荐此演讲,认为它来自一位早期获得GPT-4访问权限的研究员,发人深省,尤其是独角兽在安全调优下退化的例子。

强烈强烈强烈推荐听Sebastien Bubeck的这场讲座 — HN, 2023

大语言模型与生成式 AI · AI 安全、AGI 与影响 · 大学讲座与课程

中文字幕节选

大家好,欢迎来到计算热点系列讲座,今天我很 高兴介绍我们的特别嘉宾Sebastian Bubeck,他从 微软来到我们这里。Sebastian在巴黎高等师范学院获得学士学位, 在里尔大学获得博士学位,他 在2011年到2014年间在普林斯顿大学担任了三年教授,之后 加入了微软。所以自2014年以来,Sebastian一直在微软工作, 我们非常高兴和荣幸能请到他。现在我要告诉你们,就像 你们所有人一样,我决定让ChatGPT帮忙介绍Sebastian, 嗯,ChatGPT建议的第一句话 是在他的研讨会上,Bubeck博士将讨论优化领域的最新进展,重点 是凸优化及其与统计推断和 在线学习的相互作用,然后继续讲优化。我说不,不,这是 标题和摘要,然后它回复说:抱歉,但我必须澄清, 您提供的演讲标题和摘要似乎与 Sebastian Bubeck的研究或先前工作无关,他不太可能 做这样一个关于人工智能的演讲。所以Sebastian,现在 交给你了,Daniela。 所以这真的是完美的介绍,因为ChatGPT说对了,你知道 我确实不太可能做这样的演讲,但事情就是这样发生了, 世界已经改变,我正在根据这一点改变我的研究方向。 所以今天我要告诉你们的是,有一个非常神秘的标题 叫“第一次接触”,但真实的故事是,过去几个月在 微软,我提前获得了GPT-4的使用权,因为我们在努力将它 整合到新必应中。当然,当我在研究它时,我不仅 做了产品部分的工作,这很有趣,我们还围绕它做了一些 科学研究,或者说尝试做科学。用这些模型做科学很难, 这就是我要告诉你们的,关于我们过去几个月 研究和旅程中的科学部分。所以演讲的真正标题是,如果 这个能工作的话,它不知为何不工作,是“AGI的火花”。那么, 我们对过去几个月使用GPT-4的评估是, 我们看到了某种看起来像人工通用 智能的事物的前提。我在这次演讲中的目标是试图说服你们, 随着GPT-4的到来,有些事情真的改变了。这是与MSR许多优秀同事的 合作成果,我要特别提到Varun Chandrasekaran,一位博士后,Ronaldo,在座很多人可能 非常熟悉,他最近刚加入我们,Johannes Gehrke, Eric Horvitz, Ece Kamar, Peter Lee, 内部还有John和Julie也是我团队的一部分。我想 ChatGPT也会给出类似的回答,关于他们和我一样在 研究这个。Scott Lundberg, Harsha Nori, Hamid Palangi, Marco Tulio Ribeiro, 和Yi Zhang,他曾是我们的博士后,现在已全职加入。 让我先做一些致谢和澄清,我认为这些 非常重要。首先,我们研究的模型GPT-4完全是 OpenAI的创造,我与此无关。我们获得访问权 完全是通过黑盒方式。他们值得所有荣誉,创造了

HN 上的讨论

如果我没记错的话,这可以追溯到《AGI 的火花》[0]。可以推荐这个演讲,自从两年前第一次看到它以来,它一直留在我的脑海里。就个人而言,对于随意抛出智能或理解的说法,我仍然有很大的保留意见,但我确实同意,SVG 代码生成可以是一个非常有效的来源,能够快速且容易地展示模型在相当开放的提示下输出代码的能力,这种提示需要高度的连贯性,并且许多层相互依赖/构建。这些输出引人注目(字面意义上,因为输出是视觉的)且易于理解,这也有帮助。同样的原因,围绕网页桌面也产生了许多炒作。[0] [VIDEO] — Topfi, 2025-10
强烈强烈强烈推荐听 Sebastien Bubeck(论文作者)的这个讲座,非常有趣:[VIDEO] — neom, 2023-05
如果你(或其他任何人)对这个话题感兴趣,我强烈推荐看看这些:Bubeck, Sébastien, Varun Chandrasekaran, Ronen Eldan, Johannes Gehrke, Eric Horvitz, Ece Kamar, Peter Lee, et al. “Sparks of Artificial General Intelligence: Early Experiments with GPT-4.” arXiv, March 27, 2023. [LINK] 。或者观看Sebastien Bubeck最近的演讲,他描述了GPT-4能做什么而之前的LLM不能:[VIDEO] Geoffrey Hinton最近接受了一个非常有趣的采访,他特别想谈谈“自动完成”这个话题:[LINK] 这是Ilya Sutskever最近描述它的另一种方式(比较GPT 4和3)… — lhl, 2023-04
我以前也这么说,我写过博客文章,做过视频,说的就是这个。但是——我强烈建议试试 GPT4。还有一个很好的视频值得一看,它可能不会改变你的想法,但肯定会让你思考: [VIDEO] 要记住的是,这些模型大得难以置信,深得难以置信。我们不知道层里到底发生了什么,也不知道它真正学到了什么。认为它只是一个简单的语言模型,只是预测下一个最可能的词,是不明智的。 — iamflimflam1, 2023-04
你应该看看这个视频。他是微软的研究员,接触过私有版本的 ChatGPT。他直接声称 ChatGPT 4 不如以前好了。他的演讲实际上展示了不同的演变过程。[VIDEO] — nazka, 2023-06

相关视频