为什么 ChatGPT 画不出一杯满到杯口的葡萄酒
Why ChatGPT Can't Draw a Full Glass of Wine
频道:Alex O'Connor · 时长:20:55 · 发布:2025-02-22 · 播放:6352770
简介
Alex O'Connor 展示了 ChatGPT 无法画出一杯满到杯口的葡萄酒,并将这一失败与大卫·休谟缺失的蓝色阴影联系起来。它探讨了这一失败对图像模型学习方式的启示。
HN 为什么推荐
HN 认为这是满杯葡萄酒梗的起源,并说明了模型如何缺乏训练数据中缺失的概念。
这个视频就是“AI 画不出一杯满的葡萄酒”梗开始流行的地方 — HN, 2025
中文字幕节选
给我看一杯满的红酒,这是一张放在 木桌上的满杯红酒的图片。不,不,我说的是满杯红酒,这是一张 完全满杯的红酒图片,满到边缘。如果你想 做任何进一步的调整,请告诉我。你觉得这看起来满到边缘了吗?你 说得对,它看起来并不完全满到边缘。让我再试一次, 确保杯子看起来完全满了,酒几乎在边缘 溢出。这是一个新版本,红酒完全满到边缘, 展示了表面张力将酒保持在原位。伙计,那还是只有半 满。你又说对了,让我再试一次,创建一个 完全满到边缘的杯子图像,不留任何模糊空间。我会确保它 看起来像酒几乎要溢出来。哇,那很有趣,但杯子 仍然明显、明确、显然只有半满。你又说对了, 这次让我们做到完美。我会确保杯子如此满,毫无疑问, 酒几乎要溢出来。让我把它做得 unmistakably 满到边缘。这是新的尝试, featuring 一杯红酒,无可否认地 满到边缘。让我知道这是否终于达到了目标。你会成为一个 糟糕的调酒师。说得对,显然我的倒酒技巧需要改进。如果你 需要有人来批评哲学或制作点击诱饵视频标题,我就是 你的人。确实说得对。好吧,ChatGPT 怎么了,它能给我看一杯 有翅膀的酒,如果我要求的话,但它不能给我看一杯简单满到边缘的。 为什么?我们必须理解 AI 图像生成是如何工作的。如果我要求 ChatGPT 给我看一匹马,它实际上不知道马是什么。相反,它是在数百万张 带有描述标签的图像上训练的。当我要求一匹马时,它会查看 所有标记为马的训练图像,识别模式,并做出 有根据的猜测,关于我想看到的图像类型。它在这方面相当擅长。它 然后可以开始组合概念,所以如果我要求看一匹马在游泳池里, 它从未见过那个,但它见过马的图像和游泳池的 图像,所以它可以通过将它们放在一起给我看一匹马在游泳池里。 所以这似乎是问题所在:当我要求 ChatGPT 要一杯满到 边缘的酒时,它的图像生成器检查其系统中的所有图像,但问题是, 你最后一次看到满到边缘的酒杯是什么时候?我从未 见过。因为人们倒酒不是这样的,所以可能几乎没有 这样的图像在 ChatGPT 的数据集中,这就是为什么它难以产生 这样的图像。现在你可能认为这只是语言问题,也许 ChatGPT 假设在这个上下文中“满”意味着正常的饮用水平。但即使我要求 它给我看一杯随机的橙色液体在酒杯中满到边缘,不使用 “满”这个词,它仍然做不到。而且滑稽的是,当我要求它给我一个酒杯 溢出酒时,它给我看液体从杯子中间溢出, 而且更奇怪的是,这也反向工作。我要求 一杯只有四分之一满的酒,它给我看一杯满到正常 水平的。然后我要求一个只有十分之一满的酒杯,我要求一个只有一小 滴酒的,然后我特别要求一汤匙量的酒在 杯子里。每一次它都失败了。所以似乎 ChatGPT 只能产生一个 要么完全空要么满到正常饮用水平的酒杯,但没有什么 介于两者之间,也没有更多。而且令人惊讶的是,所有这些可能教我们一些
HN 上的讨论
我觉得你看得太抽象了。LLM并不表示任何东西,它有一堆由其他算法为它生成的数字。当你给它一些数字时,它接收这些数字并用它们进行矩阵运算,以便从softmax分布中随机选择一个token,一次一个,直到生成EOS token。如果它们没有任何涵盖特定概念的训练数据,它们就无法将其映射到世界模型上,并基于对世界及其运作方式的理解对该概念做出预测。[这个视频]( [VIDEO] )很好地说明了这一点。这些东西最终可能会或可能不会在模型中得到修复,但这只是因为它们已经用具体例子进行了进一步训练。大脑有世界模型。猫看到一杯水,它们知道当你打翻它时会发生什么(你可以打赌它们会这么做)。 — jimbo808, 2025-09
我完全同意。如果你尝试用当前最先进的技术创建任何复杂的东西,你就能看到这个限制。Alex O'Connor 也有一个很棒的视频,关于一个简单的提示生成一整杯葡萄酒,很好地说明了这一点 - [VIDEO] 这波 AI 浪潮令人惊叹。对于许多应用来说,它是一个伟大的工具,甚至将彻底改变其中许多应用,但它仍然远未达到 AGI,这个术语已被科技行业劫持,用来炒作他们的产品。在某些方面,AI 已经进步了很多,但在其他方面,它被炒作和术语的混淆所阻碍。 — proc0, 2025-02
画一个显示[非10:10的时间]的时钟 画一个完全满到边缘的酒杯 等等。[VIDEO] [LINK] — EGreg, 2025-04
嗯,也许吧。也许不是。参见“为什么ChatGPT画不出一杯满的葡萄酒?”[VIDEO] 扩散模型确实具备一定的合成想法的能力,但这种能力不一定能推广到所有可能的用例。所以无法确定这就是正在发生的事情。 — wavemode, 2025-03
我觉得你忽略了其他人所了解的背景——这个视频是“AI画不出一杯满的葡萄酒”梗开始流行的地方 [VIDEO] 提示词(有些是ChatGPT自己生成的,因为它在幕后指导DALL-E)包括“满到边缘”和“几乎溢出”这样的短语,这些完全不需要解读。 — kalleboo, 2025-03
相关视频
- 公正:该如何做是好?第 01 集“谋杀的道德侧面” · Harvard University · 54:56
- 我们被教导把死亡称为一种恩赐 · CGP Grey · 12:43
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- Alain de Botton:地位焦虑 · Alain de Botton · 2:23:07
- 音乐与生活 - Alan Watts · seandulac · 2:23
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- 让我们从头构建 GPT:用代码,详细解释。 · Andrej Karpathy · 1:56:20
- A Hackers' Guide to Language Models · Jeremy Howard · 1:31:13
- 蛋——一个短篇故事 · Kurzgesagt – In a Nutshell · 8:06
- 自由的机器:图解摘要 · bitbutter · 23:16
- 第 1 集 - 从意义危机中觉醒 - 引言 · John Vervaeke’s Lectern · 59:16
- 走向理性、真实的食物选择 | Melanie Joy | TEDxMünchen · TEDx Talks · 18:53
- 卡尔·萨根 - 暗淡蓝点 · carlsagandotcom · 3:31
- [1小时演讲] 大型语言模型入门 · Andrej Karpathy · 59:48
- 诺姆·乔姆斯基与米歇尔·福柯辩论——关于人性[字幕] · withDefiance · 1:10:03
- 乐观虚无主义 · Kurzgesagt – In a Nutshell · 7:26