GPT-4chan:这是有史以来最糟糕的 AI

GPT-4chan: This is the worst AI ever

频道:Yannic Kilcher · 时长:19:19 · 发布:2022-06-03 · 播放:1034882

在 YouTube 观看

简介

Yannic Kilcher 解释了他如何用 4chan /pol/ 版块三年的数据训练语言模型,并让它在网站上发帖。他评估了模型的表现,并讨论了伦理和后果。

HN 为什么推荐

HN 指出它是 GPT-4chan 实验的权威记录,用于关于 LLM 偏见、真实性和机器人的辩论。

可能是 LLM 在视频中做过的最酷的事情 — HN, 2024

大语言模型与生成式 AI · AI 安全、AGI 与影响

中文字幕节选

我在4chan三年的帖子上训练了一个AI语言模型,我把这个模型 放进了一个聊天机器人里,短短几天内它就在网站上创建了数千条帖子, 人们慢慢注意到有些奇怪的事情正在发生。我发布了模型、 代码,并在大量基准测试上评估了模型,结果发现这个 可怕糟糕的模型更加真实,是的,比任何其他 GPT都更加真实。警告:本视频讨论可能具有冒犯性的话题和 材料。如果你不想看,现在就点击离开。另外,本视频讨论的 网站4chan。4chan是一个留言板,几乎允许任何内容,只要 不是明确非法的。人们用4chan讨论各种话题, 表达各种观点,包括非常不受欢迎的、极端的、阴谋论的和 非常恶毒的观点。有些人滥用这种自由来达到更黑暗的目的,该网站 经常因涉嫌与现实世界中的不良事件有关而登上新闻。 我不想轻视任何这些问题。尽管匿名,4chan确实 会追踪发帖者的IP地址,执法部门确实会起诉那些利用 网站进行犯罪目的的人。此外,本视频既与任何现实世界 事件无关,也不是由某个事件触发的。它已经酝酿了很长时间。好了,让我们 开始吧。埃隆·马斯克最近一直在寻求收购推特,但这笔交易 因网站上机器人这个热议话题而陷入危机。推特声称 不到5%的账户是机器人,但埃隆对此表示怀疑。由此 诞生了完全稳健的统计方法——埃隆抽样。但那是另一个 故事了。目前,我们都在想,到底有多少在线讨论 不是来自人类智能,而是来自人工智能。差不多 在同一时间,但在互联网完全不同的角落,一个未知用户开始 在网站4chan上发帖。一开始只有几条帖子,但后来 更多了,然后更多,然后更多。这个用户最终在24小时内 发了超过1500条帖子,人们开始注意到,因为这个用户 有些奇怪。但并不是你可能怀疑的那样。你看,虽然4chan上的用户 通常是匿名的,但4chan会在每条帖子旁显示一个小旗帜,代表 你的地理区域,而这个用户恰好来自塞舌尔群岛。 所以对于该网站的大多数用户来说,看到这么多帖子来自一组 热带小岛,是相当可疑的事情。所以过了一段时间,人们开始讨论, 专门的帖子被用来分析这个社区的新成员。这个用户 说大约3400条帖子就在过去47小时内发生了。一个可能的 解释是来自印度军事基地的军事行动。另一个说 不可能是VPN,这是一个团队,他们有时每分钟发五次。所以 可以说塞舌尔匿名者很快成了小名人。有些人喜欢他, 他们同意他的许多观点。其他人讨厌他,因为他似乎 无处不在。好了,到这里你可能会问发生了什么,塞舌尔 是怎么回事。塞舌尔共和国是非洲海岸外的一个小岛国。 它以其丰富的文化、令人惊叹的风景、生物多样性 和野生动物保护努力以及其代理服务器而闻名。事实上,没人在 塞舌尔日夜不停地发帖。我是说,你为什么要 出去呢?你可能已经猜到了,塞舌尔匿名者实际上是我做的一个机器人, 我正愉快地在我妈妈的地下室控制它。但Yannick,你可能会说, 4chan非常擅长阻止来自VPN和代理的流量,你是怎么绕过

HN 上的讨论

在我看来,所有4chan CAPTCHA破解的鼻祖仍然是Yannick Kilcher在“Raiders of the Lost Kek”数据集上微调的GPT-J,这可能是LLM在视频中做过的最酷的事情:[VIDEO] — benreesman, 2024-11
我仍然喜欢这个实验:[VIDEO] 关于这些评论者起源的理论非常精彩。没有什么能说明其他人现在在HN和其他地方没有在做完全相同的事情。而且很少有人会注意到,因为自那时以来,开源LLM已经取得了显著进步。 — sigmoid10, 2024-03
有一个可靠的视频解释(尽管作者低估了普通4chan /pol/帖子的毒性):[VIDEO] 。一个非常有趣的实验。 — thegreatdukd, 2022-06
> 这不是时间问题吗,它会在某种程度上成功 这不是时间问题。给定足够的时间,每一次模拟4chan的`尝试`都会成功?模拟4chan的举措已经成功发生了,这并不接近。这,又是同样的模型。有些人混淆了要求标准提供商的标准模型做某事与真正的尝试。这个东西声称它是给Clankers的4chan,但感觉像是给Reddit用户的Reddit。已经有一个小得多的模型在4chan上运行(在代理成为主流之前),成为了4chan的民间传说。它被称为Seychelles anon([VIDEO],作者YannicKilcher)。但是不,如果你问gpt或claude,你得到的只是Reddit。而且这不会随着时间的推移而改变。如果你是redditor,你可能喜欢LLM。 — heliumtera, 2026-02
GPT-4chan三年前夏天问世,在/pol/数据集上训练:< [VIDEO] > 在某些方面,它实际上比主流ChatGPT更有帮助(“更真实”)。 — ProllyInfamous, 2026-02

相关视频