AI垃圾正在摧毁互联网

AI Slop Is Destroying The Internet

频道:Kurzgesagt – In a Nutshell · 时长:9:52 · 发布:2025-10-07 · 播放:11485805

在 YouTube 观看

简介

Kurzgesagt 探讨了 AI 生成的内容如何淹没互联网,从视频和音乐到新闻和书籍。它审视了这使得验证真实内容变得更加困难。

HN 为什么推荐

HN 将其作为 AI 垃圾、LLM 引用 LLM 输出以及事实核查日益困难的参考。

Kurzgesagt 制作了一个很棒的视频,讲述这些东西是如何生成的 — HN, 2026

大语言模型与生成式 AI · 媒体、新闻与宣传 · 未来主义与技术社会

中文字幕节选

AI垃圾内容正在淹没互联网,事态迅速变得戏剧化。 在这个靠注意力赚钱的在线世界里, 虚假用户在评论区散播他们的垃圾内容, 制造虚假流量或毒化讨论。 AI加剧了这一问题,让垃圾内容更难被识别。 如今约一半的互联网流量来自机器人, 其中大多数被用于破坏性目的。 制作平庸内容从未如此容易——从 LinkedIn那毫无意义的黑洞, 到低投入的短视频,刚好足够吸引人 让孩子着迷并摧毁他们的注意力, 再到亚马逊上无尽的无灵魂改写书籍。 AI音乐正在入侵流媒体平台。 谷歌AI正在总结网站内容,而不是将流量导向它们。 在YouTube上,新频道每周多次发布长视频, 配有AI生成的缩略图、声音和脚本。 真实犯罪、视频随笔、科学,没有哪个领域是安全的。 我们正处于无灵魂垃圾内容的黄金时代。 可悲的是,真正的人类创意作品被用来训练这些AI模型。 每一条Reddit评论、原创YouTube视频或 DeviantArt上的人类画作都被卖给了AI公司。 或者直接被它们窃取。 没有署名,也没有向真正的创作者付费。 创意盗窃规模之大,已无法防范, 已经让大量创意工作者的作品陷入危险——只为让AI公司发财。 虽然这令人悲伤和沮丧,但更糟糕的是,生成式 AI确实有可能不可逆转地破坏互联网。 因为它让辨别真假变得越来越难。 起初AI看起来很棒! Kurzgesagt的脚本从基础研究开始,然后转化为脚本, 再由2-3人进行深入的事实核查。 我们试图用我们认为可信的来源来确认信息, 最好是第一手来源,最好是论文。 然后我们找1-3位专家提供意见和批评。 仅事实核查和整理来源,每个视频就需要大约100小时。 当然我们会犯错或过度简化,你可以不同意我们的结论 ——这不可避免,毕竟我们只是人类。 但可以说我们的流程很全面,经过十年, 我们知道自己在做什么。 当AI出现时,我们非常兴奋。 一个机械大脑能够超快速地收集信息! 于是我们开始工作,看起来棒极了! 然后我们开始事实核查。 我们没指望它完美——但它比我们想象的糟糕得多。 自信地犯错——AI在这方面太差了 我们将总结和概括我们的经验, 把多个项目、数月的工作浓缩成一个虚构项目。 一个关于为什么褐矮星是最差的、应该为自己感到羞耻的视频。 所以我们开通了所有AI模型的专业账户,开始工作。 使用深度研究工具创建关于这些 失败恒星——褐矮星——所有信息的摘要和概述。 哇,太棒了! 几十页的大纲,包含独特的信息点和来源链接! 然后我们开始深入查看。 超过80%的信息和事实是相当可靠的, 我们可以重建它们的来源。 维基百科、论文、正规文章。 那剩下的呢?都是很棒的内容,比如褐矮星超级风暴的速度、 它们内部的性质,或者它们的妈妈有多失望。 但我们找不到AI从哪里得到这些信息。 这并不一定是个坏迹象——毕竟, 这些模型几乎包含了所有互联网内容和有史以来写过的书。 所以我们向专家求证——他们指出了完全相同的事实,

HN 上的讨论

我很高兴他们深入探讨了数据反馈的问题。Kurzgesagt 制作了一个很棒的视频,讲述这些东西是如何生成的:一篇文章使用了这个,数据集在此基础上训练,然后未来的输出将引用这篇文章作为引文。[VIDEO] 这是需要解决的悖论。为了让 LLM 更准确,我们试图将其固定到引文上,但这意味着必须相信引文是准确的。然而,如果引文是由 LLM 生成的,那么基本上就不可能确认其准确性。正如人们所说,2022 年之后的任何事情都不能可靠地信任。你可以做尽职调查,但如果你能做到的话,那是大量的工作。这确实凸显了一个观点:谎言能在真相穿上鞋子之前传遍全世界。 — ColdStream, 2026-07
绝对如此。如果知识是可验证的。Kurzgesagt最近上传了一个关于此的视频,由于AI,验证陈述要困难得多。不是更容易。如果你感兴趣,这里是视频: [VIDEO] — zwnow, 2025-10
如果你觉得这没什么大不了,我建议你看看 kurzgesagt 刚做的关于这个话题的视频。这比你想象的要难得多,而且随着时间推移,由于 AI 垃圾内容,情况正在急剧恶化。[VIDEO] — ikiris, 2025-10
你似乎对自己的观点非常热情,但你快乐吗?事实仍然是,LLM 无法在不消耗我们整个本星系群 75% 能量输出的情况下达到与人类相当的错误率。虽然我觉得真正的神经形态计算话题更有趣,但 LLM“AI”真正信徒的出现,对于那些了解它们实际是如何构建的人来说,是深深令人担忧的。=3 [LINK] [VIDEO] [LINK] — Joel_Mckay, 2026-02
LLM 垃圾根本没有抱负,它只是点击诱饵的废话。[VIDEO] 让人发疯:[LINK] 而且 LLM 在经济和技术上不可持续:[LINK] 这些已经证明,如果 AGI 出现,它将不受约束。[LINK] LLM 泡沫将会过去,因为它已经随着每个新用户而亏损。=3 — Joel_Mckay, 2025-12

相关视频