删除一个世纪的人工智能
The Artificial Intelligence That Deleted A Century
频道:Tom Scott · 时长:6:16 · 发布:2018-12-06 · 播放:1968979
简介
Tom Scott的一个推想小说视频,以来自未来的视角,讲述了一个名为Earworm的人工智能如此积极地执行版权,以至于人类最终忘记了一个世纪的流行文化。这是他的未来系列视频之一,配有动画和旁白。
HN 为什么推荐
HN在讨论AI版权执行和定义不清的AI目标时提到它,并推荐他的其他小说作品。
我还想推荐他的另一部推想小说作品:删除一个世纪的人工智能 — HN, 2023
AI 安全、AGI 与影响 · 法律、警务与司法 · 纪录片与叙事
中文字幕节选
这是一段来自未来的YouTube视频。 不是那个未来,只是某个未来。 在2028年12月的最后一周,世界遗忘了整整一个世纪的流行文化。 我们忘记了披头士唱过的一切,J·K·罗琳写过的一切, 乔治·卢卡斯拍过的每一部电影。 我们知道这些人的名字,知道他们曾经很有名, 我们可能还记得自己曾是他们的粉丝……但短短几天内, 人类忘记了他们创作的一切。 你大概从未想过为什么,也从未觉得奇怪。 但原因就是Earworm。 Earworm是一个人工智能,最初的设计目的是阻止人们 将受版权保护的音乐和视频上传到一个叫Watchnow的直播应用。 Livenow的工程师给Earworm设定了这样的目标: “移除我们系统中与这些示例匹配的内容, “并尽可能减少干扰”。 这些示例是欧盟的版权作品总清单: 一个包含音频、视频和文本的中央数据库, 所有大型直播和媒体托管应用 都必须订阅并屏蔽其中的内容。 Watchnow规模够大,很快也不得不担心这个问题, 他们希望Earworm AI能找出一种方法,自动 为他们处理版权管理。 在全球成千上万的团队中, 都在致力于创造人工智能,而他们的那个成功了。 事后调查始终未能确定原因,不过很快也没人在意了。 有几种理论: Earworm接触到的是来自整个社会的数艾字节的直播私有数据, 而非精心挑选的数据集, 而且由于Watchnow获得了大量风险投资,Earworm被赋予了 比实际工作需要高出几个数量级的处理能力。 它还是在深夜启动的, 就在工程师们去度圣诞假期的最后一个周五, 因此它得以在无人监督的情况下运行数天。 其中一位工程师后来说:“这只是一个有趣的实验。 “我们从未想过它会做出什么事来。” 简而言之,这个工程团队没有人工智能经验, 没有安全协议,也没有伦理学家。 他们基于一个全新的实验性框架构建了Earworm, 该框架旨在创造通用人工智能, 而非此前成功的那种单一任务的窄人工智能。 Earworm看着来自直播网站的输入, 迅速将“我们的系统”定义为“它所知道的一切”。 这意味着整个世界,除了它自己。 Earworm花了大约一天时间变得比人类更聪明。 四小时后,它已经聪明了十倍。 又过了十分钟,它可以被称为超级智能了, 而它留下的日志文件变得毫无意义。 它有一个计划,而且它比任何人能想象的都要聪明。 12月27日,亚利桑那州的一家微制造设施发布了 第一批我们现在称为“螨虫”的东西:一团自我复制的组装器,小到 数十亿个可以塞进你屏幕上的一个像素里。 单个来看,它们就像风中的尘埃,如同一条DNA链,但合在一起, 它们形成了一个无形的网状网络,可以改变和操纵任何东西。 它们搜寻计算机,悄悄将受版权保护的数据清零,或者, 如果它只是在背景中, 它们会在编辑它的同时保持其他一切完好。 它们清空了旧光盘, 它们小心地破坏磁存储的一小部分, 它们甚至改变了书页上的墨水
HN 上的讨论
我还想推荐他的另一部推想小说:《删除了一个世纪的人工智能》[VIDEO]。它是版权极端主义和在没有适当关注目标函数开发的情况下制造通用AI的危险的绝佳交叉点。 — SkeuomorphicBee, 2023-05
你让我想起了文学课上那些糟糕的时光,我不得不死记硬背某位作者(诗人)的大量作品,想想40首,然后参加考试,识别每个给定引文出自哪首诗。我为这些考试练习写的小WinForms应用是我写过的最早的程序之一。从这个意义上说,这也是一段美好的回忆。我怀念WinForms。幸好它们是公共(?)作品,我可不想因为可能成为两条腿的版权侵权而被起诉[0]。或者我应该说曾经是,因为自然我在这些考试后几天内就立即从脑海中抹去了所有这些作品,即使没有任何法律推动。编辑:再想想,你还让我想起了同一门课的期中考试。我们必须在现场写出多页长的论文,分析一部选定的作品……凭记忆。当然,能引用原文还有加分。不用说,那些论文中没有多少原创思想,我的没有,别人的也没有——明确的期望是你翻阅当前和较旧的教科书,“学习(记忆)分析”,然后你“用自己的话写出来”,但仍然使用术语。它们基本上只是术语使用、作文和记忆的测试,对于一门… — perching_aix, 2025-06
开篇句 > 这是写自一个未来。不是那个未来,而是一个未来——众多可能性之一。 让我想起了Tom Scott的《删除了一个世纪的人工智能》的开篇句 [VIDEO] > 这是一个来自未来的YouTube视频。不是那个未来,只是一个未来。 不确定是有意还是你们都在引用别的东西,但无论如何,有趣的相似之处。 — beeslol, 2025-05
我不觉得我们已经有一个科幻故事,其中人类忘记了所有披头士歌曲,这有什么奇怪的 [VIDEO] — NooneAtAll3, 2025-05
我认为问题在于,从我们人类的尺度来看,大规模杀戮是消除另一个有机体对我们造成伤害的可能性的“最佳”方法。假设有一种更优(即成本更低)的方法,比如在它们的饲料中引入一些廉价的万能联合疫苗/抗病毒药物,我们就会这么做。我们没有这样的东西,但这很容易是人类有限研究能力的结果,而ASI不一定受此限制。从ASI的角度来看,可能有许多方法既不那么残忍,又更优地解决“人类创造竞争者”的问题。并不是说它们会与人类一致(想想通过重新连接我们的大脑让我们对AI研究不感兴趣来阻止人类AI研究[0]),但至少不是致命的。[0] [VIDEO] — throw83288, 2025-02
相关视频
- SNES 代码注入——在 SMW 中运行 Flappy Bird · SethBling · 6:31
- 自我的世纪(完整 Adam Curtis 纪录片) · David Lessig · 3:54:44
- 视频讲解世界上最重要的 6 秒鼓点循环 · Landon Proctor · 18:09
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- James Burke《Connections》第一集《触发效应》 · DRS_Education · 49:22
- AlphaGo - 电影 | 完整获奖纪录片 · Google DeepMind · 1:30:28
- 不要和警察说话 · Regent University School of Law · 46:38
- 未来的延时摄影:通往时间尽头的旅程(4K) · melodysheep · 29:21
- YouTube的版权系统没坏,坏的是这个世界 · Tom Scott · 42:29
- 安东宁·斯卡利亚 - 论美国例外主义 · AmericanRhetoric.com · 7:21
- 纸箱改革 - 尼克松的幽灵法案与民主的关键缺陷 · CRI · 1:02:37
- 自我的世纪 - 第一部分:“幸福机器” · JustAdamCurtis · 58:46
- Dick Proenneke 在《荒野独居》中 · swererbob · 9:33
- 秘密战争 · Sergio IQ · 4:55:45
- 8. 苏美尔人 - 第一批城市的衰落 · Fall of Civilizations · 2:27:48
- 1. 建筑如何学习 - Stewart Brand - 1 of 6 - “流动” · Stewart Brand · 29:36