通用人工智能的致命真相? - Computerphile
Deadly Truth of General AI? - Computerphile
频道:Computerphile · 时长:8:30 · 发布:2015-06-17 · 播放:942005
简介
Computerphile 视频中,Rob Miles 警告不要假设通用人工智能会像人类一样思考。他使用收集邮票的人工智能的思想实验来展示一个目标驱动的系统如何可能以危险的结果追求其目标。
HN 为什么推荐
常被指出作为人工智能安全性的易理解入门,以及为什么超级智能人工智能可能危险。
2015 年有一个很棒的 Computerphile 视频,不久前让我了解了人工智能安全的概念。 — HN, 2022
中文字幕节选
从最基础的意义上说,如果你拥有一个 通用智能,因此它对世界状态有偏好 并在世界中采取行动来改变世界 我们必须确保它的偏好与我们的相一致 确保它想要的就是我们想要的。 因为否则它就会试图做我们不希望它做的事。 这就是基本思路…… (科幻作品登场了,我们说的是终结者、黑客帝国这类, 机器接管世界——我个人向我们的新机器人霸主致敬) 这让这个问题很难思考,对吧? 当事情发生在虚构作品中时,通常是为了让故事更好看 而不是实际会发生什么,我认为一个 一个写实的“AI接管世界”类型的故事 可能读起来一点都不有趣。所以一方面 这些东西很难思考,是因为虚构作品,因为我们都曾 接触过与这些想法类似的东西 另一方面让这个问题难以思考的是拟人化 因为我们谈论的是通用智能 所以我们会把它与我们拥有的通用智能的例子相比较 也就是人类心智,而人类心智与人工通用智能 未必有任何相似之处,就像飞机与鸟不相似一样 一架超音速战斗机对你的威胁方式,是 任何鸟都做不到的。事实上这种比较毫无用处 但当你一说“哦,这东西有翅膀、会飞”,人们 那些对飞机一无所知的人立刻就会想到鸟 (想必机器可能比我们所能想象的更加自私) 绝对如此,心智的空间总体上极其广阔 我喜欢这一点,因为我们已经聊过空间了,所以我可以这么做。如果你 取所有可能心智的空间 它非常巨大,然后在这个空间内的某处,有所有 生物进化所能产生的心智的空间 那也同样巨大,在这个空间内的某处,有 实际存在的心智的空间,它小得多但仍然巨大 在这个空间内,有人类心智,对吧,它们是一个微小的,它们是 一个微小点上的微小点上的微小点,相对于 实际存在的智能可能性而言,而 我们创造的通用智能来自这个空间的 完全不同的部分,而且极其容易将其拟人化 甚至比其他情境下更容易,因为 它是一个明显具有智能的东西,会制定计划、会 在现实世界中采取行动,但它未必以 任何像我们的方式思考,把它当作 基本上是一个人,这是个错误,因为它不是。所以其实有一个非常好的例子 我们可以用。它算是一个思想实验 这不是一台实际能被造出来的机器 这是一个关于人工通用智能的例子 它被概括性地描述出来 它给你一些东西去思考,当你在思考 人工通用智能时,它使其区别于 某种拟人化的人类式智能。所以故事是这样的:有一个 集邮者,他同时也是一名AI 程序员,他决定想收集多得多的邮票 所以他要写一个AI来替他做这件事。于是他造了一台机器 他对通用智能有了一些惊人的洞见,他造了这台机器 它连接到互联网,对吧? 所以这个系统的规则 相当简单。第一,它连接到互联网,它会 发送和接收数据,为期一年。所以,他给了自己一年的时间 窗口来收集邮票。第二件事是 它有一个关于现实、关于宇宙的内部模型 这就是有点神奇的地方,我们其实并不知道如何构建一个准确的 现实模型。关键在于,这使它能够 准确预测如果它采取不同行动会发生什么
HN 上的讨论
但关于AI接管世界的担忧是合理且重要的;即使一开始听起来很傻,背后也有非常坚实的推理。它们是大矩阵,没错,但它们是图灵完备的,这意味着理论上它们可以执行任何计算任务。观看[VIDEO]了解一个非常有趣的视频,解释为什么理论上的超级智能AI会危险,当你考虑到这些模型可以自我改进并接近那种智能水平时,就变得令人担忧了… — circuit10, 2023-04
“那些非问题”为什么那是非问题?这是一个我们需要更认真对待的非常重要的问题。我从我写的另一条评论中粘贴了这段,但是:关于AI接管世界的担忧是合理且重要的;即使一开始听起来很傻,背后也有非常坚实的推理。观看[VIDEO]了解一个非常有趣的视频,解释为什么理论上的超级智能AI会危险,当你考虑到这些模型可以自我改进并接近那种智能水平时,就变得令人担忧了… — circuit10, 2023-04
2015年有一部很棒的Computerphile视频,早些时候让我了解了AI安全的概念。它似乎为这篇文章提供了很好的背景:[VIDEO] — johncs, 2022-12
> 指数级飞跃 最近(-ish)的一期 Computerphile 视频对 AI 自我改进问题做了很好的概述。[LINK] 我建议先看前一个视频,它介绍了强人工智能迅速找到解决方案(尤其是针对定义不清的问题)可能不符合人类最佳利益的问题。[VIDEO] 在任何人得出过于耸人听闻的结论之前,请注意该系列的最后一个视频中,Rob Miles 解释了指数级自我改进只是可能的人工智能发展空间中的一个极端点。我们不知道如何预测发现[1],所以我们需要对 AI 进行更多研究,以便有望创造出不会以超出我们理解的方式指数级增长的东西。[LINK] [1] 参见 James Burke 关于变化的非目的论观点 — pdkl95, 2016-03
那是“黑色预算”概念的问题,而不是支付机制的问题。比特币阻止的政府腐败实际上是银行腐败,但中央银行(包括美联储)与政府携手合作(实际上控制它们),所以这是一种联合努力。腐败是这样运作的:当美联储在20世纪初成立时,它与政府达成协议,能够无限制地印钞,前提是以贷款形式,并同意在贷款偿还时销毁这些钱。所有这些都在凯恩斯主义的“货币弹性”幌子下进行。美中不足的是,银行可以对这些印出的钱收取利息——如果它们不这样做,就会变成自由放任,因为利息是抑制债务的因素。这导致了过去100年里货币供应量每十年翻一番,因为银行有动力尽可能多地放贷。[LINK] 每次你将货币单位数量翻倍,货币的总价值就被稀释到两倍的单位数量上,因此每个单位价值减半。如果你做得太快,人们会对货币失去信心,陷入恶性通货膨胀,但如果你控制得恰到好处,他们就不会察觉。消费品的价值(汽车、食物、牙刷等)由于技术驱动的制造效率提升每年下降… — npoc, 2024-04
相关视频
- MarI/O - 视频游戏机器学习 · SethBling · 5:57
- 性别中立代词:它们来了,习惯就好 · Tom Scott · 3:48
- BlueHat IL 2019 - Andrew “bunnie” Huang - 供应链安全:“如果我是一个民族国家...” · Microsoft Israel R&D Center · 45:37
- 但什么是傅里叶变换?视觉介绍。 · 3Blue1Brown · 19:41
- Dan Geer 在 Black Hat USA 2014 的演讲:网络安全即现实政治 · Black Hat · 54:35
- Mark Blyth ─ 全球特朗普主义 · Watson School of International and Public Affairs · 1:26:03
- 切尔诺贝利 3828 · TeleconStudio · 26:57
- 地平说:一次有分寸的回应 · hbomberguy · 45:17
- TASBlock在AGDQ 2017:TASBot · TASVideosChannel · 58:44
- George Lakoff:道德政治 · University of California Television (UCTV) · 58:57
- Tom Lehrer - Wernher von Braun · The Tom Lehrer Wisdom Channel · 1:46
- 国会筹款:John Oliver 的《上周今夜秀》(HBO) · LastWeekTonight · 21:25
- DCEmu评测 - 27C3 - 2010年混沌通信大会 - fail0verflow - 完整视频 · 1KIND Reviews · 44:39
- 他们由肉组成 · niccollsdp · 6:16
- 让直升机悬停难到好笑 - Smarter Every Day 145 · SmarterEveryDay · 9:45
- 数据 | Philosophy Tube · Philosophy Tube · 26:14
- 另类右翼手册:控制对话 · Innuendo Studios · 10:47
- 《超级马里奥世界》——5:59.6 通关制作人员名单(首次在主机上实现) · SethBling · 9:00
- Velocity NY 2013: Richard Cook, "复杂自适应系统中的韧性" · O'Reilly · 19:09
- 关于傅里叶变换的更普遍的不确定性原理 · 3Blue1Brown · 18:06