我们能在不失去控制的情况下构建AI吗?| Sam Harris
Can we build AI without losing control over it? | Sam Harris
频道:TED · 时长:14:28 · 发布:2016-10-19 · 播放:3905054
简介
Sam Harris在TED演讲中认为,我们将构建超人类AI,并且没有认真应对创造可能像我们对待蚂蚁一样对待我们的东西的风险。他为认真对待AI风险提出了逻辑论证。
HN 为什么推荐
HN在AI风险辩论中引用它,有时作为经得起时间考验的论点,有时作为危言耸听框架的例子。
(如果你有15分钟,值得一看)。 — HN, 2023
中文字幕节选
我要谈的是我们很多人都存在的一种直觉上的失灵。 它实际上是一种无法察觉某种危险的能力缺失。 我要描述一个我认为既可怕又很可能发生的场景, 而事实证明,这可不是什么好的组合。 然而,大多数人非但不会感到害怕,反而会觉得 我所说的事情还挺酷的。 我要讲的是,我们在人工智能方面取得的进步 最终可能会毁灭我们。 事实上,我认为很难看出它们怎么会不毁灭我们, 或者促使我们自我毁灭。 然而,如果你和我差不多, 你会发现思考这些事情其实挺有趣的。 而这种反应本身就是问题的一部分。 对吧?这种反应应该让你感到担忧。 如果我在这次演讲中让你相信 我们很可能遭遇一场全球性饥荒, 要么是因为气候变化,要么是某种其他灾难, 而且你的孙辈,或者他们的孙辈, 很可能过着这样的生活,你不会想:“有意思。 我喜欢这个TED演讲。”饥荒可不好玩。 而另一方面,科幻式的死亡却很好玩, 目前人工智能发展中最让我担忧的一点 就是,我们似乎无法对前方的危险 调动起恰当的情绪反应。 我自己也无法调动起这种反应,而做这场演讲的人正是我。 就好像我们站在两扇门前面。 在第一扇门后面,我们停止了在制造智能机器方面的进步。 出于某种原因,我们的计算机硬件和软件就是不再变得更好了。 现在花点时间想想这为什么会发生。 我的意思是,考虑到智能和自动化如此宝贵, 只要我们还有一点能力,就会继续改进我们的技术。 什么能阻止我们这样做呢? 一场全面核战争? 一场全球性大流行病? 一次小行星撞击? 贾斯汀·比伯当选美国总统? (笑声) 关键在于,必须有某种东西摧毁我们所知的文明。 你得想象那得有多糟糕, 才能永久阻止我们改进技术, 一代又一代地阻止下去。 几乎可以说,这将是人类历史上发生过的最糟糕的事情。 所以唯一的替代选项,也就是第二扇门后面的情形, 就是我们年复一年、年复一年地继续改进我们的智能机器。 到了某个时刻,我们会造出比我们更聪明的机器, 而一旦我们有了比我们更聪明的机器, 它们就会开始自我改进。 然后我们就会面临数学家I·J·古德所说的“智能爆炸”的风险, 即这个过程可能脱离我们的掌控。 这一点常常被漫画化,就像我这里画的那样, 被描绘成对成群的恶意机器人攻击我们的恐惧。 但那并不是最可能发生的情景。 并不是说我们的机器会自发地变得恶毒。 真正令人担忧的是,我们会造出这样的机器, 它们的能力远超我们, 以至于它们的目标与我们自己的目标之间最微小的分歧都可能毁灭我们。 想想我们是怎么对待蚂蚁的。 我们并不恨它们。我们不会特意去伤害它们。 事实上,有时我们还会费心不去伤害它们。 我们在人行道上跨过它们。 但每当它们的存在与我们的某个目标严重冲突时, 比如说建造像这样的一栋建筑时, 我们会毫不犹豫地消灭它们。 令人担忧的是,我们总有一天会造出机器, 无论它们是否有意识,都可能以类似的漠视对待我们。 现在,我猜你们许多人觉得这很牵强。
HN 上的讨论
我认为没有多少人担心我们现在拥有的东西是重大风险。主要的担忧是我们目前所处轨迹的影响。如果你看看ChatGPT和Midjourney等现在能做什么,与几年前相比,这相当令人难以置信。如果你推断接下来几次类似的能力飞跃,并假设那不会在20年后才发生,那么甚至在我的孩子大学毕业之前,AI将能够做到的事情会令人难以置信,而且在某些可能的未来中,并不是好事。我记得大约6年前看过萨姆·哈里斯的这个演讲,当时在逻辑上就很有道理([VIDEO])。过去几年使这一切更加具有先见之明。(如果你有15分钟,值得一看)。 — billti, 2023-07
这让我想起了萨姆·哈里斯将我们与约翰·冯·诺依曼之间的比较,类比于鸡与我们之间的比较。[1] [VIDEO] — bumby, 2022-09
即使是做TED演讲谈论AI威胁的人,也无法对未来的危险做出适当的情感反应:[VIDEO] — whatyoucantsay, 2017-10
相关视频
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- 为什么 AI 会想做坏事?工具性趋同 · Robert Miles AI Safety · 10:35
- Veritasium:关于AI和学习,大家都搞错了什么——德里克·穆勒解释 · Perimeter Institute for Theoretical Physics · 1:15:10
- 智能与愚蠢:正交性论点 · Robert Miles AI Safety · 13:02
- 我们正在构建一个反乌托邦,只为让人们点击广告 | Zeynep Tufekci · TED · 22:55
- AI 安全入门,重制版 · Robert Miles AI Safety · 18:04
- AGI的火花:GPT-4的早期实验 · Sebastien Bubeck · 48:32
- 为什么不呢:把 AGI 想象成一家公司? · Robert Miles AI Safety · 15:27
- AI 困境 - 2023 年 3 月 9 日 · Center for Humane Technology · 1:07:31
- 杀戮机器人 · Stop Autonomous Weapons · 7:48
- 34C3 - 老兄,你毁了未来! · media.ccc.de · 57:58
- AI 安全是帕斯卡的赌注吗? · Robert Miles AI Safety · 13:41
- 科幻短片《杀戮机器人》 | DUST · DUST · 7:58
- 无需编写奖励函数训练 AI,使用奖励建模 · Robert Miles AI Safety · 17:51
- AI 会超越人类智能吗?- 与“AI 教父”Geoffrey Hinton · The Royal Institution · 47:15
- Andrej Karpathy:特斯拉 AI、自动驾驶、Optimus、外星人和 AGI | Lex Fridman 播客 #333 · Lex Fridman · 3:28:47