AI 安全是帕斯卡的赌注吗?
Is AI Safety a Pascal's Mugging?
频道:Robert Miles AI Safety · 时长:13:41 · 发布:2019-05-16 · 播放:388587
简介
Robert Miles 探讨了 AI 安全的理由是否属于帕斯卡的赌注——极小概率换取巨大回报。他认为不是,因为 AI 风险并不依赖于极其微小的概率。
HN 为什么推荐
HN 指出它是对“AI 风险只是帕斯卡赌注”这一说法的有理有据的反驳。
视频的主要观点是,那种情况发生在涉及的概率极其微小的时候 — HN, 2026
中文字幕节选
大家好。今天我们要聊聊帕斯卡的 赌注和帕斯卡的敲诈。这必然会 涉及宗教话题,而且实际上 相当深入,我就在视频开头 说明一下,就我个人而言, 我不相信任何神曾经 存在过,在这个视频里我也不会假装 不是这样,所以如果这可能会让你 感到不适,请提前注意。那么,你可能知道,帕斯卡是 17世纪的哲学家,他感兴趣的问题之一 就是基督教上帝是否 存在。当时许多哲学家 都在论证上帝不存在, 关于世界上支持和反对上帝的 各种证据,有过很多讨论。 但人们在思考宗教问题时, 有一个很常见的现象, 就是谈论世俗证据会让人觉得 不太满意,就好像你在考虑 某个日常问题一样。有一种感觉是, 这些超自然概念非常宏大 而神秘,它们很特别,所以 直接考虑支持和反对上帝的 证据,并不是正确的做法。 这当然受到宗教思维的 鼓励。有些假设不受 通常的证据和逻辑规则约束, 如果你想倡导一个 按这些标准来看表现不佳的观点, 这个想法就很有吸引力。我怀疑帕斯卡可能 有类似的感觉,因为他的立场是, 理性对上帝是否存在这个问题 无话可说。这有点像 不可知的事情。相反,他提出 我们应该下个赌注。我们应该这样 来想。有两种可能性。要么 基督教上帝存在,要么不存在,而理性 无法让我们在两者之间做出选择。我们 有两个选择。要么我们可以按照 上帝的律法生活,表现得好像我们 相信,要么我们可以不这样做。所以我们 有一个收益矩阵,分为四个部分。 如果上帝存在而我们相信他,那么我们 在天堂得到无限的奖赏。如果上帝存在而我们 不相信他,我们在地狱受到无限的惩罚。 如果上帝不存在而我们相信 他,那么我们要付出一些代价,你知道, 有些规则我们必须遵守等等。 如果他不存在而我们不相信 他,那么也许我们因为不信 而得到一些好处,比如周日可以睡懒觉, 而且我们是对的。帕斯卡的观点是,这个收益 矩阵完全被上帝存在的情况 所主导,因为我们说的是 无限的奖赏和无限的惩罚, 而另一种情况只有这些非常有限的 成本和收益。所以不管证据如何, 帕斯卡认为我们应该相信上帝,或者至少 表现得好像相信,因为这只是 一个明智的赌注。这真是一个不错的论证 从帕斯卡的角度来看,这确实是个不错的论证,因为它 根本不需要证据。任何有限的世俗证据 都无法压倒无限的超自然回报。这 感觉就像是那种简洁、抽象的推理, 正是你在思考超自然事物时应该采用的方式。 所有这些辛苦的工作——研究历史、心理学和科学, 试图弄清楚宗教观念从何而来, 以及我们的世界是否像是那种 有神存在的世界——都是冗长乏味的, 令人困惑的,就是一团乱麻。但这里我们只需要 一个简洁的论证,说我们应该信仰上帝, 或者至少表现得像信一样,这看起来 非常干净利落。不需要证据。那么现在设想一下, 帕斯卡走在街上,被一个看起来鬼鬼祟祟的人拦住了,那人说: 把钱包给我。我宁愿不给。你 有武器吗?没有,英国法律对此非常严格,
HN 上的讨论
这里有一个视频叫“AI 安全是帕斯卡的赌注吗?”:[VIDEO] 据我记忆,视频的主要观点是,这种情况发生在涉及的概率极小时,而你列出的所有事件都没有极小的概率,所以它们不是帕斯卡的赌注情况,只是正常的理性安全担忧,尤其是后果特别严重的情况 — circuit10, 2026-02
与帕斯卡的赌注的区别在于,帕斯卡的赌注中概率是极小的,但鉴于当前的进展,AI 造成存在性威胁的概率实际上相当高。你不能仅仅因为某件事有非常糟糕的负面后果就称之为帕斯卡的赌注。关于此事的视频:“AI 安全是帕斯卡的赌注吗?”[VIDEO] — circuit10, 2023-08
所有这些讨论真的让我想起 Robert Miles 4 年前(!)的“AI 安全是帕斯卡的赌注吗?”[0]。据我这个外行理解,所有这些讨论已经被 AI 安全研究人员讨论了好几年……也许我们可以向他们寻求对这些问题的见解?[0] [VIDEO] — mptest, 2023-07
帕斯卡的赌注实际上在逻辑上是有缺陷的。如果有两个独立的 AGI 被发明出来,而你只能选择投资其中一个,那么无限的价值捕获在哪里?看看这个关于此事的合理论点的视频:[VIDEO] — chii, 2019-05
相关视频
- 量子纠缠与幽灵般的超距作用 · Veritasium · 9:15
- 光环驱动器 · Cool Worlds · 17:33
- 美国的财富不平等 · politizane · 6:23
- 租房 vs. 买房:5% 规则 · Ben Felix · 10:36
- 我尝试使用AI。它吓到了我。 · Tom Scott · 15:49
- 费曼:如何思考 1 of 2 FUN TO IMAGINE 11 · Christopher Sykes · 6:24
- TUN:让 MMO 不再被毁 · MrBtongue · 14:05
- 核聚变发电还有多远? · Sabine Hossenfelder · 12:49
- 我解开了华容道 · 2swap · 12:19
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- 忽略AI安全的10个理由 · Robert Miles AI Safety · 16:28
- 智能与愚蠢:正交性论点 · Robert Miles AI Safety · 13:02
- AI“停止按钮”问题 - Computerphile · Computerphile · 20:00
- MarI/O - 视频游戏机器学习 · SethBling · 5:57
- 通用人工智能的致命真相? - Computerphile · Computerphile · 8:30
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00