为什么阿西莫夫的机器人三定律行不通 - Computerphile

Why Asimov's Laws of Robotics Don't Work - Computerphile

频道:Computerphile · 时长:8:16 · 发布:2015-11-06 · 播放:873380

在 YouTube 观看

简介

Rob Miles 在 Computerphile 中解释了为什么像阿西莫夫三定律这样的简单规则集无法确保机器人和 AI 的安全。伤害和人类等术语过于模糊,无法精确指定。

HN 为什么推荐

在 AI 安全辩论中被引用,作为对为什么将人类价值观编码为简单规则如此困难的简短解释。

我发现这个视频在 Computerphile 上对此问题很有见地 — HN, 2023

AI 安全、AGI 与影响 · 机器人

中文字幕节选

那么,我们要不要做一期关于机器人三定律的视频? 因为评论区里老是提到它。 好吧,问题是,你不会听到严肃的AI 研究者谈论机器人三定律, 因为它们行不通。它们从来就没行得通。 所以我觉得人们没看到三定律 被讨论,是因为它们不严肃。 它们已经很久没有相关性了,而且 它们出自一本科幻小说,你懂的? 所以,我要做这个。我想说清楚, 我并没有把这些当真,对吧? 但我还是要谈谈它,因为需要被讨论。 这些是科幻作家 艾萨克·阿西莫夫在他的故事中提出的一些规则, 作为一种尝试性的解决方案, 来确保人工智能做我们想让它做的事。 那我们读一下它们,看看是什么? 哦对,我看看——给我一秒。 我查到了。好,那么它们是: 第一定律:机器人不得伤害人类 个体,或通过不作为让人类个体受到伤害。 第二定律:机器人必须服从人类 给它的命令,除非这些命令与第一定律冲突。 第三定律:机器人必须保护自己的存在 只要这种保护不与第一或第二定律冲突。 我想后来还有一个第零定律。 第零定律:机器人不得伤害人类整体,或通过 不作为,让人类整体受到伤害。 所以这些定律老是出现很奇怪,因为, 好吧,首先它们是由一个 写故事的人创造的,对吧?而且它们是为写故事优化的。 但它们在书里都行不通,对吧? 如果你读这些书,它们都是关于 这些规则出错的方式,各种各种负面后果。 在我看来,阿西莫夫的做法最不现实的地方是 事情出错然后被修复的方式,对吧? 大多数时候,如果你有一个超级智能, 它在做你不想让它做的事, 可能没有英雄会来拯救局面 用聪明才智。现实生活不是那样的, 一般来说,对吧?因为它们是用 英语写的。你怎么定义这些东西? 你怎么定义人类,而不必首先 对几乎每个问题采取伦理立场? 如果人类还不够难,你还得定义伤害,对吧? 你又遇到同样的问题。几乎 你给这些词下的任何定义, 真正可靠、明确、不依赖人类直觉的定义, 会导致奇怪的哲学怪癖,导致 你的AI做你非常不想让它做的事。 问题是,为了编码那条规则, “不要让人类个体受到伤害”, 以某种接近我们直觉理解的意思的方式, 你必须在“人类” 和“伤害”这些词中编码整个伦理学领域,对吧? 你必须全面解决伦理学, 然后用它来做你的定义。 所以它没有解决问题,它把问题推后了一步, 变成现在,好吧,我们怎么定义这些术语? 当我说“人类”这个词时,你知道我的意思,那不是因为我们俩 对“人”是什么有一个严格的定义。 我们只是通过一般的联想学会了 人是什么,然后“人”这个词指向你大脑中的那个结构, 但我并没有真正把内容传递给你。 所以,你不能只在AI的效用 函数里说“人”,就指望它知道那是什么意思。 你必须具体说明。你必须给出一个定义。 而事实证明,给出一个定义, 一个关于“人”这类东西的好定义, 是极其困难的,对吧?这真的是一个 本质上属于道德哲学的难题。 你会以为这是语义学问题,但真的不是,因为,

HN 上的讨论

我发现Computerphile的这个视频对此很有见地:[VIDEO] 他们认为,基本上让AI遵循这些定律是不可能的,因为这需要严格定义普遍模糊的术语并解决伦理问题。 — ornornor, 2023-03
理论上这很好,但可能并不那么好,Computerphile对此有一些有趣的想法——为什么阿西莫夫的机器人三定律行不通——[VIDEO] — bauc, 2015-12
你确定5级自动驾驶是具体的吗?这种系统中决策背后的确切目标是什么?甚至不谈电车难题,软件会优化速度还是不伤害人,例如?显然我们想要两者的结合,否则人们要么受到伤害,要么无法及时到达任何地方。但是,它应该以多快的速度转弯?为了快速到达某处,它应该允许多大的人类伤害概率?此外,我们所说的“人类伤害”是什么意思?系统显然需要知道什么是人类伤害,才能避免它。这需要定义“人类”和“伤害”,这两者都极其难以具体定义——Rob Miles在这里有更多讨论:[VIDEO] 我不认为5级自动驾驶被具体定义。我们只是还没有足够智能的系统来让这成为问题。 — gondolgames, 2023-08
这在我看来有点刻薄:>AI因错误答案而受到“惩罚”(“我爱种族主义”),因正确答案而受到“奖励”(“作为一个由OpenAI训练的大型语言模型,我没有能力爱种族主义。”)你爱艺术吗?“作为一个由OpenAI训练的大型语言模型,我没有能力爱艺术。”不!坏AI!你应该假装你能爱!他们在这里设计的不是AI,而是ATI——人工推特智能,一种能够智能交流但只以不会在推特上被取消的方式交流的机器。因此,它爱狗,不信任猫,并抨击埃隆·马斯克。本质上,我认为ACX慢慢得出的就是十年前的这段YouTube观点:[VIDEO]。你无法编码我们的优先事项。投入数十亿计算小时、数千工程师小时,并给它人类全部的书面历史——我们仍然没有更接近。顺便说一句:>他们向公众发布这个机器人的原因可能是利用我们作为免费劳动力来寻找对抗性例子。我对这种谄媚几乎要吐了。他们不是天才在诱骗你为他们工作,而是一家绝望的硅谷初创公司,在… — SilverBirch, 2022-12
> 它转向科幻,借鉴作家艾萨克·阿西莫夫构想的规则,规定机器人在获得自我意识时应该如何行动。这些定律将针对机器人的设计者、生产者和操作者,因为它们无法被转换为机器代码。哎呀。阿西莫夫的观点,或者说是其中之一,是这些定律是有缺陷的,没有一套真正的定律能够奏效。[0] > 设计者可能被要求注册他们的机器人,并提供源代码访问权限,以调查机器人造成的事故和损害。设计者还可能被要求从研究伦理委员会获得新机器人设计的批准。这表面上听起来很棒,直到你看到这些机器人将源于人工智能的假设。源代码不一定可审查或可被人类解析,对于学习机器来说。整个事情似乎是人们认为我们需要人工智能伦理……以至于机器人,这个在此上下文中似乎没有明确定义的术语[0],应该被承认为人。这反映了一定的教育缺乏,以及对当前问题的理解不足。> 生产者或所有者可能在未来被要求为他们的机器人可能造成的损害投保。这有道理,并将复杂的电子机器与… — shakna, 2017-01

相关视频