忽略AI安全的10个理由
10 Reasons to Ignore AI Safety
频道:Robert Miles AI Safety · 时长:16:28 · 发布:2020-06-04 · 播放:363729
简介
罗伯特·迈尔斯逐一列举人们常用来否定AI安全的十个理由(改编自斯图尔特·罗素的清单),并一一回应。该视频面向怀疑者和新入门者。
HN 为什么推荐
HN评论者将其链接为对轻蔑论调的精简反驳,并借此说明为何人们认为AI安全很重要。
这个视频可能有助于了解人们认为它重要的一些论据 — HN, 2024
中文字幕节选
嗨。斯图尔特·罗素是一位人工智能研究员,我已经 在这个频道上谈过他好几次了。 多年来,他一直向其他人工智能研究员倡导这类安全 或对齐理念, 已经有好几年了,显然他得到的反应 往往是这样的。在第一阶段, 我们说不会发生任何事情。第二阶段,我们 说可能会发生一些事情,但我们应该 什么都不做。第三阶段,我们说 也许我们应该做点什么,但 我们无能为力。第四阶段,我们说也许 我们本来可以做点什么,但 现在已经太晚了。所以他整理了一份清单, 列出了人们给他的一些回应。 这份清单包含在一篇论文中,在他的一些 演讲中,以及他最近的书《人类兼容》中, 顺便说一句,这本书非常好。去看看那本吧。 但据我所知,它还没有成为一个独立的 YouTube视频,尽管它非常适合做成 YouTube视频。这是10个理由,说明那些 不是你的人对人工智能安全的看法是错误的。所以这就是 这个视频的内容。人们给出的10个不关注 人工智能安全的理由。现在在我开始之前,我需要 做一个双重免责声明。首先,正如我 所说,这不是我的清单,是斯图尔特·罗素的, 功劳归他。但其次,罗素教授 和我没有任何关联, 我改编了他的清单并给出了我自己的看法, 所以这个视频不应被视为斯图尔特·罗素观点的代表。 明白了吗?如果这个视频里有什么 好的地方,功劳归斯图尔特·罗素,如果有什么 不好的地方,责任归我。好了,废话不多说, 人们给出的10个不关注 人工智能安全的理由。理由一。我们永远不会 真正制造出通用人工智能。 这显然是一个相当常见的回应,甚至 来自人工智能研究员,这很奇怪,当你 考虑到人工智能领域几十年来 一直在抵御来自外部的攻击,来自 像休伯特·德雷福斯这样的人,我有一期视频 是关于他的,人们认为人类水平的人工智能是 不可能的。人工智能研究员一直说,不, 当然可能,当然我们会 做到。而现在人们提出了安全担忧。 有些人说,好吧,我们当然永远不会 做到。事实是,人类水平的 智能,通用智能,一直是人工智能领域 从一开始的目标和承诺,而且 说“是的,我们正在尽我们所能 朝着这个目标努力,但别担心,我们 肯定会失败”似乎很奇怪。想象一下,你发现自己在 一辆公交车上,司机说:“哦是的,我正在朝着 那个悬崖边缘开,但别担心, 公交车肯定会在我们到达之前抛锚。” 现在他们不一定是虚伪的,他们 可能真的相信我们永远不会实现AGI, 但问题是,著名科学家说 某件事是不可能的,从来都不是一个非常 可靠的指标。我的意思是,他们肯定说过 很多真正不可能的事情 但他们也对许多事情这么说, 而那些事情后来却发生了,有时还相当快。 例如,受人尊敬的科学家们曾公开 声明,比空气重的 人类飞行是不可能的,直到 莱特兄弟在基蒂霍克进行了首次飞行, 事实上我认为甚至在那之后 稍微一段时间,因为当时消息传播相当缓慢。 同样地,这也是我在Computerphile上
HN 上的讨论
这是否真的不太可能,还有待商榷。许多人,包括(似乎尤其是)专家,认为这很可能,甚至不可避免。这个视频可能有助于了解人们为什么认为它很重要的一些论点:[VIDEO] — circuit10, 2024-05
我觉得你没有花足够的时间去查证,他正是一位拥有 AI 安全博士学位的专家!你所展示的那种推理方式,在另一个视频里已经讨论过了:[VIDEO] — sabellito, 2022-08
>但我们应该等等看会发生什么。大多数 AI 对齐和安全领域的人不会同意你的看法。Robert Miles - 忽略 AI 安全的 10 个理由。[VIDEO] — pixl97, 2023-02
相关视频
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- AI 安全是帕斯卡的赌注吗? · Robert Miles AI Safety · 13:41
- 智能与愚蠢:正交性论点 · Robert Miles AI Safety · 13:02
- AI“停止按钮”问题 - Computerphile · Computerphile · 20:00
- MarI/O - 视频游戏机器学习 · SethBling · 5:57
- 通用人工智能的致命真相? - Computerphile · Computerphile · 8:30
- 为什么 AI 会想做坏事?工具性趋同 · Robert Miles AI Safety · 10:35
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- Veritasium:关于AI和学习,大家都搞错了什么——德里克·穆勒解释 · Perimeter Institute for Theoretical Physics · 1:15:10
- 我们正在构建一个反乌托邦,只为让人们点击广告 | Zeynep Tufekci · TED · 22:55
- AI 安全入门,重制版 · Robert Miles AI Safety · 18:04
- AGI的火花:GPT-4的早期实验 · Sebastien Bubeck · 48:32
- 为什么不呢:把 AGI 想象成一家公司? · Robert Miles AI Safety · 15:27
- AI 困境 - 2023 年 3 月 9 日 · Center for Humane Technology · 1:07:31
- 杀戮机器人 · Stop Autonomous Weapons · 7:48
- 34C3 - 老兄,你毁了未来! · media.ccc.de · 57:58