关于人工智能的 Munk 辩论 | Bengio 和 Tegmark 对阵 Mitchell 和 LeCun
Munk Debate on Artificial Intelligence | Bengio & Tegmark vs. Mitchell & LeCun
频道:Policy-Relevant Science & Technology · 时长:1:47:20 · 发布:2023-06-24 · 播放:118096
简介
一场 Munk 辩论,辩题为 AI 研发是否构成生存威胁。Yoshua Bengio 和 Max Tegmark 支持该观点,Melanie Mitchell 和 Yann LeCun 反对。
HN 为什么推荐
HN 评论者推荐它,认为这是一场关于 AI 生存风险问题的精彩辩论,双方都是领军人物。
这场很不错 — HN, 2023
中文字幕节选
你不知道你的哪些事实会被推翻,你不知道你的 哪些论点会被彻底摧毁,你现在慌了神,你动摇了,你 不知道该说什么好,但你必须说点什么 资本主义不只是有问题,资本主义已经崩溃了,我认为是时候让 这种有毒的二元零和疯狂停止了,对 自由国际秩序的最大威胁[音乐]悖论性地不是 像中国这样的非自由社会,而是像美国这样的自由社会 被奉承操纵,被推文激怒,他的手靠近发射密码,当他 过热时,如果他那么离谱,那你一定认为你一半的同胞 都完全疯了,或者更多,不管你想叫这个系统什么,黑手党国家 封建帝国,对普通俄罗斯人来说是灾难,拥有不同意见 太20世纪了,这个世纪我们有不同的事实,真遗憾我们不能 在喜欢秃头英国人和卷发加拿大人之间投票,我们不需要神圣的 许可来知道对错,我们不需要药片一次10片 以药片形式给药才能进行道德辩论,不,不要同情我们 不要怜悯,我们要机会,这就是为什么整个事情整个事情 乌克兰危机乌克兰战争乌克兰悲剧,这是一个影响每个人 在这个星球上的问题,所以我想对你说的是不要屈服于宿命论 不要屈服于这些是伟大力量的感觉[音乐]我们 相信我们创造自己的命运 [音乐] 晚上好,女士们先生们,我叫Roger Griffis,我是 蒙克辩论的主席,我很荣幸再次有机会主持 今晚关于AI的蒙克辩论,当我们向 你们这些尊贵的会员、捐赠者、持票人宣传这场辩论时,我们真的觉得这可能是 这个系列历史上更有影响的辩论之一,这是我们的第28场 主舞台辩论,在Roy Thompson Hall,看看 那个,超过一百位辩手曾在这个舞台上,但 今晚,在这个系列中第一次,我们将讨论可能是 至少对舞台上我们一半的辩手来说,一个存在性问题,AI 在未来岁月和我们的未来可能对人类构成的威胁 今晚这一切不可能实现,所有过去的辩论,没有再次 你们的慷慨,你们中许多人现在是蒙克捐赠者,数量已达数千 所以感谢你们对蒙克辩论的慷慨慈善支持, 也大大感谢那个组织,那个基金会,最初设想这些辩论 并让它们每年两次、每年持续超过15年得以实现,所以 感谢Peter and Melanie Monk慈善基金会,太棒了,伙计们,谢谢 [掌声]你知道Peter会喜欢这场辩论,他是一个 对重大问题、重大挑战着迷的人,全球规模和背景,今晚的 辩论,和我们所有的辩论一样,是为了纪念他,这些辩论是 他不可思议的遗产的一部分,所以让我们给Peter一个当之无愧的 掌声 今晚我想快速推进,因为我们有很多要一起覆盖,我想 承诺,像你们一样,我今晚有很多要学习,所以我会 尽量让对话保持在易于理解的水平,我们找到了真正四位 世界领先的AI权威,这些人是工作并创新 并推动这项技术前进到我们现在所处的时刻,这个 关于AI未来的国际辩论时刻,所以让我们开始辩论,通过 让我们的辩手来到舞台中央,第一位加入我们的是Max Tegmark,他是MIT的教授,研究重点是
HN 上的讨论
所有关于“AI安全”和“有效利他主义”的讨论都不能被当作废话而忽视。随着技术越来越深入地融入社会结构,一些危险是非常真实的,除非我们明确使用人类的道德/伦理标准来规范它们。当然,这不应成为走向虚幻的借口。来自[LINK] 学者们讨论了关键系统故障、偏见和AI监控带来的当前风险;技术性失业、数字操纵和武器化带来的新兴风险;以及失去对未来人工通用智能(AGI)代理的控制所带来的推测性风险。同时观看Munk辩论:AI研发构成生存威胁,嘉宾包括Yoshua Bengio、Max Tegmark、Melanie Mitchell和Yann LeCun——[VIDEO] — rramadass, 2023-11
你真的认为那些给你带来PFAS和其他大量毒素及其对多个系统后续影响的人,真的关心AI的危险吗?拜托,趁还能享受就享受吧。他们真正需要的是巨大的外星人鸡巴扇他们耳光,让他们回到现实。因为当然会有负面的“已知未知”后果和“未知未知”后果,就像其他所谓“善意”进步带来的后果一样。不这么想就是自杀。假装不会有,只是他们历史上证明过的策略,用来淡化你的恐惧。这只是常规公关管理策略的一部分。没什么新鲜的。 这个不错:[VIDEO] — caliaihere, 2023-06
说得太对了!最大的问题在于一些“不太聪明”的人类会基于AI/ML的输出做出决定,而不进行验证,甚至更糟的是让AI自己做出决定。这里有一场Munk辩论“AI研发构成生存威胁”——Yoshua Bengio和Max Tegmark对阵Melanie Mitchell和Yann Lecun——[VIDEO] — rramadass, 2023-09
我刚打开,在Melanie Mitchell的开场白中发现了一个有趣的片段:[VIDEO] 大意是: > Yoshua Bengio曾写过一种场景:AI被要求解决气候变化问题,结果它设计了一种病毒,消灭了人类。就这样,没有人类,就没有气候变化。 > > 这是愚蠢超级智能谬误的一个例子。认为机器在所有方面都比人类聪明,却缺乏对人类的基本常识理解,比如理解我们为什么提出这个请求,以及我们宁愿不被消灭……这种想法是谬误的。我们绝不会把无限的自主权和资源交给一个缺乏这些基本智能的AI——这根本说不通。 — civilized, 2023-06
相关视频
- 大数据与心理画像的力量 | 2016 Concordia 年度峰会 · Concordia · 11:01
- 近视:一种现代但可逆的疾病 — Todd Becker, M.S. (AHS14) · AncestryFoundation · 41:58
- 日本为何逮捕外国人 · Paolo fromTOKYO · 14:23
- 《敏捷方法:好的、炒作的与丑陋的》,Bertrand Meyer · Association for Computing Machinery (ACM) · 1:02:29
- 动物的道德行为 | 弗朗斯·德瓦尔 · TED · 16:52
- GigCityElixir23——布莱恩·亨特 · Groxio · 1:01:45
- 尤里·别兹梅诺夫完整访谈:意识形态颠覆的四个阶段(1984) · Nicholas Marshall · 1:21:28
- Shashi Tharoor 议员博士——英国确实欠下赔偿 · OxfordUnion · 15:29
- Braitenberg车辆 · Brian Douglas · 15:28
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- 为什么 AI 会想做坏事?工具性趋同 · Robert Miles AI Safety · 10:35
- Veritasium:关于AI和学习,大家都搞错了什么——德里克·穆勒解释 · Perimeter Institute for Theoretical Physics · 1:15:10
- 智能与愚蠢:正交性论点 · Robert Miles AI Safety · 13:02
- 我们正在构建一个反乌托邦,只为让人们点击广告 | Zeynep Tufekci · TED · 22:55
- AI 安全入门,重制版 · Robert Miles AI Safety · 18:04
- AGI的火花:GPT-4的早期实验 · Sebastien Bubeck · 48:32