Max Tegmark:暂停 AI 开发的理由 | Lex Fridman 播客 #371

Max Tegmark: The Case for Halting AI Development | Lex Fridman Podcast #371

频道:Lex Fridman · 时长:2:48:12 · 发布:2023-04-13 · 播放:1729325

在 YouTube 观看

简介

Lex Fridman 采访了 MIT 物理学家、生命未来研究所联合创始人 Max Tegmark,讨论了暂停巨型 AI 实验的理由以及先进 AI 的风险。

HN 为什么推荐

在 AI 风险讨论中被推荐,作为理解安全倡导者主张暂停开发的论点的一种方式。

值得一看,只是为了对可能的发展方向更有准备 — HN, 2023

AI 安全、AGI 与影响 · 科技先驱与访谈

中文字幕节选

- 多年来,很多人一直在说,总有一天 我们会想要暂停一下。 那个时刻就是现在。 - 以下是与 Max Tegmark 的对话,这是他第三次做客本播客。 事实上,他的首次亮相就是本播客的第一期节目。 他是麻省理工学院的物理学家和人工智能研究员, Future of Life Institute 的联合创始人,以及《生命3.0: 人工智能时代的人类》一书的作者。 最近,他是牵头那封公开信的关键人物, 呼吁暂停像训练 GPT-4 这样的巨型 AI 实验六个月。 信中写道:“我们呼吁暂停训练 比 GPT-4 更大的模型六个月。 这并不意味着暂停或禁止所有 AI 研究 与开发,或禁止使用已经投放市场的系统。 我们的呼吁是具体的,针对的是极少数 拥有这种能力的参与者。” 这封信已有超过 50,000 人签名, 包括 1800 位 CEO 和超过 1500 位教授。 签名者包括 Yoshua Bengio、Stuart Russell、Elon Musk、 Steve Wozniak、Yuval Noah Harari、Andrew Yang 等许多人。 这是人类文明史上的一个决定性时刻, 人类与 AI 之间的力量平衡开始转变, 而 Max 的思想和声音是最有价值、最有力的之一, 在这样的时刻。他的支持、他的智慧、他的友谊, 是一份我永远深深感激的礼物。 这里是 Lex Fridman 播客。 为了支持它,请查看描述中的赞助商。 现在,亲爱的朋友们,有请 Max Tegmark。 你是本播客有史以来第一位嘉宾,第一期节目。 所以首先,Max,我必须说,谢谢你给我机会。 谢谢你开启这段旅程,这是一段不可思议的旅程, 只是谢谢你坐下来和我交谈 并且表现得好像我是个重要的人, 是个值得交谈的有趣的人。 谢谢你这么做。 那意义重大。- 也感谢你全身心投入这件事。 我知道当你深入有争议的话题时,难免会遭到 哈姆雷特所说的“ slings and arrows”之类的攻击。 我真的很钦佩这一点。 在这个时代,你知道,YouTube 视频太长了, 现在必须像 20 分钟的 TikTok、20 秒的 TikTok 片段。 看到你完全逆所有建议而行, 做这些真正长篇的东西,人们很欣赏,你知道。 现实是微妙复杂的,谢谢你这样分享它。 - 那么让我再问你一次,我在本播客上问过的第一个问题, 第一期节目,和你对话。 你认为宇宙中存在智慧生命吗? 让我们重新审视这个问题。 你有什么更新吗?当你仰望星空时,你的观点是什么? - 所以,当我们仰望星空时, 如果你像大多数天体物理学家那样定义我们的宇宙,不是所有空间, 而是我们能用望远镜看到的球形空间区域, 自大爆炸以来光有时间到达我们这里。 我属于少数派。我估计我们是唯一的生命 在这个球形体积内发明了互联网、 无线电,达到了我们的技术水平。 如果这是真的,那就把很多责任放在我们身上,

HN 上的讨论

说起来有点难,但除非发生奇迹般的放缓,否则从目前来看,它似乎会影响到整个人类体验。正如 Max Tegmark 最近所说,我们基本上是在建造智人的尼安德特人。我不在乎人们怎么看待 Lex 作为采访者,但为了对可能的发展方向有更充分的准备,这值得一看:[VIDEO] — ChatGTP, 2023-04
伙计们。如果你们都没看到,那是因为你们在视而不见,这是我最好的说法。50 年代所设想的未来即将出现,但前提是我们不能愚蠢到忽视它。飞行汽车、杀人机器人,我们可以帮助决定,只要我们足够清醒,做一点研究,并说出点什么。你的声音很重要 :D 看这个:[VIDEO] 然后,思考,再思考,然后评论。要乐观,但要警惕,发出你的声音 — hipjiveguy, 2023-04
正如 idkwhatiamdoing 的兄弟评论所说,Geoff 是 Geoffrey Hinton:「Geoffrey Hinton 离开谷歌并警告前方危险」[LINK] Yoshua 是 Yoshua Bengio:「Yoshua Bengio:流氓 AI 如何可能出现」[LINK] LeCunn 正在回复 Max Tegmark:「Ask HN:AI ‘失控’的末日场景是什么?」[LINK] 「Max Tegmark:暂停 AI 发展的理由 | Lex Fridman 播客 #371」[VIDEO] — AlbertoGP, 2023-10
确实。如果我是他,我可能也会这么做。或者将OpenAI完全转向AI安全研究,停止进行能力研究。我看了他与Lex Fridman的采访,[1] 我觉得他看起来不太真诚。另一方面,我认为有很多人非常真诚,比如Max Tegmark。[2] [1] [LINK] [2] [VIDEO] — mitthrowaway2, 2023-05

相关视频