智力不够 | Bryan Cantrill | Monktoberfest 2023
Intelligence is not Enough | Bryan Cantrill | Monktoberfest 2023
频道:RedMonk Tech Events · 时长:40:26 · 发布:2023-11-17 · 播放:23807
简介
Bryan Cantrill 在 Monktoberfest 2023 的演讲探讨了 AI 末日论,权衡理论上的存在风险与现实情况。他对如何平衡 AI 的潜力与风险持怀疑但深思熟虑的观点。
HN 为什么推荐
推荐为 Cantrill 关于在工程中拥抱失败和好奇心的深思熟虑的演讲,以及对 AI 末日叙事的怀疑性反驳。
我看了 Bryan Cantrill 关于 [智力不够][0] 的演讲 — HN, 2024
中文字幕节选
大家好,我是Brian Cantrill,很高兴回到Monktoberfest。Stephen,你经常 说,这是一个让我们进行那些对话、看到那些 我们从未在其他地方看到或听到的非常重要的演讲的机会。我 觉得今天非常棒,我们有一个多么精彩的阵容,呃,很多 非常重要的对话,重要的演讲。所以我们说,呃, Monktoberfest总是以一条推文开始。嗯,当然,我想我 在这里的大多数演讲总是以一条推文开始。呃,实际上它们是以 被喷开始的,或者我猜现在是在X上发帖。嗯,实际上它们是以被喷开始的。 呃,今年也不例外。所以这不是一条推文,我只是 实际上选了一条有代表性的推文。呃,这实际上是一大堆 互联网垃圾,我被喷得无法形容,我很抱歉我被 喷得这么厉害,以至于我要把你们也拖下水,呃,进入一点 呃,一个兔子洞。呃,当然,这就像后马斯克时代的Twitter, 所以我们甚至无法在屏幕上放下一整条推文,你实际上甚至无法 被一条推文好好喷了,因为我甚至无法把它放在屏幕上。所以这 是一条很长的帖子,我会讲其中的部分内容。呃,但要点是 这是一个善意的人,他勉强支持 我们在春天看到的这个倡议,即暂停所有AI,AI是 可怕的,呃,我们必须暂停所有AI研究。这说的是,呃,这 在我的圈子里会非常不受欢迎,我们暂停AI。呃,事实上,我 分享了e/acc的美学,如果你不知道 那是什么,我很抱歉不得不——这是互联网上那些 糟糕的东西之一,别怪信使。这叫做 有效加速主义。呃,这就像想象亚当·斯密和Roko的 蛇怪生了个孩子,呃,然后他们都是资本主义超级粉丝。我不会 再谈这个了。呃,但你可以在互联网上浪费很多时间 这样。所以这个人在描述,他们倾向于自由意志主义,我通常极其 反监管。就像,好吧,你也极其反卫生部门 和反FDA吗?好吧,我希望你欣赏监管 给你带来的一些好处。我反大政府,等等等等,支持进步,是是是。所以 但,为什么你仍然支持暂停AI?这就触及了 我想谈论的要点。呃,智能是世界上最强大的力量, 我说,我们即将给地球上的每个人一件核武器, 没有多加考虑,因为 感觉。现在看,我是一个存在主义者,所以我理解 千禧一代和Z世代想要隐喻性地使用核武器的愿望,但我在 核武器的实际威胁下长大,所以你能换个隐喻吗? 呃,但然后你意识到,哦,实际上这并不真的是一个隐喻, 这实际上是字面意思。有一个字面上的担忧,我们正在给 每个人一件字面上的核武器,因为感觉,因为没有实质性的反 论证被提出来反对存在风险担忧。你的设备 存在什么存在风险担忧?所以我再次道歉,如果我是那个 我希望我不是,但如果我是那个不得不告诉你的人,有一个 令人不安的互联网产物,认为我们正在开发的这些计算机程序 对人类构成存在风险, 灭绝风险。你会说,灭绝这个词是什么意思?这是一个 隐喻还是我们在谈论字面上的灭绝,全人类的死亡,因为 AI的产物?怎么会呢?好吧,没有实质性的反论证
HN 上的讨论
我看过 Bryan Cantrill 关于 [Intelligence is Not Enough][0] 的演讲,反对一些关于 AI/ML 将对行业产生何种影响的观点……但我觉得它触及了一些可以与心理健康话题相关联的想法。许多软件公司/企业不重视拥抱失败和为好奇心留出空间的必要性。这没问题,但这些公司应该严格使用他们可以直接购买支持的 Boring Technology。如果这类公司在产品野心方面过于膨胀,那么你需要给开发者空间去失败、尝试新事物、重构、重写,让他们能够成为工程师。当压力要求以不可持续的方式交付时,我们无法做到这一点!失败不是选项。我们花了那么多钱写 MVP,你说你需要一个团队来维护它?我们有功能要构建!!不是每个人都有足够的竞争力在优秀的工程文化中工作,我们有时会为此牺牲心理健康。[0]: [VIDEO] — tegiddrone, 2024-04
我很高兴看到许多人在纠正你,但只是为了强调一点:我用那个比喻来谴责埃里森,而不是宽恕或接受他。不幸的是,自2011年那次演讲以来,曾经是异常现象(尽管广泛未言明)的东西——悲剧性地——已经成为常态。然而,我拒绝接受这一点:我将继续说出我对科技道德衰败的真相,以及为什么我们必须对自己有更高的标准。[0][1][2][3][4] 我显然同意你的愤怒,即糟糕的企业行为不应成为现状![0] 技术领导原则,[LINK](2017)[1] 安德森推论:软件工程中的伦理困境,[LINK](2019)[2] YC120的(反)申请视频,[LINK](2019)[3] 成年,[LINK](2022)[4] 智力不够,[VIDEO](2023) — bcantrill, 2025-02
强者只需拿走它想要的,就这样?技术和背景无法分离,后果也是如此。是的,所有关于轰炸数据中心的讨论都是疯狂的,但监督不是。[VIDEO] — pas, 2023-11
相关视频
- Jim Simons(完整版访谈)- Numberphile · Numberphile2 · 1:00:43
- Steve Jobs 2005 年斯坦福大学毕业演讲 · JoshuaG · 14:34
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- Alan Kay - 正常被认为有害 · powerfuloutlet · 1:07:26
- 培育语言,作者:Guy Steele · Bill Pugh · 53:31
- 软件设计哲学 | John Ousterhout | Talks at Google · Talks at Google · 1:01:40
- “Uncle” Bob Martin - “编程的未来” · Paul Stringer's Mobile Tech · 1:18:21
- VCF East: Ken Thompson 接受 Brian Kernighan 采访 · Vintage Computer Federation · 1:03:51
- Hamming,“你和你的研究”(1995年6月6日) · securitylectures · 44:02
- 技术演讲:Linus Torvalds 谈 git · Google · 1:10:15
- Alan Kay 在“Intertwingled”节上对 Ted Nelson 的致敬 · TheTedNelson · 17:33
- Joe Rogan Experience #1035 - Paul Stamets · PowerfulJRE · 2:13:48
- “我对钱不感兴趣” - Ton Roosendaal 2017访谈 · Blender Guru · 1:46:51
- 所有演示之母,由Douglas Engelbart呈现(1968) · Marcel · 1:40:52
- Jim Keller:摩尔定律、微处理器与第一性原理 | Lex Fridman 播客 #70 · Lex Fridman · 1:34:43
- Alan Kay:用图像做符号(完整版) · Kenneth Friedman · 1:37:44