稳健优先计算:超越效率

Robust-first computing: Beyond efficiency

频道:Dave Ackley · 时长:14:46 · 发布:2013-09-20 · 播放:7878

在 YouTube 观看

简介

Dave Ackley 对稳健优先计算进行了高层次介绍,这种计算在计算机体系结构中优先考虑稳健性而非效率。一个排序演示说明了这个想法。

HN 为什么推荐

HN 推荐它作为稳健优先计算的创始人对其的简短清晰解释,以及一种与使用 LLM 等不可靠组件构建相关的哲学。

这里有一个由术语创造者提供的更好的解释 — HN, 2021

计算机体系结构与CPU

中文字幕节选

为了社会的安全,也为了构建 真正的大型计算机,我们应该追求稳健优先的计算。 如果一个系统即使在其设计假设受到压力或被违反时, 也倾向于做出合理的行为,那么它就是稳健的。这听起来是件好事—— 你在功能清单上会看到“稳健”这个词——但与此同时,很多计算机 科学关注的是如何高效地使用计算机硬件。 这听起来也是件好事, 但效率和稳健性在冗余问题上存在矛盾, 稳健性需要冗余,而效率则要消除冗余。所以对于现实世界中的计算机, 对于承担实际责任的系统, 我们应该把稳健性放在首位, 并且不把最大化效率视为一种内在美德, 而更多地看作一种令人遗憾的、有时是必要的选择。 这就是我发表在《CACM》十月刊上的一篇文章的核心观点, 而这是一个小小的视频 介绍。所以我想从一个问题开始: 为什么计算机会崩溃? 在过去一年半里,我在全国各地问过这个问题, 人们会说:硬件故障、程序错误、用户失误、 恶意软件。但更深层的原因是: 是我们把它们造成这样的。我们设计计算机,让它们在遇到第一个意外时就冻结。 我们为什么这么做? 嗯,作为计算机程序员,我们当时指望不会出现意外—— 一切都完全可靠,这样我们就可以把所需的所有步骤 按顺序排列, 我们基本上从未考虑过如果其中任何一步出错 会发生什么。 这种态度可以追溯到数字计算的最早期。 在最开始的时候,就好像存在一份契约, 一方是 计算机工程师和制造商,另一方是计算机科学家和 程序员 ——虽然当时他们并不真的这么称呼——其理念是: 硬件应提供可靠性。它接收不守规矩的物理世界, 将其转化为逻辑。软件的工作是接收 逻辑并将其转化为有价值的功能; 转化为足够令人满意的东西,从而提供足够的 收入来支付硬件、软件以及所有一切的费用。 这就是这个交易运作的方式。起初, 硬件极其昂贵, 而且非常弱。这给软件带来了巨大的压力, 要求从你所使用的硬件的沉没成本中 尽可能榨取更多的价值。因此存在巨大的 压力,要求无论“价值”意味着什么都要正确,然后还要尽可能高效。 而这种“CEO”式的理念——即软件只关乎 正确性和效率——仍然是计算机科学的 支柱——算法设计等等。但世界已经变了。 硬件现在便宜得多得多, 对于某些给定任务来说,它往往比我们需要的更强大, 而且程序错误 无处不在。正确性——在大多数情况下,甚至不清楚正确性意味着什么。 所以世界已经变了, 但在很多方面,我们仍然带着这种最初的软件CEO态度。 为了社会的安全,也为了让我们能够构建真正的大型计算机, 我们应该改变这种态度,考虑把稳健性放在首位, 并弄清楚这意味着什么。围绕稳健优先的计算, 建立一套科学和工程知识体系。所以,这就是我的主张。 让我们做一个演示,然后总结一下。我举的例子是 排序,具体来说,是成对比较排序。 那么,让我们快速看看那是什么。好的, 我这里有一副牌。我们有 一些牌,它们有点像魔法牌。我们可以呃

HN 上的讨论

我也是,我总是在与LLM的懒惰习惯作斗争:它写一大堆荒谬的防御性代码,并掩盖它生成和调用的代码中的错误,而不是找到根本原因并解决它。(是的,我指的是LLM生成的代码,而不是生成代码的API本身,但“尽早且壮观地失败”应该适用于所有代码和API。)但你必须划清界限,对于现实世界中发生的故障,或者你无法控制的代码。我是Dave Ackley的“鲁棒优先”计算架构和他的Moveable Feast Machine的超级粉丝。他的“鲁棒优先”哲学极其相关,并且对使用LLM编程有很多应用,不仅仅是硬件设计。鲁棒优先 | 与Dave Ackley的对话(T2 Tile项目)| Functionally Imperative Podcast [LINK] 鲁棒优先计算:超越效率 [VIDEO] 自底向上工程实现鲁棒优先计算 [LINK] 活计算:ULAM中的鲁棒优先编程 [LINK] [LINK] D… — DonHopkins, 2025-07
你可能对“鲁棒优先计算”感兴趣 - [LINK] 编辑:这里有一个由术语创造者给出的更好的解释:[VIDEO] — nelsonmandela, 2021-01
我很高兴你不同意模块化。我不想成为正确的,我想得出正确的结论。:) 组合很棒,无标度自相似性可能是宇宙的基础。模块化是一种伟大的设计技术,它也可能使事物变弱,并迫使其他(不可知的)设计选择,因为模块边界阻止了信息/力量的流动。过度约束的模块化系统会鼓励全局变量,约束不足的模块化系统则渐近于泥巴/黏土。我不想用K8S作为稻草人来攻击模块化,但我认为它是一个例子,说明使用这种强大的设计工具,用错误应用的方法来解决错误的问题,同时更加复杂并消耗更多资源。在设计系统的情况下,模块/对象/进程(Erlang意义上的)至关重要,但在构建/工程化它们时则不那么重要。去模块化或融合设计可以使其更鲁棒、更高效。我并不讨厌模块化,我只是认为它是一个比大多数人认为的更大、更复杂的主题。Unix是高度非模块化的,组合性很差。它坐落在一个局部极大值的小土丘上,而这个小土丘本身又位于一个破火山口的底部,有点像巫师岛… — sitkack, 2020-01
然后你会调试它,或者编写调试器来四处搜寻程序员的错误,然后解决它。系统对其“正确性”方面的能力是明确的,这似乎意味着程序员的工作是在这些内置的不准确性中进行优化。但这些不准确性所提供的是Ackley所说的鲁棒性和无限可扩展性。Ackley在后来的一段视频中直接用排序比较(o)回答了你的问题。图中未能展示麦克斯韦妖(i)群体排序会在图上表现出的地方,但排序损坏在论文(ii)中得到了讨论。以此衡量,妖群排序的性能可能只是勉强够用,但其鲁棒性似乎相当令人印象深刻。图23展示了一个实验的结果,在该实验中,我们以一系列概率用模拟位错误随机损坏站点内存。每次错误发生会选择一个随机站点,然后翻转其64个原子位中的1到8个。我们可以看到,虽然通道长度有助于性能,但它无助于抵御这种系统扰动——但系统无论如何都异常鲁棒,每百万事件中容忍高达10次多位损坏,且无论通道长度如何,基本上没有可见的性能下降。超过约… — justifier, 2015-11

相关视频