Velocity NY 2013: Richard Cook, "复杂自适应系统中的韧性"

Velocity NY 2013: Richard Cook, "Resilience In Complex Adaptive Systems"

频道:O'Reilly · 时长:19:09 · 发布:2013-10-15 · 播放:47642

在 YouTube 观看

简介

Richard Cook 在 Velocity 2013 上的简短演讲,关于复杂自适应系统中的韧性,认为系统在接近失败的边缘运行,而令人惊讶的是它们很少失败。他提出了一个模型,说明压力如何将系统推向失败边界。

HN 为什么推荐

HN 的人不断引用它,作为对偏差正常化和复杂系统如何漂向失败的最清晰解释。

我看过的最重要的演讲之一是 Richard Cook 的 — HN, 2018

云、DevOps 与可靠性 · 管理、领导力与组织

中文字幕节选

非常感谢,我很高兴来到这里。嗯,我不会浪费时间来告诉 你们我是谁,因为这并不重要。嗯,但我会先 在屏幕上放一个我最喜欢的笑话。嗯,因为我们总是 有这种感觉,如果你没有意识到自己正处于这种情况, 那是因为你还没有一张合适的地图。嗯,我今天应该跟你们谈的是 复杂自适应系统中的韧性,我称之为在失败的 边缘运行。我会试着让你们理解为什么你们所运行的系统 总是似乎随时会失败,有时确实会失败。我会谈 一点关于为什么系统不会失败。这里的基本理念是韧性,我们 会告诉你们韧性的科学基础。这里的关键理念,哦 抱歉,不是关键宜家,是关键理念,好的。嗯,关键理念 是,我们谈论的是系统发展的一条定律,即每个 系统总是以其容量运行,一旦有了一些改进,一些新 技术,我们就把它拉伸。Larry Heror 在97年就说过这一点,如果你想看 那个引文和上下文,可以在我们的网站上找到,我稍后会插播。嗯,但 这个理念非常重要,即我们构建的系统如此 昂贵、如此费力、如此重要,以至于我们似乎总是运行在失败的 边缘,而且我们从来不会让我们的系统表现得极其出色,我们 总是希望它们表现,嗯,次好的东西,即将出现的下一个东西。 我要告诉你们的内容基于我们在各种 不同系统中做的系统研究,包括,嗯,外科手术室、急诊室、重症 监护室、商业航空驾驶舱、军用驾驶舱、半导体晶圆厂, 以及一大堆其他领域。我不会谈论那项研究,但我会 告诉你们那项研究的结果,因为我就直接切入正题吧, 就像我孩子们说的。让我先说,你们所有系统的未来, 尽管你们现在没有意识到,是安全。你们把你们的系统想成,嗯, 那些 web 应用系统,嗯,这是我对系统的贬义说法。嗯,但那里 也有业务关键系统,嗯,你们中有些人参与那些东西,而且 也有安全关键系统。这里的关键是,这些系统的 界限正在融合。你们的,你们的 web 应用,那些 web 应用系统正在变成业务 关键系统,而事实上业务关键系统有一种变成安全 关键系统的方式。那就是你们今天正在制作的系统的未来,即 密切参与安全的某个方面,无论是派遣消防车还是 在网络上定位,嗯,嗯,关键,嗯,信息。所有这些东西都将会 以对安全有影响的方式展开。你们所有的安全,你们的系统将会 变成安全关键的。如果你们现在没有安全关键性,你们将来会 有。当我们研究这些东西时,我们观察到的是,我们 正在处理的系统是复杂的,而且不止如此,它们是复合的。它们有 意想不到的行为,它们对干预有意想不到的反应,事情不会 像我们预期的那样运作。当我们按下按钮时,我们会发现新的失败形式, 而且它们在以明显和不那么明显的方式不断变化。这些 系统的另一件事是它们是自适应的,而这里的自适应并不意味着 仅仅是变化,而是以响应性的方式变化,对它们,嗯,运行时所承受的 不同种类的压力做出响应。有有意的和计划的系统 变化和适应,有非计划的和局部的响应,有响应性和

HN 上的讨论

> 我无法相信每个人都在道德上有问题 困难的道德讨论很可能从未发生。那些会议上做出的决定通常被视为小/无关紧要。那些“小”决定造成的问题被忽视。最终这些问题被正常化,从而允许另一个“小”决定被做出。人类似乎非常不擅长认识到,一系列“小”决定最终如何累积成重大——有时令人震惊[1]——的后果,而如果直接问,没人会批准这些后果。大多数时候,没人意识到他们的处境已经变得多么偏离。关于偏差正常化背后机制(作为一个抽象模型)的一个很好的解释,我强烈推荐 Richard Cook 的这个[2]简短演讲。[1] [LINK] [2] [VIDEO](《Resilience In Complex Adaptive Systems》) — pdkl95, 2020-05
> 不造成业务问题的漠不关心仍然是漠不关心。更一般地说,对小“琐碎”问题的漠不关心最终会使偏离行为正常化[1]。邪恶行为不是一步发生的,它是经常对“小”问题漠不关心的最终结果[2]。关于为什么会发生这种情况的一个非常好的解释,我推荐 Richard Cook 的精彩演讲《Resilience In Complex Adaptive Systems》[3]。[1] [LINK] [2] [LINK] [3] [VIDEO] — pdkl95, 2019-04
> 但如果你停下来,他们可能会继续增加稀释。这里存在一种偏差的正常化。关于导致这种偏差正常化的机制,有一个非常好的解释,我推荐 Richard Cook 的杰出演讲《Resilience In Complex Adaptive Systems》[1]。[1] [VIDEO] — pdkl95, 2018-12
我看过的最重要的演讲之一,是 Richard Cook 的《Resilience In Complex Adaptive Systems》[1],他在其中解释了导致偏差正常化的基本抽象机制。[1] [VIDEO] — pdkl95, 2018-06
> 工作人员对严重事故的风险已经变得“麻木”。然而,由于偏差正常化,严重问题再次发生。我们真的需要找到一种方法,创造鼓励在行为成为常态之前立即纠正问题情况的工作条件。关于管理/其他问题...我鼓励每个行业中涉及安全(即大多数行业)的每个人观看理查德·库克关于“复杂自适应系统中的弹性”的简短演讲[1]。[1] [VIDEO] — pdkl95, 2017-06

相关视频