AWS re:Invent 2017:Netflix 如何为性能调优 Amazon EC2 实例 (CMP325)
AWS re:Invent 2017: How Netflix Tunes Amazon EC2 Instances for Performance (CMP325)
频道:Amazon Web Services · 时长:56:54 · 发布:2017-12-13 · 播放:18438
简介
一位 Netflix 性能工程师介绍 Netflix 如何调优 EC2 实例,涵盖实例类型选择、Xen 模式、SR-IOV 和内核调优。目标是在云中实现接近裸机的性能。
HN 为什么推荐
HN 引用它作为大规模工作负载相关性能调优以及 Netflix AWS 实践的示例。
性能调优是一门艺术,因为它依赖于工作负载 — HN, 2019
软件性能与优化 · 操作系统与内核 · 云、DevOps 与可靠性
中文字幕节选
大家好,我叫Brendan Gregg,欢迎来到我的演讲,我在Netflix工作 我们的云部署在AWS上,规模非常大,你们可能听说过 运行的是Ubuntu Linux,我们还有一个基于FreeBSD的CDN,那是物理服务 Netflix是个很棒的工作场所,我所在的团队是 性能和操作系统团队,我们的工作是评估技术,像re:Invent这样的时期 让我们非常忙碌,因为所有的新发布,我们提出 建议和最佳实践,为Netflix云服务,作为我们工作的一部分 我们经常需要创建新工具,特别是可观测性工具 来填补缺失的空白,我们经常将这些工具开源,我们帮助 项目、新技术和应用的推广,我们也可以做事件 响应,如果有性能问题,我的经理Hunter也在房间里,他在这里 参加re:Invent,我们实际上正在招聘几个职位,所以你可以来加入我和 在我的团队工作,在Netflix,演讲结束后我们都会在展台,Netflix 展台,在这次演讲中,我将介绍我们如何对 EC2进行性能调优,在Netflix,我做过很多演讲,涵盖我做的内核分析 和内核调优,深入系统的细节,这次演讲有点 不同,不是涵盖我做什么,而是更多涵盖我的 团队做什么,我所在的性能和操作系统团队,所以 这不仅仅是关于内核调优,还关于实例选择,关于 理解Amazon EC2功能、调优方法以及我们做的所有可观测性和 分析,在接下来的一小时里,我将介绍一些“切尔诺贝利” 把这想象成这是我们药柜里的东西,这些是 2018年之前的最佳选择,如果你从遥远的未来看这个幻灯片,这些 “切尔诺贝利”可能不是个好主意,所以这些东西确实需要 重新审视,所以实例选择是我要讲的第一个主题 作为背景,对于Netflix云,我们确实有许多 不同的工作负载,所以有Cassandra、EVCache应用,我们在应用中使用 负载均衡器,还有许多工作负载,所以有代理服务器,有 API服务器,我们做媒体编码、推荐和大数据 现在,Amazon AWS环境非常适合做性能 分析和调优,因为它的配置方式,可以做红黑部署或 扩展组,以及我们如何从弹性负载均衡器获取流量并发送 到金丝雀,我们可以查看性能调优, 从设置为金丝雀开始,可能只是一个实例,然后看看它 在一些真实工作负载下的表现,Netflix有一个库Hystrix和其他库 来确保我们做容错,如果作为性能 实验的一部分,我们实际上破坏了那些请求,那些客户请求,这些会 自动超时,然后转到备份服务,这可以发生得如此之快 如果你在浏览Netflix,你可能甚至不会注意到你的会话被转移了 因为我们正在做调优实验,如果它在100毫秒内故障转移 你可能不会注意到,所以这是一个非常安全的实验环境 这对性能工程师来说很棒,我们可以启动一个金丝雀,我们可以尝试一些 可调参数,如果看起来不错,作为常规部署模型的一部分,我们 在扩展组中启动新实例,然后随着时间的推移,我们将工作
HN 上的讨论
实际上是 5 倍,我的错,但这里是参考资料:最初的信息被当作传闻提及(2016 年):[LINK] Greeg 确认的幻灯片(2017 年):[LINK] 演讲(2017 年):[VIDEO] 更多讨论:[LINK] 原推文已被删除,但我这里有一张截图,第 9 张幻灯片:[LINK] — dijit, 2022-05
嗯,大多数发行版都选择了更合理的默认值。比如,RHEL/CentOS/AmazonLinux 在基于 SSD 的机器上默认使用 noop io 调度器。不过,我明白你的意思:比如,TCP keep-alive 的默认值并不适合所有类型的工作负载:[LINK] 我想,这就是为什么性能调优是一门艺术,因为它取决于工作负载:[VIDEO] — ignoramous, 2019-03
他们用了很多 AWS 服务——不只是虚拟机——首先他们用 Ubuntu Linux——SES(邮件)——ElasticSearch(AWS 有自己的托管版本)——SQS(队列系统)——S3(存储)——自动伸缩。他们做的大部分优化都是规模化下的常规操作,通过测量性能来调优。[VIDEO] 以及演讲的幻灯片。[LINK] 但这更是选择 AWS 的理由,Netflix 专门开源了几十个与 AWS 相关的工具。你可以利用他们的工具和知识。 — scarface74, 2018-05
相关视频
- Python如何被泄漏的内部机制塑造,Armin Ronacher,Flask框架 · Видео с мероприятий {speach! · 49:55
- systemd 的悲剧 · linux.conf.au · 47:18
- CppCon 2015:Andrei Alexandrescu “std::allocator...” · CppCon · 1:12:27
- Velocity NY 2013: Richard Cook, "复杂自适应系统中的韧性" · O'Reilly · 19:09
- 火线调试:系统失控时保持冷静 • Bryan Cantrill • GOTO 2017 · GOTO Conferences · 52:34
- 防止文明崩溃 / Jonathan Blow (Thekla, Inc) · DevGAMM · 1:02:41
- Emery Berger 的“性能至关重要” · Strange Loop Conference · 42:15
- 三千万行代码问题 · Molly Rocket · 1:48:55
- CppCon 2017: Matt Kulukundis “逐步设计一个快速、高效、缓存友好的哈希表” · CppCon · 59:33
- VCF East: Ken Thompson 接受 Brian Kernighan 采访 · Vintage Computer Federation · 1:03:51
- AWS re:Invent 2018: Amazon DynamoDB 深入探讨:DynamoDB 高级设计模式 (DAT401) · Amazon Web Services · 59:56
- Erlang Factory 2014 - 那是带 'B' 的 'Billion':在 WhatsApp 扩展到下一个级别 · Erlang Solutions · 49:15
- 古惑狼如何黑掉原版PlayStation | 战争故事 | Ars Technica · Ars Technica · 31:37
- LISA11 - Fork Yeah! illumos 的崛起与发展 · USENIX · 1:04:03
- Gil Tene 的 "如何不测量延迟" · Strange Loop Conference · 42:59
- USENIX ATC '21/OSDI '21联合主题演讲——操作系统是时候重新发现硬件了 · USENIX · 1:06:19