全体会议:性能至关重要 - Emery Berger - CppCon 2020
Plenary: Performance Matters - Emery Berger - CppCon 2020
频道:CppCon · 时长:1:01:08 · 发布:2020-09-30 · 播放:32513
简介
Emery Berger 在 CppCon 2020 的全体会议演讲,探讨了在 Dennard 缩放终结后,为什么在现代硬件上性能难以提升。内容涵盖基准测试的陷阱,并介绍了用于发现真正瓶颈的新性能分析工具。
HN 为什么推荐
推荐它是因为它用真正的计算机科学而非神话和巫毒仪式来对待基准测试和性能分析,并提供了创新工具。
涵盖了如何用实际的计算机科学而不是神话和巫毒仪式来进行基准测试的基础知识 — HN, 2021
中文字幕节选
嗯,今天我要讲的是性能至关重要,这是与我的 前研究生查理·库尔青格合作完成的,他现在是格林内尔学院的教授 我们先从一个故事开始,嗯,这是不久前,在一个遥远的山谷里 不是这个非常遥远的山谷,而是这个山谷,嗯,对有些人来说 很近,对有些人来说仍然很远,嗯,在这个山谷里,我们有我们的英雄 卢克,嗯,卢克在硅谷而不是塔图因,他有一个应用的想法 嗯,这就是他如何,我猜,抵抗的方式,嗯,所以他的应用想法 非常有吸引力,涉及猫,所以保证会成功 这个应用的工作方式是,卢克将拥有这个应用 让你拍猫的照片,然后它会搜索 相似的猫的照片,这样你就能得到尽可能多的猫表情包 只要拍一张猫的照片,你就能得到猫表情包,他有一个伟大的 杀手级应用的想法,他称之为Ogle,嗯,听起来可疑地像另一家 成功的公司,这是个好兆头,嗯,卢克确信它会完全 颠覆图像搜索,嗯,不幸的是,卢克没有听说过谷歌图像 搜索,但没关系,别告诉他,好了,所以卢克出去,他开始 创建Ogle的原型,并更深入地了解软件 架构,Ogle将如何工作,就像我说的,你拍一张 照片,然后它会将其上传到Ogle服务器,Ogle服务器会 对图像做一些处理,嗯,首先它会将其存储到数据库,以便 以后使用,然后它会找到相似的图片,对吧,它会找到所有 这些表情包,然后发送回来,让Ogle用户非常开心,所以在 底层,当然,嗯,这不会全部按顺序发生,它自然会是 一个多线程、高度并发、超级性能的C++应用 因为,嗯,当然卢克喜欢C++,希望一切都能快速进行 所以这里是一个软件架构的高层图示,当 请求进来时,它会分成多个线程,在一个线程中 它会做一些图像压缩,不一定需要保存 图像中的所有内容,它可能以原始格式进来,我们想将其保存为JPEG,它 将其写入3.5英寸软盘,就像人们做的那样,嗯,然后它 去做所谓的AI部分,它做特征提取,所以它 从图像中提取一些特征,以便然后进行一些检索并找到 那些相似的图片,然后通过纸飞机将它们邮寄回 Ogle客户端,好了,所以当然,一旦这两个线程完成了 它们的工作,嗯,它们会汇合,然后这个服务器操作就完成了,现在我已经 在这个图中简化了很多,显然可能有更多的线程,更多 的事情发生,嗯,所以我只是展示了一个线程,当然,嗯,在 这些线程中,也会有同步来防止 东西被覆盖或损坏,所以你会用到锁,锁会 改变这个顺序等等,这在后面会变得重要,但在 高层,这就是想法,每个客户端或多或少是独立的, 执行这段代码,太好了,所以卢克去把这个发布到应用商店,嗯, 立刻,数百万用户开始下载Ogle,卢克确信他正在 通往下一个财富的路上,嗯,在硅谷,他是 独角兽,嗯,但然后在负载下,开始发生的是,嗯,Ogle变得 太慢,所以东西在加载,有点卡住,所以现在卢克有一个问题 对吧,卢克本来准备变得超级成功,嗯,你知道,一个巨头,如果 你愿意,嗯,一个Ogle大亨,嗯,现在他的应用表现
HN 上的讨论
你寻找的术语可能是“抽象惩罚”。对于能够识别瓶颈所在的工具,我推荐观看Emery Berger在CppCon 2020上的演讲“Performance Matters”(下面两个链接中的任何一个都可以)。他介绍了一些创新的新分析工具,用于这类分析。[VIDEO] [LINK] — captaincrowbar, 2022-01
这个人在CppCon上做过几次演讲,涵盖了如何用实际的计算机科学而不是神话和巫毒仪式来尝试基准测试的基础知识:[VIDEO] 在实践中,不必做到那种程度。根据我的经验,巨大的性能提升只需一点点努力就可以轻松基准测试,而微小的性能提升通常根本不值得任何努力。在FAANG规模下可能值得,但我不在FAANG工作,所以不是我的问题!:) 我使用并推荐的简单方法有:- 理想情况下,从生产环境收集数据,在那里变更的行为与在生产中完全一样,因为它就是生产!- 在同一台机器上交错测试。例如:A, B, A, B, A, B, 等等... - 在你能接触到的每台机器上长时间运行测试,并绘制直方图或某种散点图。你不必在100%负载下这样做,实际上将其与正常工作负载混合更好。这让你了解噪声与信号、平台差异、一天中不同时间的变化等... - 在冷启动后运行测试,以了解最坏情况下的性能,而不是理想化且通常不现实的… — jiggawatts, 2021-06
给出一个过于简化的答案,这取决于事物是如何连接和同步的。你知道瓶颈通常如何用现实生活中的漏斗来解释吗?想象两个漏斗,一个直接连接到另一个。在这种情况下,有效流速由尖端最小的漏斗决定——较大的漏斗让流体通过得更快这一事实无关紧要,因为它被较小的漏斗减慢了(我们显然忽略了漏斗可能溢出之类的事情,这是一个简化的场景)。那么瓶颈很容易 pinpoint,但同时也立即显而易见的是,将一个漏斗扩大到超过另一个漏斗的大小没有效果。现在让我们改变场景:我有一桶水,倒入第一个漏斗,进入第二个桶。一旦第二个桶满了,我将第二个桶倒入第二个漏斗,进入第三个桶。在这种情况下,两个漏斗都对填充第二个桶所需的时间有影响,但较小的漏斗仍然有更大的影响。当然还有并行场景,你大概能看出结果如何。在我们的软件环境中,是所有这些的复杂混合,很难 pinpoint 什么是最显著的影响。“桶”和“漏斗”可以转化为各种事物——CPU… — vanderZwan, 2021-04
相关视频
- CppCon 2019:Matt Godbolt “Compiler Explorer:幕后故事” · CppCon · 1:00:21
- Twitter和Visual Studio吐槽 · Molly Rocket · 38:19
- 算术、人口与能源——Al Bartlett 的演讲 · lXlSalemlXl · 1:14:45
- CppCon 2016: Nicholas Ormrod “Facebook中std::string的奇怪细节" · CppCon · 31:18
- 被遗忘的结构化编程艺术 - Kevlin Henney [C++ on Sea 2019] · cpponsea · 1:29:27
- LISA11 - Fork Yeah! illumos 的崛起与发展 · USENIX · 1:04:03
- 可见光子有多大? · Huygens Optics · 20:33
- CppCon 2015:Andrei Alexandrescu “std::allocator...” · CppCon · 1:12:27
- BOLTR: Juicero,为有钱怪人准备的冷压榨汁机 · AvE · 41:39
- 每个统治者死时都会犯同样的错误 · CGP Grey · 5:38
- Line Goes Up – NFT 的问题 · Folding Ideas · 2:18:23
- [癫痫警告] 未优化的终端应该跑多快? · Molly Rocket · 51:03
- Refterm讲座第一部分 - 优化哲学 · Molly Rocket · 18:41
- 格雷厄姆数有多大?(特邀罗恩·格雷厄姆) · Numberphile · 8:23
- Jim Jefferies -- 枪支管制(第一部分)来自 BARE -- Netflix 特别节目 · Jim Jefferies · 7:47
- 为什么美国人不用电水壶? · Technology Connections · 24:55
- 我们最接近外星科技的东西 · Veritasium · 55:00
- Refterm v2 - 资源使用、二进制 splat、字形大小等 · Molly Rocket · 29:51
- 砖块组装 · Ancient · 12:27
- 唯一不可打破的定律 · Molly Rocket · 53:25