code::dive 会议 2014 - Scott Meyers:CPU 缓存及为何你需要关注

code::dive conference 2014 - Scott Meyers: Cpu Caches and Why You Care

频道:NOKIA Technology Center Wrocław · 时长:1:16:57 · 发布:2015-01-05 · 播放:231844

在 YouTube 观看

简介

Scott Meyers 解释了 CPU 缓存的工作原理及其对性能的重要性,涵盖缓存级别、访问速度、关联性以及多线程代码中的影响。重点是 C++ 和缓存感知、面向数据的编程。

HN 为什么推荐

HN 指出它是关于为何在真实硬件上内存布局优于指针追逐结构的首选解释。

Scott Meyers 有一个非常好的演讲,其中包含了这些信息 — HN, 2023

C、C++、Rust、Go 与系统语言 · 软件性能与优化 · 计算机体系结构与CPU

中文字幕节选

女士们先生们,让我们用热烈的掌声欢迎 Scott Meyers 非常感谢,我看得出来这将是一场精彩的演讲,因为 第一件发生的事情是介绍我的人强调了老 我,非常感谢,这就是当你 聘请专业人士时会发生的事情,他还强调了我丰富的 C++ 背景,谢谢 为此,这次演讲不是关于 C++ 的,这次演讲是关于比 C++ 更 基础的东西,这次演讲是关于硬件的,我想谈谈 CPU 缓存 因为这最终将决定你的 程序的性能,不管你使用什么编程语言,不管 你试图开发什么应用程序,所有这些都不重要,在 一天结束时,硬件决定了会发生什么,我们需要 理解硬件如何工作,我想从一个非常简单的问题开始,让我们 假设我们有一个矩阵,我们想要做的是访问矩阵的每个元素 也许是为了找出有多少个非零元素,也许是为了将元素中的 值总数相加,有两种基本方式可以遍历这个 矩阵,我们可以逐行进行,这被称为行主序遍历,它访问矩阵的每个 元素恰好一次,我们可以逐列进行,我们可以呃结果 我们也会访问矩阵的每个元素恰好一次,两种遍历做完全 相同的工作量,它们访问相同数量的内存位置,它们只是以 不同的顺序进行,此外,如果你坐下来写行 主序遍历或列主序遍历的代码,你会发现代码几乎 在两种情况下是相同的,所以如果我们想进行行主序遍历,我们只需有一个 嵌套的 for 循环,行在外层循环,列在内层循环 如果我们想进行列主序遍历,我们只需反转循环的顺序 列在外面,行在里面,所以从概念上讲,我们坐着,我们 以完全相同的次数命中完全相同数量的内存,编写 软件是微不足道的不同,如果我们想进行行主序还是列 主序遍历,有趣且让我们关心的是结果 性能并不那么相似,我在这里做的是行主序和列主序 遍历各种大小的矩阵,使用两个不同的编译器,其中一个 恰好是 GCC,其中一个恰好是 Microsoft C++ 编译器,这些 线对应列主序遍历,鉴于这是 时间,更高的线更差,列主序遍历明显比 行主序遍历花费更长的时间,另一件我想让你注意的是列主序 遍历不是以线性方式进行的,这里有一个小拐弯,这是 使用 G 呃 GC 对不起,使用 Microsoft 编译器的行主序 遍历,这是使用 Microsoft 编译器的行主序遍历,现在我不想让你从 这些数据中得出结论说 Microsoft 的编译器很烂,我的意思是你 可能无论如何都会得出这个结论,但这不是我想让你得出的结论,我想让你 得出的结论是,如果你有两个完全独立的编译器,它们有 相同类型的行为,这表明有更基本的东西在起作用 而不仅仅是编译器优化,注意行主序遍历与矩阵大小成线性 比例,并且比列主序遍历快得多 这告诉我们遍历顺序很重要 我们想理解为什么,但在我们解决这个问题之前,我想基于一个不同的观察 提出一个新问题,所以让我们谈谈扩展 呃处理计算矩阵中奇数元素的数量,所以这里我有一个 方阵,我要做的是计算奇数元素的数量,所以

HN 上的讨论

我最喜欢的两个:code::dive 会议 2014 - Scott Meyers:CPU 缓存以及你为什么要在意:[VIDEO] CppCon 2014:Mike Acton “面向数据的设计与 C++”:[LINK] 它们主要关于 C++ 以及缓存感知/面向数据的编程。 — drainyard, 2018-10
缓存关联性,冲突未命中。你有太多内存地址映射到相同的缓存行,并且同时被使用。Scott Meyers 有一个非常好的演讲包含了这些信息:< [VIDEO] > — coppsilgold, 2023-04
这里有一个很好的可视化,展示了每一级缓存以及主存的访问速度。现在把主存访问时间基本上翻倍(对于当今最先进的 SSD 来说),那就是访问速度。[VIDEO] — jimmy1, 2018-04
相关视频 - Scott Meyers:CPU 缓存以及你为什么要在意 [VIDEO] 记住,孩子们,小错误可能带来大后果。在多线程时,把那些数据保存在不可变数据结构中。Actor 模型也有帮助。 — game_the0ry, 2021-12
> 如果你的主要操作是在列表的随机位置插入,那么在大型数据下链表比数组更快。你避免了移动索引之后的所有内存(为插入的元素腾出空间)。 这是错误的。大 O 表示法说这应该是对的,如果你在算法与数据结构期末考试中说数组更快,你会被扣分,但当你在实际硬件上运行时,数组在所有 n 的大小下都更快,而且随着 n 变大,性能差距也会变大。 这里有一个 Bjarne Stroustrop(C++ 的创造者)的演讲[0],甚至包含了展示这一现象的假想图表。如果你想要一个缺失图表应该是什么样子的可视化,这里有一个类似的[1]。 这里还有另一个视频[2],由 Scott Meyers(《Effective C++》的作者)更详细地解释了为什么会发生这种情况。 [0]: [LINK] [1]: [LINK] [2]: [VIDEO] — reificator, 2020-12

相关视频