现代硬件速成课 by Cliff Click

A Crash Course in Modern Hardware by Cliff Click

频道:Devoxx · 时长:59:21 · 发布:2016-11-11 · 播放:20697

在 YouTube 观看

简介

Cliff Click 通过一个现代乱序 CPU 上的小型性能示例进行讲解。内容涵盖流水线、指令级并行、CISC 与 RISC、多核,以及为什么缓存未命中和内存子系统主导性能。

HN 为什么推荐

推荐作为对现代硬件和缓存如何影响软件性能的易懂复习。

如果你对所有这些缓存如何工作及交互有点过时,这是一个非常易懂的复习。 — HN, 2017

软件性能与优化 · 计算机体系结构与CPU

中文字幕节选

哦,我现在在线了,嗨,欢迎来到Devoxx 2016,我想我从未参加过这样的活动,所以我正在体验 非加州的天气,寒冷和细雨和我 准备的差不多,所以嗯,这不是你父辈的烦恼机器 对吧,现代硬件速成课,我大约六年前做过这个演讲,然后我 最近回顾了幻灯片,为了在Devoxx这里做,答案是 嗯,六年来硬件方面其实没太大变化,很多 在底层发生了变化,但主要不是你所希望的地方,也不是我们 过去得到的地方,所以你知道经典的冯·诺依曼架构是,你 知道程序和存储内存,内存共享于程序和数据,顺序 执行模型,一条指令接着下一条,再下一条,再下一条来完成你的 问题,这是思考算法的好模型,嗯,它实际上不是 今天计算机的工作方式,嗯,它曾经是那样的,所以这是一个很好的抽象,嗯 它是一个足够好的抽象,以至于我们总是通常这样思考 嗯,直到你开始进入真正的多核多线程 情况,或者你试图提升性能,却不明白为什么你的 代码慢,所以我要深入底层,看看现代 硬件中发生了什么,然后映射回它对编程模型的意义,所以 左边的图表是我六年前做的,白板上的图表是我 上周做的,尺度,我使用的度量标准有点 不同,但这是对数尺度,所以都差不多,嗯,我能 看到的是,从2004、2005年以来,每 核的吞吐量每年增长约10%,所以在过去八年里我们大致 在单线程性能上翻了一番,现在我们有了更多线程,我们 有了更多核心,但任何单个核心在过去 十年里只是稍微快了一点,这带来了不同的性能模型,你不能写 顺序代码来处理越来越大、越来越大的问题,然后仅仅 等待下一台更快的机器来解决,你实际上必须写并行代码,你 必须那样思考,如果你有性能问题,你试图 诊断它们发生了什么,嗯,已经发生的是,对 性能重要的东西在过去20年里变化了很多,而且它不 一定是人们认为的那样,所以让我们深入一点,回滚 到1988年左右,嗯,人们在使用CISC ISA,为什么?因为它们本意是 由人类编写的,人们用汇编风格写程序,嗯,然后 他们有了编译器,是的,他们有很多编译器,但用了很多汇编, CISC方法可以追溯到10到20年前,当时 期望是你用汇编写,编译器是这种新奇的 东西,你可能实验一下,而不是反过来,嗯,所以你 有这些非常奇特的硬件原语,我们现在只会放在 库里的东西,比如字符串模式匹配或多项式求值,那里实际的 机器硬件指令在那个时代的VAX上,嗯,多级内存 和每条指令的寻址模式,嗯,它使编程在精神上很容易,但在硬件上 很难编程,让硬件更快,我的意思是,这导致了真正的 性能问题,随着你前进,但当时每条指令的周期数 速度基本上由页面错误主导,对吧,所以你知道 一条指令有多少时钟周期,你可以直接看,你可以 把它们加起来得到一个数字,但如果你遇到页面错误,你必须交换 到磁盘,非常慢,嗯,局部性很重要,因为你必须把所有东西放进 少量RAM中,每次你接触磁盘,你就糟糕了,所以你努力

HN 上的讨论

这是一个好的尝试,但有缺陷。1. 你应该使用 JMH 来处理预热、JIT、计时、运行平均等。你可能会喜欢以下关于这个主题的演讲,尽管我相信还有其他瑰宝。- 性能焦虑:[LINK] - 为了好的基准测试:[LINK] - (Java)基准测试的艺术:[LINK] - 现代硬件速成课:[VIDEO] - 如何不写微基准测试 [LINK] - 一个有缺陷的微基准测试剖析 [LINK] 2. 无竞争的锁基本上是免费的,正如你注意到的。3. Guava 确实通过 asMap() 实现了 Map 接口。它还有一个 concurrencyLevel 来调整其性能。它基于 Java 5 的 CHM。4. Caffeine 是基于 Java 8 的 CHM 重写以及许多经验教训的 Guava Cache 重写。你可以查看其基准测试以获取灵感:[LINK] 5. 数据结构出奇地棘手。例如,看看这个分析,展示… — NovaX, 2025-03
我也是 Cliff 和其他 Rice 校友的粉丝;这里有几个我喜欢他的视频。[0] The Sea of Nodes and the HotSpot JIT [1] A JVM Does That? [2] A Crash Course in Modern Hardware [3] Bits of Advice for the VM Writer [0] [LINK] [1] [LINK] [2] [VIDEO] [3] [LINK] — tjalfi, 2021-06
巧合的是,我昨晚刚看了这个:如果你对所有这些缓存如何工作和交互有点过时,这是一个非常容易理解的复习:[VIDEO] — zellyn, 2017-03
我很好地理解了主要观点以及大多数观点背后的推理。我不在游戏行业工作。我借鉴这些资源来构建我的背景:- [LINK] - Mike Acton “面向数据的设计与 C++” [LINK] - Cliff Click 的现代硬件速成课 [VIDEO] - GCAP 2017: 《地平线:零之曙光》中的 Decima 可见性 [LINK] - 《地平线:零之曙光》中基于 GPU 的运行时程序化放置 [LINK] - [LINK] 我说这些只是为了说明优化并非对普通人完全不可及。理解硬件在做什么是有用的——到一定程度;好的抽象也是必要的。 — xk3, 2024-06
觉得这个帖子的整体语气有点奇怪。运行大型机伴随着寻找专家、依赖单一供应商、必须购买至少两台位于不同数据中心以进行灾难恢复等挑战……但纯粹从性能角度来看,如吞吐量和服务质量,大型机的优势是明显的。花点时间阅读 Z15 技术指南,惊叹于当今计算领域的最新技术。我们谈论的是持续、全速的 5.2 GHz,始终如此。巨大的 IO 带宽、无处不在的 ECC 内存、巨大的缓存、原生加密协处理器。所有这些,而你的 x86 很可能大部分时间都在等待内存……“Cliff Click 的现代硬件速成课” [VIDEO] IBM z15 (8561) 技术指南 [LINK] [LINK] 云供应商正在做的是有时使用定制硬件来创建云规模的大型机。只是由于 IBM 管理层的极度无能,他们无法利用其大型机技术,并提供在每计算或存储单元价格上具有竞争力的云产品。 — belter, 2021-09

相关视频