在1000核上运行Java - 硬件/软件协同设计的故事
Java on a 1000 Cores - Tales of Hardware / Software CoDesign
频道:Google TechTalks · 时长:1:12:01 · 发布:2009-09-08 · 播放:23129
简介
Azul Systems的Cliff Click在Google Tech Talk上讲述在约一千核的机器上运行Java业务应用。他涵盖硬件和软件协同设计,包括垃圾回收硬件和JIT。
HN 为什么推荐
HN将Cliff Click的演讲视为关于JVM、垃圾回收和硬件辅助Java的绝佳来源。
Cliff Click的任何东西都相当不错。 — HN, 2013
Python、Ruby 与脚本语言 · 编译器、解释器与程序分析 · 计算机体系结构与CPU
中文字幕节选
>> 今天我很荣幸欢迎来到谷歌的 Cliff Click博士。他是Azul Systems的首席JVM架构师。 他是主要——他曾经是 HotSpot服务器编译器的首席架构师, 那时他还在Sun工作。 今天他来这里和我们谈谈Azul在 大量核心以及硬件/软件协同设计方面的经验。 那么,有请他来。 >> CLICK:谢谢。大家好。那么,你们可能 从幻灯片上能看出来,你们看到的是回收利用的 ECOOP主题演讲的幻灯片,但我认为它们 非常有趣。这是一个非常有趣的 演讲。那么,快速看一下Azul是什么 以及我们做了什么。 我们设计自己的芯片。它们实际上 是由台湾积体电路制造 公司制造的。我们用这些 芯片构建自己的系统。我们的目标系统是运行商业 Java。我们是非常大的核心数量,比如每个芯片54个核心。我们最多可以做到16个 芯片缓存一致。所以,大机器有 864个核心。我们有一个非常弱的内存 模型,但当我们放入 正确的内存栅栏集时,它符合Java规范。内存 速度是平坦的。它是均匀的。它不是NUMA, 而通常你会期望高核心 数机器是NUMA,那是因为商业Java是非常不规则的计算。所以,它 不知道相同的布局。你可以做 你可以获得一些内存的地方,你知道, 靠近你的本地内存或者选择一些 你知道会是本地的那块内存。 相反,我们放弃了这一点,说: “好吧,全都是最低速度。没有 快也没有慢。”我们确实有很多带宽。 我们登上了——几年后我们仍然在 超级计算机带宽的前20名榜单上。 CPU本身每个CPU的缓存相当有限, 但总体上,芯片上有很多缓存;每个16K指令缓存和 数据缓存,乘以54个核心。然后每 九个核心共享两兆L2,或者一个芯片上有六个 这样的组,所以有12兆的L2。这是一个总量。芯片上有很多缓存。 所以,如果你直接去——开始了。 我走得太快太远了。让我回到 这里。是的。好的。所以,我做了——是的,我正在尝试 弄清楚我按哪个按钮才能 到那里。好的。那么,这些核心是经典的 三地址RISC。它们非常简单。它们 时钟频率比X86慢。我参与其中 只是因为核心占用的面积少得多。 没有部件的复制。 一切都必须通过非常简单的管道。 我们可以在每个核心上维持几个缓存未命中的操作, 每个L2可以维持一定数量的 预取。所以,整个机器总体上,你可以有超过2,000个 未完成的内存引用同时在途。 这在机器上不难实现, 这很常见,不会导致任何人变慢,而且我们有 多余的带宽来做到这一点。我们有硬件 事务内存支持,一堆特殊的 操作来让Java的生活更好,包括读 以及用于 GC 的读写屏障,还有一堆其他 零敲碎打的东西, 都是为了让 Java 跑得更快。我们真正 瞄准的是托管运行时系统中的 线程级并行。这大致 就是我们的目标。所以,当我们 回顾 Azul 刚创立的时候,Java 正在取代 COBOL。这在很大程度上
HN 上的讨论
大概是这个:[LINK] Cliff Click的任何东西都相当不错。这家伙对编译器、虚拟机和CPU及其交互有非常深入的理解。JVM能做到那个?[LINK] 1000核上的Java [VIDEO] — qznc, 2013-04
这是Azul的Cliff Click关于他们硬件的精彩Google技术演讲。在那次演讲的大量信息中,他提到硬件人员想添加直接执行JVM字节码的功能。他告诉他们不要费心,因为他可以更好地JIT编译,而且他们无论如何也无法支持所有字节码。我很想知道为什么。 [VIDEO] — bokchoi, 2009-10
> 我能想象的是,一种专门构建的 CPU,它能让 JIT 的工作比针对 x86 或 ARM 编译容易和快速得多。这样的机器不会执行原始的 Java 字节码,而是执行稍微更底层一些的东西。这大致上正是 Azul Systems 所做的,他们采用标准的 RISC,并加入硬件 GC 屏障和事务内存。Cliff Click 就此做了一个出色的演讲 [0],并在大约 20:14 处提出了你的论点。[0] [VIDEO] — hayley-patton, 2025-11
Azul Systems(如今主要是一家 JVM 供应商)最初是构建大型多核机器(Vega)来运行 Java 工作负载的——有一个关于此的有趣技术演讲:[VIDEO](2009 年)。他们构建了一个“非常好的 JIT 目标”,而不是直接使用字节码,原因在视频中有解释。好奇有没有人用过…… — mcbridematt, 2020-07
任何系统扩展到如此大规模都会面临一些有趣的挑战。Peter引用了Azul System的一些东西和他们定制的GC。来自Azul的Cliff Click做过一些很棒的Google Tech Talks,关于JVM开发和将JVM扩展到真正的大型系统。[1][2] [1] JVM能做到那个? - [LINK] [2] 1000核上的Java - [VIDEO] — Alupis, 2015-03
相关视频
- JVM 会做那个? · Google TechTalks · 52:37
- Dtrace 回顾 · GoogleTalksArchive · 1:18:02
- John Carmack 主题演讲 - Quakecon 2013 · IGN · 2:49:18
- 编程语言高级主题:无锁哈希表 · GoogleTalksArchive · 58:35
- 论编程语言的表现力 - Shriram Krishnamurthi [PWLConf 2019] · PapersWeLove · 59:03
- Ruby Conf 12 - Y Not- 函数式编程历险记 by Jim Weirich · Confreaks · 53:21
- 神经网络和反向传播的详细入门:构建micrograd · Andrej Karpathy · 2:25:52
- Python如何被泄漏的内部机制塑造,Armin Ronacher,Flask框架 · Видео с мероприятий {speach! · 49:55
- RailsConf 2014 - Sandi Metz 谈所有的小细节 · Confreaks · 38:47
- 事件循环到底是什么?| Philip Roberts | JSConf EU · JSConf · 26:52
- Rich Harris - 重新思考响应式 · You Gotta Love Frontend · 36:45
- 8 位计算机更新 · Ben Eater · 6:53
- 遥遥领先 | 1969 年的阿波罗制导计算机 · TNMoC · 1:21:22
- Go 中的词法扫描 - Rob Pike · GoogleFOSSSydney · 51:17
- 在 6502 上从零开始实现“Hello, world” — 第 1 部分 · Ben Eater · 27:24
- William Byrd 谈“有史以来最美丽的程序” [PWL NYC] · PapersWeLove · 1:31:05