使用Chisel构建Edge TPU的经验

Experiences Building Edge TPU with Chisel

频道:Chisel · 时长:37:47 · 发布:2018-11-17 · 播放:10560

在 YouTube 观看

简介

Google在Chisel社区的演讲,工程师们讲述了使用Chisel硬件构建语言设计Edge TPU的过程。涵盖了生产力提升和他们遇到的问题。

HN 为什么推荐

被指出作为使用开源HDL构建真实、已出货ASIC的罕见第一手资料,在HDL和FPGA选择讨论中很有用。

Google有一个非常有趣的演讲,关于他们使用Chisel设计第一款Edge TPU芯片的经验。 — HN, 2023

机器学习与深度学习 · 计算机体系结构与CPU · 半导体与芯片制造

中文字幕节选

太棒了,谢谢。大家好,我叫 Derrick Lockhart,来自 Google。我 和我的联合演讲者 Stephen Twig 将要讨论我们使用 Chisel 构建 Edge TPU 的经验。据我所知,这是首次公开 承认我们在 Google 使用了 Chisel,并使用 Chisel 构建了实际的 硬件,所以这非常令人兴奋。关于这次演讲有一些注意事项,尽管我们在 架构部分,但你们会对架构大失所望, 因为我不会讲任何架构内容。这主要是关于我们使用 Chisel 以及我们在那方面的经验。在这方面将有两个主要部分, 一个是 Steven 谈论我们在 Chisel 中构建的实际扩展和基础设施, 以使 Edge TPU 项目成功,另一个方面将是 我代表项目中的设计师们发言。太好了, 抱歉,我代表项目的设计师们发言,效果很好, 项目中哪些做得好,哪些做得不好。另一个注意事项是 我们使用的是 Chisel 3,它当时还处于非常早期的阶段,我谈到的 许多事情现在可能已经解决了,但我只是想提出并强调 我们遇到的一些问题,仅从经验角度出发,以确保 它们被列入 Chisel 开发路线图,确保我们解决这些问题。所以 简要谈谈 Edge TPU,这是我们构建的一款定制 ASIC, 同样使用 Chisel,它针对边缘推理,即将 TensorFlow 模型映射到小型设备上,我们真正追求的是低功耗、低成本 和高性能推理。我们真正关注的是设备端 推理应用。关于 Edge TPU 的设计,我应该说的是, 我们并没有构建一个具体的实现,而是构建了一个 设计生成器,原因是我提到的约束条件, 我们真正追求低成本、低功耗,同时在该外形尺寸下尽可能 提高性能,因此构建设计生成器对我们来说很合理, 它允许我们进行广泛的设计空间探索,正如我稍后 会谈到的,这不仅仅是在硬件方面,我们还对 软件栈进行了协同参数化,以真正达到我们寻找的目标点。那么为什么 我们当时选择 Chisel 呢?尽管 Google 现在是一家非常大的公司, 但你可能不知道的是,当 Google 启动一个项目时,很多时候 它更像是一个创业环境,有几个人认为 某个想法不错,他们就会开始着手,最终获得 一些人员编制和项目资金的批准,这真的是 自下而上的,Edge TPU 就是这种情况。所以我们确实有一个非常小的 设计团队来设计这个项目,因此,加上我们 试图赶上一些非常紧迫的时间线,以与当前竞争激烈的 机器学习和 French 市场竞争,我们真的在寻找任何 能获得的速度和生产力提升,我们认为 Chisel 可能 是那种改变游戏规则的东西之一。此外,我谈到过 我们构建了一个设计生成器,因此我们真正想要的高 参数化能力,在硬件方面真的没有很好的选择, SystemVerilog 在这方面不行,我们需要参数化能力,而 SystemVerilog 无法支持,所以 Chisel 总是能给我们这种能力。

HN 上的讨论

谷歌有一场非常有趣的演讲,讲述了他们在设计第一块Edge TPU芯片时使用Chisel的经验。很多问题都是工业芯片设计特有的,其中验证和覆盖率至关重要,但许多问题也适用于小规模个人设计。这是对优点和问题的良好概述。而且许多问题也适用于其他前端,这些前端本质上使用Verilog作为目标语言。[VIDEO] — therealcamino, 2023-02
谷歌TPU工程师使用开源Chisel进行ASIC设计(2018),[VIDEO] “Google Edge TPU devices”,100条评论(2019),[LINK] 和 [LINK] “Coral Edge TPU review”,100条评论(2020),[LINK] “TPU transformation: 10 years of our AI-specialized chips”,60条评论(2024),[LINK] — walterbell, 2025-05
实际上那是EdgeTPU(与数据中心使用的TPU不同)。一位谷歌工程师的演讲可以在YouTube上找到:[VIDEO] 请注意,他们使用的是5年多前的Chisel版本,自那以后许多事情已经改变。不过,对于典型的硬件工程师来说,Chisel仍然可能难以学习,因此它可能最适合小型且高度专注的团队,而不是大型硬件公司。[编辑] 这里有一个使用最新版Chisel的独立开发者的演讲:[LINK] — ekiwi, 2021-07
谷歌用Chisel构建了他们的一个TPU [1]。TL;DW:Chisel写起来漂亮/有趣,有明确的生产力提升,但学习曲线相当陡峭,验证成本也高得多,部分原因是它是HLS(大多数都有这个问题),还缺乏任何工具支持。这两项成本正在逐渐降低(不过在我看来,还不足以让验证不成为一件苦差事)。[1] [VIDEO] — ljhsiung, 2021-01
2018年11月,设计TPU的谷歌工程师做了一场演讲,介绍了使用开源Chisel设计ASIC的情况,[VIDEO] 来自 [LINK] > 谷歌将拥有云端TPU……来处理各种机器学习驱动任务的模型训练,然后在专用芯片上运行该模型的推理,该芯片运行的是更轻量级的TensorFlow,功耗更低……大幅减少实际捕获数据的设备所需的占用空间……谷歌将在一款类似于树莓派的模块化板上发布该芯片……这将有助于吸引那些已经将TensorFlow作为主要机器学习框架的开发者,让他们相信这款芯片能更快、更高效地运行这些模型。 — walterbell, 2019-02

相关视频