2023 LLVM 开发者大会 - Mojo 🔥:面向异构计算的系统编程语言
2023 LLVM Dev Mtg - Mojo 🔥: A system programming language for heterogenous computing
频道:LLVM · 时长:49:48 · 发布:2023-11-22 · 播放:61057
简介
2023 年 LLVM 开发者大会主题演讲,由 Abdul Dakkak、Chris Lattner 和 Jeff Niu 介绍 Mojo,一种基于 MLIR 和 LLVM 构建、面向异构计算的 Python 家族系统语言。
HN 为什么推荐
HN 指出这是对 Mojo 设计最深入的剖析,包括 MLIR 的使用和 SIMD 优先的标量。
这个视频完全改变了我的看法 — HN, 2024
编程语言设计 · C、C++、Rust、Go 与系统语言 · 编译器、解释器与程序分析
中文字幕节选
谢谢Alex,太棒了,我们非常高兴能在这里稍微聊一聊 我们一直在做的事情。我们先从Mojo是什么开始,快速概览一下,最高层面 来说,Mojo是一种Python风格的系统编程语言,那这是什么 意思呢?意思是我们在这里要用系统和编译器做真正酷的事情, 而它恰好看起来像Python,但请忘掉你所知道的关于Python的一切, 拜托了。所以这个东西大约才一岁,还非常早期,仍然 在开发中,不过它仍然很有趣,在做一些很酷的事情。而且 我们还有一个充满活力的社区,我们有超过15万用户,我们在Discord上有一个很大的 社区,围绕它有很多兴奋之情。所以今天我们将深入 探讨我们最初为什么要做这件事,这经常是别人问我们的问题。 我们会谈谈我们如何从零开始设计一门新语言,我们会谈谈 内部实现细节,包括我们对LLVM做的一些可怕的事情, 谈谈这对加速器和计算意味着什么,然后收尾。 那么首先,为什么为什么为什么为什么为什么,对吧。你们很多人都在做AI, 如果你做AI,我要问你们所有人的问题是:如果AI对世界如此重要, 为什么所有软件都这么糟糕?这是一个巨大的问题,一个巨大的难题, 我认为我们中许多在这个行业工作了一段时间的人, 一直在以许多不同的方式努力解决这个问题。所以对我来说,当我 看这个问题时,我认为挑战实际上是碎片化和复杂性, 所有这些系统不能很好地协同工作,它们是由 不同群体和领域的好心人构建的,但它们实际上并不能真正 协同工作。所以对用户来说,这是一个巨大的痛点。为什么会这样?我 为自己代言:如果你在支持一款芯片,你就专注于那款芯片,我们很多人 拿钱是为了解决一个具体问题,我们不是来解决行业规模的问题的, 你也负担不起,你没有时间,没有日程, 没有人力,随便什么。通常你所在的组织, 根据我的经验,会让你很难解决其中一些问题。所以我们在 Modular的方法是我们需要更少但更好的东西,这就是 最初促使我们构建Modular的原因。它其实是一种组织, 能够跨越许多不同的问题,并长期投资于 构建,并希望随着时间的推移提升整个行业。那么我们如何做到这一点呢? 具体来说,我们正在构建我们称之为AI引擎的东西。好吧,AI引擎, 如果你看看现代ML栈,很多人试图在所有这些已经构建起来的AI技术之上 堆砌Python层。我们在硬件 软件边界上解决这个问题,毫不意外地重新投资于编译器。所以我们想要做的是, 我们想要统一并整合所有这些底层技术系统,这样 创新就可以在顶层发生,用编程模型、框架以及所有 这类东西。我们的方法是到人们所在的地方去见他们,所以人们用PyTorch, 人们用JAX,人们用TensorFlow,那很棒,这些都有优缺点, 还有其他东西,很少有人真的想重写他们所有的 代码。所以对我们来说,做到即插即用兼容非常重要,到人们所在的地方去见他们, 并与他们现有的系统协同工作。另一件事是这
HN 上的讨论
Mojo 刚发布时,我并没有太在意,因为:1. 它在可用之前就宣布了,甚至闭源形式都没有。2. Emoji 文件名对我来说意味着它没有太认真对待自己。3. 许多人尝试让 Python 变快但都失败了,这是我天真的看法,尽管 LLVM 全明星团队在开发它,这似乎是一个崇高的目标。4. 闭源编程语言通常很糟糕。他们在 2023 年的 LLVM 会议上做了演讲,这个视频完全改变了我的看法:[VIDEO] 这里有一些迷人的想法,我特别期待他们的模板化 IR 能带来什么。推荐其他人看看,如果他们不明白为什么应该关注这个项目。 — nickysielicki, 2024-03
我认为他们在这里进行了很好的深入探讨 [VIDEO] 要点是 MLIR(与 LLVM 不同)被设计为多线程的,因此 LLVM IR 之上的整个堆栈是并行的,然后 LLVM 被用作每个函数的代码生成工具并行使用,所以尽管 LLVM 本身是单线程的,但有多个独立的上下文。另外,我认为他们编写了自己的链接器。 — MohamedMabrouk, 2026-08
他们在 LLVM 开发者会议上做了一个关于这个的演讲:[VIDEO] 他们在编译时解释器、mojopkg 和代码生成器方面有一些花哨的技术。他们还有一个图编译器(演讲中未提及),可以融合用 Mojo 编写的内核。 — melodyogonna, 2025-09
我最近看了一个关于新语言 Mojo 的演讲[1]。其中有一部分关于 SIMD,以及他们如何将标量值视为向量运算的特例(大约在 33 分钟处)。看起来张量确实是现代 ML 系统的核心抽象之一。我听过有人开玩笑说 AI 只是矩阵乘法。Python 是如此灵活的语言,围绕其语法创建抽象非常容易。我相信这是 Python 在该领域占据主导地位的部分原因(显然不是唯一原因)。我也和你一样有同感,但作为 Zig 的遥远仰慕者。我完全理解运算符重载可能被滥用。但我有一种直觉,至少为线性代数(可能还有复数/四元数)提供运算符,对于从历史此刻往后的任何语言来说都是一个非常重要的特性。1. [VIDEO] — zoogeny, 2023-11
相关视频
- systemd 的悲剧 · linux.conf.au · 47:18
- 为什么电动自行车比摩托车更危险 · FortNine · 6:18
- 给父母的基本理念 · Jason Salotti · 2:51:43
- Python如何被泄漏的内部机制塑造,Armin Ronacher,Flask框架 · Видео с мероприятий {speach! · 49:55
- Rich Harris - 重新思考响应式 · You Gotta Love Frontend · 36:45
- CppCon 2015:Andrei Alexandrescu “std::allocator...” · CppCon · 1:12:27
- Go 中的词法扫描 - Rob Pike · GoogleFOSSSydney · 51:17
- William Byrd 谈“有史以来最美丽的程序” [PWL NYC] · PapersWeLove · 1:31:05
- 为什么函数式编程没有成为主流?—— Richard Feldman · Metosin · 46:09
- 也许不 - Rich Hickey · ClojureTV · 1:03:28
- APL中的康威生命游戏 · Dyalog · 7:47
- 讲座 1A | MIT 6.001 计算机程序的构造和解释,1986 · MIT OpenCourseWare · 1:12:55
- Crockford 谈 JavaScript - 第一卷:早年 · YUI Library · 1:42:08
- 培育语言,作者:Guy Steele · Bill Pugh · 53:31
- CppCon 2017: Matt Kulukundis “逐步设计一个快速、高效、缓存友好的哈希表” · CppCon · 59:33
- 高效程序 - Clojure 10年 - Rich Hickey · ClojureTV · 1:14:51