Introducing Nx - José Valim | Lambda Days 2021
Introducing Nx - José Valim | Lambda Days 2021
频道:Code Sync · 时长:52:58 · 发布:2021-02-19 · 播放:26274
简介
Jose Valim 介绍了 Nx,这个将数值计算引入 Elixir 的项目,涵盖多维张量、自动微分以及到 CPU 和 GPU 的 JIT 编译。
HN 为什么推荐
在 Elixir 和机器学习讨论中被推荐为介绍 Nx 能实现什么的入门内容。
我推荐你观看 José 介绍 Elixir Nx 的演讲 — HN, 2021
中文字幕节选
[音乐] 嗨,我是 José Valim,Elixir 的创造者,今天我想和你们聊聊一个 名为 Nx 的新项目,它代表 Numerical Elixir,以及我们在这个项目上的目标, 以及我们将如何使用这个项目和几个相关项目来 让 Elixir 支持数值计算。好的,让我们开始吧。Nx 目前 就是 Numerical Elixir 这个理念,但它也是一个库, 包含了一些我们正在探索的东西。这个演讲关于 Nx 的内容包括 多维类型,也就是张量。它涉及数值定义, 涉及自动微分,还涉及即时编译和提前编译 到 CPU 和 GPU。这正是我们将在本次演讲中探索的内容。 这些就是本次演讲的主题。为了展示这些东西如何 工作,我们将从零开始现场编写一个神经网络。现在 是做一个免责声明的好时机:虽然我会现场编写 神经网络,但有时我会略过神经网络的细节,我 会说类似嘿,我们将使用这个公式,这是 公式的名字,我们知道这个公式很好,但要完全理解 这个公式以及为什么它好,你需要参考一些文档或 在线参考资料,演讲之后。因为重点不一定是神经网络 内部,重点是 Nx 库 本身。好的,让我们开始吧。我们有很多事情要做,所以让我们开始。那么 我们的神经网络会做什么?我们将使用这个数据集,这个 数据集有点像神经网络的 hello world。作为这个 数据集的一部分,我们可以找到手写数字的灰度图像,正如你 现在在这里看到的,我们可以看到五,我们可以看到零,我们可以看到四, 我们的神经网络的目标是查看这些数字,我们的神经网络应该 能够告诉我们嘿,这是五,这是零,这是四,等等。 所以让我们开始吧,让我们开始现场编码一点,这样我们可以 进入状态,看看 Nx 如何工作。好的,现在我在这里的 shell 中,它运行在 Nx 项目内部,我可以创建一个新的张量,调用 Nx.tensor,我们可以看到张量有一个类型,所以在这种情况下,我们 有 64 位有符号整数,我们正好有一个维度,有三个 条目,但你知道我可以让它变成多维的,例如现在 我有两个维度,我可以在这里添加更多元素,然后我们 可以访问一行,如果需要的话,然后访问那一行中的另一个元素,所以这些就是 张量。我们可以用这些张量做很多事情,我们只是 刚开始,但你可以看到它已经有一个合理的 API,有很多操作 和我们可以用它做的事情。好的,这就是 Nx。那么让我们 看看,既然我们要用我们的神经网络进行图像分类, 对这些数字进行分类,让我们尝试加载这些数据,让我们尝试 加载这些数字。在这种情况下,我在这个数据集中有它们, 这个数据集是公开的,我已经下载了数据集到我的机器上,它就在这里,在这个 gzip 文件中。所以让我们读取这个文件。好的,让我们读取 这个文件,我知道它只是压缩的,所以我将直接进行,让我们 解压它,我将把它放入一个二进制中。所以我只是从 内存中加载文件,我知道这个文件有一定的格式,所以让我们使用
HN 上的讨论
如果你最近没有关注 José 和 Sean 在做的工作,我建议你看看 José 介绍 Elixir Nx 的演讲 [VIDEO] — bfm, 2021-04
很多人提到 Nx,我当然也想做同样的事,但附上一个 YouTube 视频链接,以防你想知道目前能做到什么程度。[VIDEO] — rmetzler, 2021-03
虽然还处于早期阶段,但 José Valim 和其他一些人正在为 Elixir 和(Erlang)BEAM 添加与 AI 相关的能力。入门可以看“Introducing Nx”([VIDEO])。鉴于他们已经有一个健壮的 Actor 模型作为基础,我觉得他们在推进过程中或许能借鉴一些 Ray 的思路…… — Rich_Morin, 2021-07
相关视频
- Ruby Conf 12 - Y Not- 函数式编程历险记 by Jim Weirich · Confreaks · 53:21
- 神经网络和反向传播的详细入门:构建micrograd · Andrej Karpathy · 2:25:52
- Erlang和Elixir的灵魂 • Sasa Juric • GOTO 2019 · GOTO Conferences · 42:02
- “简单造就易用” - Rich Hickey (2011) · Strange Loop Conference · 1:01:38
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- Richard Feldman 谈“让不可能的状态不可能” · elm-conf · 25:06
- William Byrd 谈“有史以来最美丽的程序” [PWL NYC] · PapersWeLove · 1:31:05
- Rich Hickey 谈价值的价值 · InfoQ · 31:43
- 为什么函数式编程没有成为主流?—— Richard Feldman · Metosin · 46:09
- AlphaGo - 电影 | 完整获奖纪录片 · Google DeepMind · 1:30:28
- 也许不 - Rich Hickey · ClojureTV · 1:03:28
- 用 Clojure 的方式解决问题 - Rafal Dittwald · Clojure/north · 1:02:26
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- 第一讲A:Lisp概述与简介 · MIT OpenCourseWare · 1:12:55
- APL中的康威生命游戏 · Dyalog · 7:47
- 讲座 1A | MIT 6.001 计算机程序的构造和解释,1986 · MIT OpenCourseWare · 1:12:55