Swift for TensorFlow:下一代机器学习框架(TF Dev Summit '19)
Swift for TensorFlow: The Next-Generation Machine Learning Framework (TF Dev Summit '19)
频道:TensorFlow · 时长:31:22 · 发布:2019-03-07 · 播放:40789
简介
Chris Lattner 和 Brennan Saeta 在 2019 年 TensorFlow 开发者峰会上介绍 Swift for TensorFlow,涵盖语言集成的自动微分和 Swift 机器学习工具。
HN 为什么推荐
被引用为谷歌 Swift for TensorFlow 项目的来源,后来被视为一度被热捧的机器学习语言。
这个非常有趣且出人意料。 — HN, 2020
编程语言设计 · 编译器、解释器与程序分析 · 机器学习与深度学习
中文字幕节选
[音乐播放] CHRIS LATTNER:大家好。 我是Chris,这位是Brennan。 我们非常激动地向大家介绍一种全新的机器学习方法。 在TensorFlow团队,我们的职责就是推动机器学习领域的最前沿发展。 不断向前推进。 过去几年,我们在深度学习方面学到了很多。 我们已经把大部分成果都融入了TensorFlow 2。 我们对此感到非常兴奋。 但在这里,我们要看得比TensorFlow 2更远一些。 我说的更远是什么意思呢? 嗯,eager模式让训练动态模型变得非常容易。 但部署它仍然需要你把它拿过来,然后写 一大堆C++代码来驱动它。 这方面还有改进的空间。 同样,一些研究者对将机器学习模型 集成到更大的应用中很感兴趣。 这通常也需要编写C++代码。 我们始终希望有更灵活、更具表现力的自动微分机制。 我们感到兴奋的一点是,能够定义可复用的类型, 然后将其放到新的地方并与自动微分一起使用。 我们一直热衷于改进你的开发工作流程。 我们希望通过把代码中的错误带到你的源代码中, 以及缩短你的迭代时间,来让你更高效。 现在,我们真正想做的是把TensorFlow提升到全新的高度。 要做到这一点,我们需要能够在技术栈的各个层面进行创新。 这包括编译器和语言。 这正是Swift for TensorFlow的意义所在。 我们认为,用新的方案解决老问题 能够帮助把机器学习推得比以往更远。 好,让我们进入一些代码。 首先,什么是Swift?Swift是一门现代、跨平台的编程 语言,设计目标是易于学习和使用。 Swift使用类型。类型很棒,因为它们可以 帮你更早地捕获错误。 而且,它们还能促进良好的API设计。 Swift使用类型推断,所以它非常易用且非常优雅。 但它也是开源的,并且拥有开放的语言演进 流程,这让我们能够修改这门语言, 让它更适合机器学习,这非常棒。 让我们进入一个更相关的例子。 这是在Swift for TensorFlow中定义简单模型的方式。 如你所见,我们在这里布置了各个层。 然后我们可以定义一个forward函数,把它们 按线性顺序组合在一起。 你可能已经注意到,这看起来很像Keras。 这当然不是偶然的。 我们希望你能把所了解的Keras知识 也带入到这个世界中来。 现在,有了一个简单的模型,让我们来训练它。 怎么做呢?我们只需实例化模型, 选一个优化器和一些随机输入数据,然后选一个训练循环。 在这里,我们会手写它。 我们喜欢手写的原因之一 是它给了你最大的灵活性, 让你可以尝试不同种类的构造。 你可以做任何你想做的事,这非常棒。 但Swift for TensorFlow的一些主要优势在于工作流程。 所以与其只是告诉你,你觉得呢, Brennan,我们应该给他们演示一下吗? BRENNAN SAETA:我们来演示一下。 好的,团队经过深思熟虑,
HN 上的讨论
这个非常有趣且出乎意料。Swift for TensorFlow:下一代机器学习框架:[VIDEO] — albertop, 2020-05
没错。Lattner本人也参与过一些这方面的工作——Swift for TensorFlow就是其中之一。我年纪够大,还记得Swift for TensorFlow曾被视为机器学习语言的新热点:[LINK] 和 [VIDEO] — UncleOxidant, 2023-05
谷歌开始将其用于TensorFlow:[VIDEO] 旧金山大学目前有一门由Fast.ai运营的课程,由Chris Lattner教授,使用Swift-TensorFlow,共两节课:[LINK] 不完全是你要问的,但相关。 — bbrian, 2019-03
> 任何知名公司几乎不可能依赖Go或Swift之类的东西在公共道路上驱动汽车。你大错特错了。特斯拉聘请了Swift的创造者来负责Autopilot软件。他现在在谷歌,致力于让Swift成为TensorFlow的主要语言。[1] [1] [VIDEO] — abalone, 2019-03
相关视频
- 神经网络和反向传播的详细入门:构建micrograd · Andrej Karpathy · 2:25:52
- Python如何被泄漏的内部机制塑造,Armin Ronacher,Flask框架 · Видео с мероприятий {speach! · 49:55
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- Rich Harris - 重新思考响应式 · You Gotta Love Frontend · 36:45
- Go 中的词法扫描 - Rob Pike · GoogleFOSSSydney · 51:17
- William Byrd 谈“有史以来最美丽的程序” [PWL NYC] · PapersWeLove · 1:31:05
- 为什么函数式编程没有成为主流?—— Richard Feldman · Metosin · 46:09
- AlphaGo - 电影 | 完整获奖纪录片 · Google DeepMind · 1:30:28
- 也许不 - Rich Hickey · ClojureTV · 1:03:28
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- APL中的康威生命游戏 · Dyalog · 7:47
- 讲座 1A | MIT 6.001 计算机程序的构造和解释,1986 · MIT OpenCourseWare · 1:12:55
- Crockford 谈 JavaScript - 第一卷:早年 · YUI Library · 1:42:08
- 培育语言,作者:Guy Steele · Bill Pugh · 53:31
- USENIX Security '18-Q:为什么主题演讲者不断建议改进安全性是可能的? · USENIX · 51:22
- 高效程序 - Clojure 10年 - Rich Hickey · ClojureTV · 1:14:51