特斯拉 AI Day 2021
Tesla AI Day 2021
频道:Tesla · 时长:3:03:20 · 发布:2021-08-20 · 播放:2582362
简介
特斯拉 2021 年 AI Day 发布会,涵盖视觉、规划与控制、自动标注、仿真、Dojo 训练硬件以及 Tesla Bot 的发布,随后是问答环节。
HN 为什么推荐
被视为了解特斯拉如何构建自动驾驶技术栈的一手资料,HN 用户按时间戳引用其中关于 transformer、合成数据、Dojo 和人形机器人的内容。
这是特斯拉 AI Day 的演示,讲他们打算如何在规划系统中使用 AI — HN, 2021
中文字幕节选
[音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [掌声] [音乐] [掌声] [音乐] [音乐] [音乐] 所以 [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] 我不是你们要找的人,你们搞错了,我对技术进展了如指掌,几乎在各地都是如此,我可以告诉你们,没有人制造出过这样的东西 我可以告诉你们,没有人制造出过这样的东西 像这样的东西 [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] 所以 [音乐] [音乐] [音乐] 哦 [音乐] 所以 [音乐] 哇 [音乐] [音乐] 武装 做 [音乐] [音乐] 我 嗯 准备好了 [音乐] [音乐] 那么 [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] 那么 [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [掌声] [音乐] 那么 [音乐] 那么 [音乐] [掌声] [音乐] [掌声] [音乐] [音乐] 那么 [音乐] [音乐] 那么 [音乐] [音乐] 那么 [音乐] 那么 [音乐] [音乐] [音乐] [音乐] 那么 [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] [音乐] 我不是你们想要的那个人,你搞错了,我和顾问们有联系,相当…… 好吧,到处都有,我可以告诉你,没有人生产过这样的东西 [音乐] [音乐] [音乐] 所以 [音乐] 所以 [音乐] 所以 [音乐] [掌声] [音乐] [掌声] [音乐] [掌声] [音乐] 外国的 所以 [音乐] [音乐] 嗯 [音乐] 所以 所以 [音乐] [音乐] 你 [音乐] [音乐] 武装 [音乐] [音乐] [音乐] [音乐] 嗯 [音乐] [音乐] 武装 [音乐] [音乐] 做 [音乐] 大家好,呃,抱歉延迟了,嗯,感谢大家的到来,呃,抱歉我遇到了一些 技术问题,真的很棒的人工智能,所以呃,我们今天想展示的是 特斯拉不仅仅是一家电动汽车公司,我们在硬件、推理层面、训练层面都有深度的人工智能活动 在推理层面、训练层面 基本上,我认为我们可以说是现实世界人工智能的领导者 当它应用于现实世界时,嗯,那些看过完整版 全自动驾驶测试版的人可以体会到特斯拉神经网络学习驾驶的速度 学习驾驶的速度,嗯,所以这是人工智能的一个特定应用,但我认为 还有更多,未来还有更多应用会有意义 我们会在演示的后面讨论,但嗯,是的,我们基本上 想鼓励任何有兴趣解决现实世界人工智能问题的人 无论是硬件还是软件层面,加入特斯拉或考虑加入特斯拉,所以
HN 上的讨论
2020/2021 年,我曾与 Andrej 和 FSD 团队的其他成员一起工作,我们就人类视觉处理如何映射到我们的神经网络架构进行了大量对话。我们的方法——基于 Transformer 的注意力模块、多尺度特征提取和时间融合——模仿了生物视觉皮层的元素(视网膜 → LGN → V1 → V2 → V4 → IT),这些元素分解原始输入并随时间整合。令人惊讶的是,这种合成感知流程与我们大脑解读世界的方式如此相似。我们发现的关键见解是,明确强制类脑拓扑组织(如一些学术工作所尝试的——比如这里的这个)并非必要——重要的是拥有与生物视觉处理平行的正确功能组件。我们的经验表明,当你构建必须解决真实视觉任务的架构时,生物视觉处理的关键元素——如分层特征提取和时间整合——会自然涌现。大脑的组织服务于其功能,而不是反过来。这一点已被我们的合成视觉皮层在特斯拉 FSD 堆栈中的实际性能所验证。2021 … — gzer0, 2025-01
我相信特斯拉也使用合成数据来训练 FSD/Autopilot。不确定合成数据与真实视频的比例,但似乎他们计划未来更多地依赖前者。[VIDEO] — yreg, 2023-04
机器学习和神经网络并不适用于解决所有类型的问题。事实上,在特斯拉 AI 日上,埃隆·马斯克表示:“我不鼓励使用机器学习……除非你必须使用机器学习,否则不要用”[1]。让机器学习正常工作很难。如果可以避免,就应该避免。因此,将其描述为软件 1.0 与 2.0 的对比没有意义。有一类问题神经网络表现更好。在其他地方,我们将继续使用传统代码。[1] [VIDEO] — petilon, 2023-02
特斯拉 AI 日的视频 [1] 对此有一些细节介绍。他们使用多个专门针对特定任务的网络。[1] [VIDEO](2021 年),[LINK](2022 年) — 113245, 2022-10
[LINK] 这是一个相当直观的数学证明,说明神经网络可以在许多维度上模拟所有函数。懂积分(微积分 102)会有帮助。有了这些信息,要么自动驾驶最终是可能的,要么人脑不是数学上可表示的(即类似于灵魂的东西)。与此同时,数据收集/存储正在变得更好(所有特斯拉都在持续测试 FSD 并报告失败案例,"好的且独特的" 完美标注数据的合成生成[0] 也才 "出现" 一两年)。传感器/摄像头正在改进(而且还有很大的改进空间)。计算硬件正在变得更好、更便宜(模拟计算机[1]、台积电 2nm 及更先进制程、苹果/谷歌/特斯拉的神经核心等)。此外,鉴于 Waymo 已经在凤凰城实现了无人的生产运营,可以说我们已经有了 "自动驾驶汽车"。我们现在只需要它们稍微改进,并让 Waymo 或类似公司在全美前 25 大城市进行测试。这主要是资金和时间的问题,而不是技术限制。也许天气还会在几年/几十年内是个问题——但… — yazaddaruvala, 2022-03
相关视频
- 神经网络和反向传播的详细入门:构建micrograd · Andrej Karpathy · 2:25:52
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- 自动驾驶汽车将如何摧毁城市(以及该如何应对) · Not Just Bikes · 54:37
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- AlphaGo - 电影 | 完整获奖纪录片 · Google DeepMind · 1:30:28
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- USENIX Security '18-Q:为什么主题演讲者不断建议改进安全性是可能的? · USENIX · 51:22
- 第一讲 | 机器学习(斯坦福) · Stanford · 1:08:40
- MarI/O - 视频游戏机器学习 · SethBling · 5:57
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- 学会玩经典 NES 游戏的计算机程序 · suckerpinch · 16:17
- David Silver 强化学习课程 - 第一讲:强化学习导论 · Google DeepMind · 1:28:12
- 让我们从头构建 GPT:用代码,详细解释。 · Andrej Karpathy · 1:56:20
- 湾区视觉会议:无监督特征学习和深度学习 · Google TechTalks · 48:10
- A Hackers' Guide to Language Models · Jeremy Howard · 1:31:13
- 谷歌自动驾驶汽车项目 | SXSW Interactive 2016 · SXSW · 52:21