未来的计算机将截然不同(模拟计算)
Future Computers Will Be Radically Different (Analog Computing)
频道:Veritasium · 时长:21:42 · 发布:2022-03-01 · 播放:13218543
简介
Veritasium 解释为什么模拟计算可能适合 AI 工作负载,涵盖老式模拟计算机、The Analog Thing 以及 Mythic 使用闪存进行神经网络推理的模拟芯片。它认为数字硬件正触及极限。
HN 为什么推荐
被视为关于神经网络模拟计算的通俗参考,尤其是 Mythic AI 部分。
Veritasium 在这里总体上解释得非常好(并演示了该设备) — HN, 2024
机器学习与深度学习 · 计算机体系结构与CPU · 科学方法与科学传播
中文字幕节选
数百年来,模拟计算机是地球上最强大的计算机, 能预测日食、潮汐,并引导高射炮。 后来,随着固态晶体管的出现,数字计算机开始腾飞。 如今,我们使用的几乎每一台计算机都是数字的。 但今天,一系列因素的完美风暴正在为 模拟技术的复兴创造条件。 这是一台模拟计算机,通过以特定方式连接这些导线, 我可以对它编程来求解各种微分方程。 例如,这个设置让我能够模拟弹簧上阻尼质量的振荡。 所以在示波器上,你实际上可以看到质量随时间的位置变化。 我可以改变阻尼或弹簧常数, 或质量,我们可以看到振幅 和振荡持续时间如何变化。 这台计算机之所以是模拟计算机,是因为里面没有零和一。 相反,实际上有一个电压在振荡, 上下起伏,完全像弹簧上的质量。 电路是物理问题的模拟, 只是发生得快得多。 现在,如果我改变电气连接,我可以对这台计算机编程 来求解其他微分方程,比如洛伦兹系统, 这是大气对流的基本模型。 洛伦兹系统之所以著名,是因为它是最早 发现的混沌例子之一。 在这里,你可以看到洛伦兹吸引子及其美丽的蝴蝶形状。 在这台模拟计算机上,我可以改变参数 并实时看到它们的效果。 这些例子说明了模拟计算机的一些优势。 它们是极其强大的计算设备, 可以快速完成大量计算。 而且,它们完成这些计算不需要太多功率。 用数字计算机,如果你想加两个八位数字, 你需要大约50个晶体管,而用模拟计算机, 你只需连接两根导线就可以加两个电流。 用数字计算机乘两个数字, 你需要大约1000个晶体管全部切换零和一, 而用模拟计算机,你可以让电流通过一个电阻, 然后这个电阻两端的电压将是I乘以R。 所以实际上,你已经把两个数字相乘了。 但模拟计算机也有其缺点。 首先,它们不是通用计算设备。 我的意思是,你不会在这东西上运行Microsoft Word。 而且,由于输入和输出是连续的,我无法输入精确值。 所以如果我尝试重复相同的计算, 我永远不会得到完全相同的答案。 另外,想想制造模拟计算机。 组件的精确值总是会有一些变化, 比如电阻或电容。 所以作为一般经验法则,你可以预期大约1%的误差。 所以当你想到模拟计算机时, 你可以想到强大、快速和节能, 但也是单一用途、不可重复和不精确的。 如果这些听起来像是致命缺陷,那是因为它们可能确实是。 我认为这些是模拟计算机失宠的主要原因, 一旦数字计算机变得可行。 现在,这就是模拟计算机可能卷土重来的原因。 (计算机发出哔哔声)这一切都始于人工智能。 - [旁白] 一台机器被编程来看到并移动物体。 - 人工智能并不新鲜。这个词早在1956年就被创造了。 1958年,康奈尔大学心理学家弗兰克·罗森布拉特建造了感知机, 旨在模仿我们大脑中神经元的放电方式。 这是大脑中神经元工作原理的基本模型。 单个神经元要么激活,要么不激活, 所以它的激活水平可以用1或0来表示。 一个神经元的输入来自许多其他神经元的输出,
HN 上的讨论
同意。我从未真正深入研究过神经网络,大多数时候我开始但分心或感到无聊/迷失,然后突然一个 Veritasium 视频出现,一切就都豁然开朗了,那些你一带而过或以前听过的东西突然就说得通了。[VIDEO] 。从4:00分钟开始。 — iKlsR, 2022-03
我认为他们说的是模拟计算机可能是计算的未来。Veritasium 在这里总体上解释得很好(并演示了设备)[VIDEO] — sushid, 2024-11
Veritasium 有一个关于模拟计算机的好视频。它涵盖了它们的工作原理、用途、与数字计算机相比的优缺点、它们今天的样子、一点历史以及它们可能的未来。[VIDEO] — sholladay, 2024-08
我觉得这个 Veritasium 视频很有趣,讲的是一家公司正在精简模型,使它们能适配模拟芯片,从而让芯片可以用于自包含设备。看起来量子计算机可能更适合 transformer 所依赖的矩阵运算。如果所有这些硬件进步都能实现…… [VIDEO] [LINK] — JieJie, 2023-03
YouTube 上关于模拟神经形态架构及其低功耗操作前景的精彩 Veritasium 视频:[VIDEO] — beambot, 2022-06
相关视频
- 你从未听说过的最强大计算机 · Veritasium · 20:12
- 世界上最适合司机的国家 · Not Just Bikes · 15:48
- 物理学中最大的误解 · Veritasium · 27:39
- 28c3:即将到来的通用计算之战 · 28c3 · 54:34
- 喷气发动机的荒谬工程 · Veritasium · 39:34
- 非自愿单身者 | ContraPoints · ContraPoints · 35:04
- 神经网络和反向传播的详细入门:构建micrograd · Andrej Karpathy · 2:25:52
- 量子阴谋:量子力学普及者不想让你知道的事 · Google TechTalks · 1:03:43
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- 8 位计算机更新 · Ben Eater · 6:53
- 遥遥领先 | 1969 年的阿波罗制导计算机 · TNMoC · 1:21:22
- 在 6502 上从零开始实现“Hello, world” — 第 1 部分 · Ben Eater · 27:24
- James Burke《Connections》第一集《触发效应》 · DRS_Education · 49:22
- AlphaGo - 电影 | 完整获奖纪录片 · Google DeepMind · 1:30:28
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- 寻找缺失的忆阻器 - R. Stanley Williams · The Qualcomm Institute · 47:52