深度可视化工具箱
Deep Visualization Toolbox
频道:Jason Yosinski · 时长:3:53 · 发布:2015-07-07 · 播放:269911
简介
深度可视化工具箱的简短演示,展示卷积神经网络在处理实时摄像头输入时的激活情况。观众可以看到单个单元对边缘、人脸和文本的响应。
HN 为什么推荐
HN 指出它是直观了解卷积网络隐藏层学到了什么的方式,也是分层特征学习的参考。
强烈推荐这个关于深度可视化工具箱的视频 — HN, 2016
机器学习与深度学习 · 计算机视觉、语音与 NLP · 数据可视化与信息设计
中文字幕节选
近年来神经网络的进展使计算机能够更好地观察和 理解世界,它们能识别校车和斑马,还能分辨 mtis梗犬和约克夏梗犬的区别。我们现在知道如何 很好地训练这些神经网络,但对它们如何 实际计算出最终答案却了解不多。我们开发了这个交互式深度 可视化工具箱,来照亮这些黑箱,展示神经 网络内部发生了什么。在左上角,我们展示网络的输入, 可以是静态图像或来自摄像头的视频。中间的这些黑色方块显示 网络单层的激活情况,这里用的是流行的深度神经 网络AlexNet,运行在Caffe上。通过与网络交互,我们可以看到 一些神经元在做什么。例如在第一层,中心的一个单元 对从亮到暗的边缘反应强烈,它旁边的神经元则对 相反方向的边缘(从暗到亮)有反应。利用优化方法,我们可以 合成出能点亮该层每个神经元的图像,看看 每个神经元在寻找什么。我们可以滚动浏览网络中的每一层, 了解它的作用,包括卷积层、池化层和归一化层。我们可以 在显示实际激活和显示合成图像之间来回切换, 这些合成图像能产生高激活。当我们到达第五个卷积 层时,计算出的特征代表了抽象概念。例如这个 神经元似乎对人脸有反应。我们可以通过展示 几种不同类型的信息来进一步研究这个神经元。首先,我们可以人为地创建优化图像, 使用我们论文中描述的新正则化技术。这些合成 图像显示,这个神经元对脸部和肩膀有反应。我们还可以 绘制训练集中最能激活这个神经元的图像,以及 这些图像中对高激活贡献最大的像素,这是通过 反卷积技术计算出来的。这个特征对多个不同位置的 人脸有反应,通过查看反卷积结果,我们可以看到,如果 眼睛更暗、嘴唇更红润,它的反应会更强烈。我们还可以确认它关注 头部和肩膀,但忽略手臂和躯干。我们甚至可以看到它在一定程度上 对猫脸也有反应。使用反向传播或反卷积,我们可以看到这个单元 最强烈地依赖于前一层con4的几个单元,以及 con3中大约十几个单元。现在让我们看看这一层的另一个神经元。那么这个 单元在做什么?从前九张图像来看,我们可能会认为它对不同类型的 服装有反应,但检查合成图像后发现,它可能检测的 不是服装本身,而是褶皱。在实时图中,我们可以看到它被 我的衬衫激活,把衬衫的一半弄平会导致那一半的激活 减少。最后,这是另一个有趣的神经元,它学会了寻找 各种大小、颜色和字体的印刷文本。这很酷,因为 我们从未要求网络寻找褶皱、文本或人脸。我们提供的唯一标签 是在最后一层,所以网络在中间层学到像文本和人脸这样的特征, 唯一的原因就是为了支持最后一层的最终决策。 例如,文本检测器可能提供很好的证据,证明一个矩形实际上是 一本侧看的书,而检测到许多书紧挨在一起可能是 检测书架的好方法,书架是我们训练网络识别的类别之一。 在这个视频中,我们展示了深度可视化工具箱的一些功能,以及 我们通过使用它学到的一些东西。你可以从这个 URL下载工具箱,自己探索。如果你想分享你的发现,可以使用
HN 上的讨论
强烈推荐这个关于深度可视化工具箱的视频给任何有兴趣通过可视化更多了解卷积神经网络如何工作的人:[VIDEO] — rkaplan, 2016-04
为什么不呢?需要一定规模的模型才能包含xyz神经元/特征。[VIDEO] 这不是海市蜃楼,这显然是较小模型无法展示的能力。参数更少、隐藏层更少的模型不可能有一个在检测到人脸时亮起的神经元。 — jychang, 2025-08
而且它还受困于一个老生常谈的假设,即GPT-3(或任何语言模型)应该,或者被设计成以任何方式给出合理的答案[1]。GPT-3所做的只是根据训练语料库给出可能的续写。这里的提示太短,它很可能只是在写平庸的小说续写。小说往往在很多时候都不合理(为了制造故事冲突)。> “要理解为什么,想想GPT-3这样的系统做什么会有帮助。它们不学习世界——它们学习文本以及人们如何使用词语与其他词语的关系。它所做的事情就像一次大规模的剪切和粘贴,将它见过的文本进行变体拼接,而不是深入挖掘这些文本背后的概念。” 这是另一个让我恼火的地方。实验早已表明[1],像图像识别和文本预测网络(如GPT-3)这样的神经网络确实理解文本背后的深层概念(当然还不完美),这源于涌现的抽象和人类大脑采用的类似认知工具。[1] Gwern也写了大量关于正确提示编程失败的文章:[LINK] [2] 例如,使用特征图和卷积核可视化。在对… — gnramires, 2020-08
这个工具箱允许你可视化神经网络在每一层“看到”什么,以及什么图像模式激活什么样的神经元(以及如何激活)。例如,在这个视频[1]中,你可以看到检测边缘、人脸和文本的神经元。[1] [VIDEO] — rasmi, 2016-12
相关视频
- 神经网络和反向传播的详细入门:构建micrograd · Andrej Karpathy · 2:25:52
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- Matplotlib 更好的默认颜色映射 | SciPy 2015 | Nathaniel Smith 和 Stéfan van der Walt · Enthought · 19:08
- Hans Rosling 的 200 个国家,200 年,4 分钟 - 统计的乐趣 - BBC · BBC · 4:47
- AlphaGo - 电影 | 完整获奖纪录片 · Google DeepMind · 1:30:28
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- USENIX Security '18-Q:为什么主题演讲者不断建议改进安全性是可能的? · USENIX · 51:22
- 第一讲 | 机器学习(斯坦福) · Stanford · 1:08:40
- MarI/O - 视频游戏机器学习 · SethBling · 5:57
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- 学会玩经典 NES 游戏的计算机程序 · suckerpinch · 16:17
- David Silver 强化学习课程 - 第一讲:强化学习导论 · Google DeepMind · 1:28:12
- 让我们从头构建 GPT:用代码,详细解释。 · Andrej Karpathy · 1:56:20
- 湾区视觉会议:无监督特征学习和深度学习 · Google TechTalks · 48:10
- A Hackers' Guide to Language Models · Jeremy Howard · 1:31:13
- 美国的财富不平等 · politizane · 6:23