AI 并不存在,但它无论如何会毁掉一切
AI does not exist but it will ruin everything anyway
频道:Angela Collier · 时长:1:03:18 · 发布:2023-07-16 · 播放:700409
简介
物理学家兼 YouTuber Angela Collier 在这个一小时的视频中认为,通常描述的 AI 并不真正存在。她涵盖了工具的局限性、有偏见的数据集,以及为什么它们不应被用来做决策。
HN 为什么推荐
HN 用户指出它是对 AI 炒作和不可靠 AI 分类风险(如蘑菇采集书籍中)的清晰、怀疑的解读。
Angela Collier 的精彩视频“AI 并不存在,但它无论如何会毁掉一切”,我推荐 — HN, 2023
机器学习与深度学习 · AI 安全、AGI 与影响 · AI 与数据(其他)
中文字幕节选
所以实际上AI并不存在,显然我们都只是决定这么叫它,这 有点烦人 [音乐] 我明白这是怎么发生的,计算机科学中有一个研究领域 叫做人工智能,在这个大伞下包括 你的机器学习、神经网络和深度学习,所以当人们 使用这些概念制作工具时,他们称之为人工智能,但这对 人们来说很困惑,因为如果你在标题中写AI是你现在必须担心的事情, 人们真的会认为AI存在,即使它 并不存在,所以这个视频不会讨论AI或如何使用它,或者如何 制作你自己的机器学习程序,我不是计算机科学家,实际上我 在物理学获得了博士学位,专攻天体物理学,机器学习在 天体物理学中非常重要,在这个视频中我将交替使用人工智能、AI和 机器学习,嗯,我上过课程, 做过那些小工作坊,在工作中使用AI和机器学习工具, 我不是计算机科学家,这不是那个,事实上我只 会给出AI的像给五岁小孩解释的定义,一个机器学习 工具 [音乐] 好吧,想象你有10万 张图片,它们是各种东西,比如建筑、车辆、自然和 动物,你想要所有猫的图片,你不能翻遍10万 张图片,那会花太长时间,所以你要做的是 写一个计算机算法,帮你分类图片,所以当你 要求猫时,它会给你所有猫的图片,太好了,你怎么做呢? 首先,你获取一个图片子集,也许像400张图片,在这个子集中 有15张猫的图片,你给它们全部标记为猫或不是猫,好的,然后你 把这个数据集,这个较小的数据集给计算机程序,你说嘿 自学如何识别正确答案,寻找猫的图片中的模式, 这样当我给你这个数据集时,你扔掉所有图片,除了 猫的图片,这就是机器学习,你不是告诉它如何识别 猫,你只是告诉它这些是猫,这些不是猫,计算机 算法会自学寻找模式并识别猫,太好了,你 做到了,现在你想测试它,所以你有第二组图片,这次你 知道哪些是猫,但计算机不知道哪些是猫,你喂给 它,你说嘿,使用你刚才制作的关于猫的机器学习工具在这个 数据集上,如果它找到了所有猫,耶,你有一个找猫的机器学习 程序,所以现在你可以给它所有10万张图片,它会找到所有 猫,我们做到了,但是有个问题,你看,那是一个机器学习 程序,它不是人工智能,人工智能不存在, 实际上,我可以为你突出这个问题,你是一个人类,你有 智能,对吧,这里有一堆猫,挑选所有猫,我做了,假设你 做了类似的事情,好的,如果我把同样的测试给计算机,它会 给出相同的答案,可能更快,但如果有一个小 毛绒猫,你看到了但没有点击它,我想让你点击它,那是猫, 对吧,它是毛绒猫,但它是猫,如果我和一个人说话,我可以说嘿 伙计,你没有点击那个毛绒猫,你会说哦,我以为你只是想要 动物,你想让我收集毛绒猫吗?我会说,是的,像所有猫, 所以如果有像带有猫贴纸的Yeti瓶子,或者有人有猫纹身,或者 你看到一个小猫雕像,也点击那些,因为你是 一个有智能的人,你会说哦天哪,太好了,但如果我想告诉 计算机,嘿,我想让你也做毛绒猫,所有猫,一切
HN 上的讨论
AI会被(不安全地)用来分类蘑菇,这个预测正好出现在Angela Collier精彩的“AI不存在但无论如何它会毁掉一切”视频的17:09处,我推荐给任何对这个主题感兴趣的人:[VIDEO] — zzzeek, 2023-09
不知怎的,我在点击之前就知道会是安吉拉。两年前:人工智能并不存在,但无论如何它会毁掉一切 [VIDEO] — dist-epoch, 2026-04
重要的是要明白,像ChatGPT这样的大型语言模型并不会对提示进行“思考”,也不会有任何有意义地“理解”它们给出的结果。无论它们变得多么复杂,从根本上说,它们仍然是计算机程序——根据一些推断出的规则,选择看起来合适的单词(和代码片段)的系统。它们不受意志或意识的驱动。你或许能让ChatGPT“告诉”你(生成文本输出)它是有智能的、有感觉的,但这就像一本书的标题是“我有智能且有感觉”一样毫无意义。或者正如安吉拉·科利尔所说,人工智能并不存在([VIDEO])。这类程序还经常输出完全错误、毫无现实依据的内容,称为“AI幻觉”,而作为初学者,你无法识别它们。这很危险,因为你可能学到错误的东西,却无法知道它们是错的。你可能需要很长时间才能发现错误,而那时坏习惯可能已经根深蒂固。负责任的真人老师知道什么是技术上正确的,并会主动警告他们正在做简化——当然不会仅仅因为听起来合理就编造内容。学习Pyth… — zahlman, 2024-08
相关视频
- 爵士乐中最令人畏惧的歌曲,解析 · Vox · 10:49
- 神经网络和反向传播的详细入门:构建micrograd · Andrej Karpathy · 2:25:52
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- 发生在马身上的事正在发生在我们身上 · CGP Grey · 15:00
- AlphaGo - 电影 | 完整获奖纪录片 · Google DeepMind · 1:30:28
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- USENIX Security '18-Q:为什么主题演讲者不断建议改进安全性是可能的? · USENIX · 51:22
- 第一讲 | 机器学习(斯坦福) · Stanford · 1:08:40
- MarI/O - 视频游戏机器学习 · SethBling · 5:57
- 深入探讨 ChatGPT 等 LLM · Andrej Karpathy · 3:31:23
- 学会玩经典 NES 游戏的计算机程序 · suckerpinch · 16:17
- David Silver 强化学习课程 - 第一讲:强化学习导论 · Google DeepMind · 1:28:12
- 让我们从头构建 GPT:用代码,详细解释。 · Andrej Karpathy · 1:56:20
- 湾区视觉会议:无监督特征学习和深度学习 · Google TechTalks · 48:10
- A Hackers' Guide to Language Models · Jeremy Howard · 1:31:13
- 为什么 AI 会想做坏事?工具性趋同 · Robert Miles AI Safety · 10:35