Douglas Lenat: Cyc 与解决 AI 常识推理的探索 | Lex Fridman 播客 #221

Douglas Lenat: Cyc and the Quest to Solve Common Sense Reasoning in AI | Lex Fridman Podcast #221

频道:Lex Fridman · 时长:2:52:56 · 发布:2021-09-15 · 播放:138666

在 YouTube 观看

简介

Lex Fridman 采访 Cyc 创始人 Douglas Lenat,该项目数十年来致力于为 AI 编码常识知识和推理。他们讨论符号 AI 及其如何补充神经网络。

HN 为什么推荐

被指出是理解 Lenat 工作的长篇采访,尤其是在他去世后。

如果有人想了解更多关于 Doug 的工作和想法,这里有一个(相当长的)Lex Fridman 对 Doug 的采访 — HN, 2023

计算机视觉、语音与 NLP · AI 与数据(其他) · 科技先驱与访谈

中文字幕节选

以下是与道格·莱纳特的对话,他是Cyc的创造者,这个系统 近40年来,直到今天仍在寻求解决人工智能的核心问题 即常识知识的获取以及利用这些知识 来思考、推理和理解世界。为支持本播客,请查看 描述中的赞助商。顺便说一句,在现代机器学习的 热潮中,我们很容易忘记,对于如何构建 与人类心智能力相匹配的那种智能,我们的理解是多么有限。 对我而言,Cyc背后的许多核心思想,无论以实际形式 还是精神实质,都可能成为实现通用超级智能的AI系统的一部分。 但或许更重要的是,解决常识知识这个问题 将帮助我们人类理解自己的心智、真理的本质, 以及最终如何更加理性、更加友善地对待彼此。这里是莱克斯·弗里德曼 播客,以下是我与道格·莱纳特的对话。Cyc是一个项目,由你 于1984年发起,至今仍活跃,其目标是构建一个知识库, 涵盖关于世界如何运作的基本概念和规则。换句话说, 它希望捕捉常识知识,而这比听起来要难得多。你能 详细谈谈这个使命吗?也许还可以谈谈这个使命中的 各个子目标。当我在斯坦福大学计算机科学系 担任教职时,我和同事们在各种 人工智能程序上做研究,比如自然语言理解程序、机器人、 专家系统等等,我们不断撞上同一堵 砖墙。我们的系统在早期会取得令人印象深刻的成功,所以 如果你的唯一目标是学术性的,即获取足够材料来写一篇 期刊文章,那可能确实就够了。但如果你真的想实现AI, 那么你就必须以某种方式越过那堵砖墙,而那堵砖墙就是 这些程序没有我们所谓的常识。它们没有通用的世界 知识,它们并不真正理解自己在做什么、在说什么、 被问的是什么。所以,非常像一只聪明的狗在表演 把戏,我们可以让它们耍把戏,但它们从未真正理解自己 在做什么。有点像你让狗去取晨报, 狗可能成功做到,但狗不知道报纸是什么,也不知道 上面写了什么,诸如此类。理解某事物意味着什么?你能 稍微展开讲讲吗?理解是一种把细小事物 组合在一起的行为,比如通过推理?还是理解是你 随时间获得的、形成知识的智慧?我认为理解更像 这样想:更像你站立的地面,它可能非常摇晃、可能 非常不安全,但大多数时候并非如此,因为在它下面还有更多 地面,最终是岩石和其他东西。但一层又一层 又一层,那坚实的地基就在那里,你很少需要去想它, 你很少需要依赖它,但偶尔你会需要。我以前从未用过这个 类比,请包涵。但我认为,在让计算机理解事物方面 也是如此。比如你问计算机一个问题, 例如Alexa或某个机器人什么的,也许它得到了正确答案, 但如果你问的是人类,你还可以说“为什么”或者 “你怎么可能在这件事上出错”之类的话,而那个人 会回答你。你知道,如果你有个 小孩,他们连续问“为什么”问题,最终会有点烦人, 最后你会举起双手说“我不知道,世界就是这样”, 但在许多层面上,你实际上拥有那层层叠叠的 坚实支撑基础,所以当你需要时,你可以依赖它。你什么时候 需要它呢?当事情出乎意料时,当你遇到

HN 上的讨论

如果有人想了解更多关于 Doug 的工作和想法,这里是去年 Lex Fridman 对 Doug 的一次(相当长的)采访。[VIDEO] — mindcrime, 2023-09
最近 Lex Fridman 对 Doug Lenat 有一个有趣(且很长!)的采访:[VIDEO] Lenat 认为 Cyc 和神经网络可以互补,神经网络提供右脑/快速思考能力,而 Cyc 提供左脑/慢速(分析/反思)思考能力。看到 Lenat 那样讨论 Cyc 很奇怪——仿佛 40 年过去了,一切仍然进展顺利,尽管它在二十年前就已经从公众视野中消失了。 — HarHarVeryFunny, 2023-09
我认为 Douglas Lenat 在 Lex Fridman 播客中关于此事的评论真的很有见地[1]。[1] [VIDEO] — roeles, 2021-11
我承认 Cycorp 仍然存在对我来说是个新闻!这里有一个有趣的讨论帖,提供了一些来自前/现任员工的见解,说明他们现在实际在做什么。[LINK] 还有一年前 Lex Fridman 对 Doug Lenat 的一次冗长采访,在这里:[VIDEO] 看起来 Cyc 的“常识专家系统”基础(所有人类交流背后大部分未明说的常识)基本上已经完成,但未能实现的是建立在此之上的任何更高层次的综合知识库和推理系统(即某种形式的 AGI)。从外部不清楚 Cycorp 是否还有人真的相信存在基于 Cyc 的 AGI 路径,但无论如何,这似乎并不是真正获得资金和投入的事情,40 年过去了,可能可以说它不会发生了。看起来 Cycorp 靠推销炒作和赢得开发特定领域专家系统的合同来维持生存,这些系统基于 Cyc 的方法论和工具集,实际上很少依赖它们名义上构建于其上的“常识”基础。 — HarHarVeryFunny, 2023-09
我确实想知道我们是否会看到符号 AI 的崛起,从而赋予深度学习常识感?我一直在思考这个关于 Cyc 的采访:[VIDEO] — CodeGlitch, 2021-09

相关视频