为什么伟大无法被规划 — Kenneth Stanley
Why Greatness Cannot Be Planned — Kenneth Stanley
频道:Machine Learning Street Talk · 时长:2:46:27 · 发布:2021-01-20 · 播放:154688
简介
Machine Learning Street Talk 对 Kenneth Stanley 的长篇访谈,他是 NEAT 和新颖性搜索的创造者,谈论他关于为什么伟大无法被规划的书。他们讨论了开放性、目标的暴政、偶然性和思想的进化。
HN 为什么推荐
推荐给那些觉得它在追求目标、开放式搜索和超越优化的 AI 方面鼓舞人心或改变视角的人。
它真的改变了我对实现长期目标的看法 — HN, 2021
机器学习与深度学习 · AI 与数据(其他) · 科学方法与科学传播
中文字幕节选
各位街头谈话的听众们好,欢迎回到节目,这是一期特别版,我 梦想这期节目已经快一年了。我第一次读到 肯尼斯的书大约是一年前,但不管怎样,希望你们喜欢这期节目。我正坐 在这里喝着Vita Coco椰子水。好了,让我们开始吧 要实现你最高的目标,你必须愿意放弃 [音乐] 它们。我们对有趣的事物有敏锐的嗅觉,这就是我们走到今天的原因,这就是 文明诞生的方式,这就是为什么创新的历史如此惊人。一切 当我们开始由委员会统治时就会消失,就像我们必须允许人们追随 他们的激情到极致,然而我们却以这种方式运行社会,仿佛这真的 有任何意义。我认为有趣性的梯度可能是 理想发散搜索的最佳表达。你遇到这个问题,比如我 不知道如何形式化有趣性,然后你得到的是有趣性的 代理指标。并非所有新颖的东西都有趣,但几乎 所有有趣的东西都是新颖的。在我的性格和天性中,想要 推翻这个,我想我们可以称之为目标的暴政。好了,在 开始之前,先做一点家务事。我只想非常清楚地说明 这个播客的结构。所以在前1小时15分钟左右,我 在介绍肯尼斯·斯坦利的想法,我在谈论开放性,我在谈论 新颖性搜索和放弃目标,以及Pick Breeder和NEAT 算法,即增强拓扑的神经进化算法。所以如果这 对你来说有趣,那么,你知道,随意观看介绍部分。有一件事 人们评论过的是,有时在我们的节目中,我们在 介绍部分使用了主节目的片段,你觉得我们在给你看 同样的东西两次。这没有发生,我在 介绍部分的主节目中完全没有展示任何东西,全是新鲜内容。但如果你真的只想跳过 直接进入对肯尼斯的采访,请随意这样做。我们有 目录,直接跳过,大约1小时15分钟。总之 享受节目吧 [音乐] 我 [音乐] 肯尼斯·斯坦利教授是我 人工智能领域的英雄之一。我特别感兴趣和研究的领域 是所谓的神经进化,这是神经网络和 进化计算的结合。所以我说我们必须完全翻转这个,就像聪明的 部分是探索,愚蠢的部分是目标部分,因为它太 容易了。我个人认为肯尼斯的研究领域,即神经进化和 AI生成算法以及开放性,是人工智能研究中最有前途的范式。 我对人工智能研究的其他领域并没有这么兴奋, 除了也许弗朗索瓦·查尔斯的神经程序搜索,这在概念上其实相当 相关。仅仅做目标优化并没有什么真正有洞察力或有趣的 地方。是的,我们有很多好的算法来做这个, 而且它一点也不反直觉,完全合理,但它不会 带我们到任何有趣的地方。所以今天我们有了一次不可思议的 与斯坦利教授的对话,正如你所见,他也很享受上 节目。这是一段美好的时光,是我在任何节目中最喜欢的经历之一。 所以感谢邀请我,真的很荣幸能在这里。基思·杜格尔博士, 作为一个 wonderful 的角色,对肯尼斯书中的许多 想法提供了有力的反驳,实际上变成了一次非常有趣的来回 交流。请打开它。基思实际上对肯尼斯的工作相当批评, 我去年六月左右强迫基思读了肯尼斯的书,然后,呃,是的,他
HN 上的讨论
> 信号可能很好,但它是你应该关注的信号吗?一直有大量有趣的东西被发现。但它是否帮助你实现具体目标?我的观点是,把一切都通过“这是否直接帮助我实现目标?”的过滤器,并不是追求目标的最佳方式,假设我们谈论的是那些实现路径不清晰的大目标。我推荐看看这期播客节目,叫做“为什么伟大不能被计划”。它真的改变了我对实现长期目标的看法:[VIDEO] 另外在Twitter上,是的,有些人不仅仅发他们领域内的东西。但我发现有些人确实可靠地坚持一个领域。不过我不太在Twitter上关注科学人士。 — ZephyrBlu, 2021-05
我认为它主要是一个竞争与合作并存的自我复制器。大脑之所以存在,是因为前几代做得很好。我们真的需要把“天线魔法”注入我们的大脑吗?它们难道还不够奇妙吗?我发现这个关于大脑和AI中开放式(对比进化与优化)的视频非常鼓舞人心:[VIDEO] — visarga, 2021-02
Lehman 和 Stanley 关于明确目标如何鼓励利用而非探索的努力。人工智能正通过可以用简洁形式表达的目标函数(能量最小化、梯度下降等)取得进展。自福特和温斯洛以来,工业界也一直存在类似的机制,从时间和动作研究到准时制供应链,都是在短期利润激励下进行的。这些是狭窄的已知目标,渴望相对快速的结果。但也许巨大的飞跃并非通过攀登局部山峰实现。这一观察可以追溯到托马斯·库恩,他描述了常规科学的活动和巨大飞跃——科学革命。显然还有进一步的哲学含义,但也有经济和行政的悬崖——经济金融化、大学行政膨胀、学术轨道上的群体思维、(美国)医疗行政管理——所有这些都导致暂时的金钱榨取,对比特的谨慎避险投资。但没有那么多搭便车支持特立独行者、对逆向想法的长期押注,以及对来自原子的深刻但昂贵和困难的发明的投机赌博(见彼得·蒂尔——“勇气的供应远少于天才”)。《为什么伟大不能被计划》是斯坦利的最新著作(201… — mikhailfranco, 2024-03
你说得对,搜索空间具有欺骗性,直接朝着目标前进可能会走进死胡同。只有事后我们才能判断哪些垫脚石是必不可少的。立竿见影的结果是最好的,但与此同时我们需要关注新颖性和趣味性。一个关于开放式的很棒的视频(警告——非常长),与《为什么伟大不能被计划》一书的作者Kenneth Stanley一起[VIDEO] — visarga, 2022-09
这个视频很相关。他们谈论了“开放式”、机缘巧合、目标的暴政、思想(和生物)的进化、发明新问题而不仅仅是解决问题。这对AI有重要影响。Kenneth Stanley - 为什么伟大不能被计划,在Machine Learning Street Talk上。[VIDEO] — visarga, 2021-05
相关视频
- David Silver 强化学习课程 - 第一讲:强化学习导论 · Google DeepMind · 1:28:12
- 高速机械手 · Hizook · 3:00
- 神经网络学习流体和烟雾的物理规律 | Two Minute Papers #118 · Two Minute Papers · 5:26
- Attention Is All You Need · Yannic Kilcher · 27:06
- RAAIS 2017 - Simon Knowles,Graphcore联合创始人兼CTO · The Research and Applied AI Summit - RAAIS · 35:44
- Bret Weinstein 做客《The Portal》(主持人 Eric Weinstein),第 019 期 - 预测与 DISC。 · Eric Weinstein · 2:13:50
- Vitalik Buterin:以太坊、加密货币与货币的未来 | Lex Fridman 播客 #80 · Lex Fridman · 1:35:04
- 神经网络和反向传播的详细入门:构建micrograd · Andrej Karpathy · 2:25:52
- 量子阴谋:量子力学普及者不想让你知道的事 · Google TechTalks · 1:03:43
- 但什么是神经网络?| 深度学习第一章 · 3Blue1Brown · 18:40
- James Burke《Connections》第一集《触发效应》 · DRS_Education · 49:22
- AlphaGo - 电影 | 完整获奖纪录片 · Google DeepMind · 1:30:28
- Transformer,LLM 背后的技术 | 深度学习第 5 章 · 3Blue1Brown · 27:14
- USENIX Security '18-Q:为什么主题演讲者不断建议改进安全性是可能的? · USENIX · 51:22
- 第一讲 | 机器学习(斯坦福) · Stanford · 1:08:40
- Hamming,“你和你的研究”(1995年6月6日) · securitylectures · 44:02