第一讲 | 凸优化 I(斯坦福)
Lecture 1 | Convex Optimization I (Stanford)
频道:Stanford · 时长:1:20:32 · 发布:2008-07-09 · 播放:754817
简介
Stephen Boyd 的斯坦福凸优化 I 课程(EE 364A)的入门讲座。它概述了凸集、凸函数和凸问题,以及课程涵盖的最小二乘、线性和半定规划、对偶性和内点法。
HN 为什么推荐
HN 推荐 Boyd 的讲座,认为它们是掌握线性代数基础后的极佳且常常有趣的后续学习材料,也是机器学习学习路径中的一步。
这些讲座在你掌握了线性代数基础后非常棒 — HN, 2022
中文字幕节选
本演示由斯坦福专业发展中心提供 好的,我想我们开始了,欢迎来到364a,这是 凸优化一。嗯,不幸的是,我必须先道歉, 如果你不是实时观看这个,我想你会说,我不知道,我不知道 你怎么描述这个,如果你在课程预定时间观看, 那么你会注意到我不在那里。那是因为我在印度, 这变得非常,实际上做这个会让人非常困惑。实际上还有一件更 更令人困惑的事情,那就是当你提前录制课程,在之前或 实际上是在你还没上过的课之后录制,那变得非常复杂。 好吧,我们不打算深入那个。让我们继续。所以,很抱歉 错过了第一天的课。正如我所说,我在印度,或者将会在,或者 取决于时间参考点。那很不合适,我以前从未做过, 所以这是第一次。实际上,我们将有一些,我们将 今天创造很多第一次,我相信我们可能正在创造SCPD的历史,因为我们 提前录制这节课,不仅提前一个季度,而且提前一年,日历年 之前。总之,很多人对此非常兴奋,如果这能成功 的话,谁知道这会走向何方。所以我们可以,我可以教整个 春季季度的课,比如冬季季度的最后几周,或者无论如何, 我们不知道,我们只是看看这如何运作。所以我们正在创造, 可能正在创造提前录制的历史。好的,几件 事情我应该说一下关于这个课程,除了为不在场或 不在国内而道歉,为了第一天。我会 说几件事,然后我们实际上就开始。哦, 对于那些观看这个的人,因为你们不会看到观众, 知道吗,我发了一个可怜的请求,如果你在附近,来参加 提前录制。你应该知道,房间不是空的。总之,好的。让我 说一点关于这个课程的事情。我的意思是,我认为有些是 显而易见的,我们刚刚把网站建起来并运行,我们每天 都在改。但让我说几件事。第一个要求 是,将会有每周的家庭作业,如果你是在 1月8日左右理解这个,我想正确的说法是已经 布置了。如果你是在实时理解,那实际上是不对的,因为 我们甚至还没想过第一次作业,但我们会想的,一切都会准备好。 所以会有每周作业,还会有带回家的 期末考试,是20,将是标准的24小时带回家考试, 通常的格式,你会得到,它将是非,它将是非平凡的,你需要 做认真的工作等等。好的,还有 课程的其他要求,不真的是要求,但会有,也许几乎 几乎每次作业或什么的,会有最少的MATLAB编程,这不是 什么大事,但会有MATLAB编程,那也将使用一个 叫做CVX的系统来完成,你应该,如果你去网站,你会查看并可以 了解它。实际上欢迎你安装它,阅读用户 指南,基本上现在没有理由不这样做。你会,你会使用它 就像整个一年,我全搞混了,季度,或下一个 季度,不管是什么,这个课程实际上 应该所在的季度。你会使用它整个,所以你不妨看看 用户指南,安装它,看看它是否工作。用户指南中不是所有东西都会 有意义,直到你到达课程的大约第四周,我会说。但 绝对没有理由你不能现在开始查看,摆弄它,这 不是什么大事。事实上,当我们讲到它时,我想你会,或者你应该
HN 上的讨论
这些讲座在你掌握了线性代数基础之后非常棒 [VIDEO](凸优化,由一位经验丰富且常常有趣的讲师讲授) — natly, 2022-05
这也是我最喜欢的思考方式。我想我最初是在 Steven Boyd 令人惊叹的凸优化讲座中学到的 [VIDEO] — hwers, 2022-01
我认为所有计算机科学(以及工程学)学生都应该学习的一个实用数学主题是凸优化。通常,工程或计算机科学中的问题可以表述为在给定数据和/或变量约束下最小化成本函数。以 SVM 为例,或者稀疏信号去噪,或模板匹配。而很多时候,人们会应用“先进的 state of the art 技术”来解决这些问题,例如某种奇特的神经网络、图模型等。虽然这些是很好的技术,但它们不必应用于合理规模的凸问题。在我列举的例子中,我几乎可以保证,知道如何将模型表述为凸优化问题并将其投入内点求解器,会比在某个用户定义的模型上运行随机梯度下降(参数过多或过少)要有效得多。因为当你说一个问题 是凸的,你是在说它可以在多项式时间内全局求解(通常大约相当于 ~20 个最小二乘问题,其规模对应于变量和约束的数量)。还有复杂的收敛理论。如果你理解数学理论,你就可以使用这种成熟的技术来精确解决一整类你原本认为无法解决的问题。还值得一提… — zxcvvcxz, 2015-04
首先,看完 Gilbert Strang 教授的课程。[LINK] 据我记忆,CS229 的课程笔记对于理解 SVM 和高斯分布已经足够了。也看看 YouTube 视频。[LINK] [LINK] 如果你只是想用这些库,到这里就可以停了。如果你想了解更多,在学习凸优化之前,先读 Dimitri Bertsekas 教授的《非线性规划》第 1-3 章。[LINK] 然后,你可以试着学完 EE364 并观看视频。[LINK] [VIDEO] 如果你想自己实现算法,你必须了解一些优化工具。[LINK] 还有一些统计学知识你需要补上。我用的是这些:[LINK] [LINK] 课程中使用了 R。 — wcsun, 2011-06
相关视频
- 向量 | 第1章,线性代数的本质 · 3Blue1Brown · 9:51
- 如何演讲 · MIT OpenCourseWare · 1:03:42
- 1. 人类行为生物学导论 · Stanford · 57:14
- 但什么是傅里叶变换?视觉介绍。 · 3Blue1Brown · 19:41
- 领导力实验室:有效写作的艺术 · UChicago Social Sciences · 1:21:51
- MIT 的聚变能之路(IAP 2017)- Zach Hartwig · MIT Plasma Science and Fusion Center · 1:11:39
- 斯坦福 Sapolsky 谈美国抑郁症(完整讲座) · Stanford · 52:28
- 公正:该如何做是好?第 01 集“谋杀的道德侧面” · Harvard University · 54:56
- 第一讲 | MIT 18.06 线性代数,2005 年春季 · MIT OpenCourseWare · 39:49
- 兰迪·波许的最后一课:实现你童年的梦想 · Carnegie Mellon University · 1:16:27
- 第一讲A:Lisp概述与简介 · MIT OpenCourseWare · 1:12:55
- 讲座 1A | MIT 6.001 计算机程序的构造和解释,1986 · MIT OpenCourseWare · 1:12:55
- 你见过的最重要的视频(8 部分之 1) · wonderingmind42 · 9:17
- 第一讲 | 机器学习(斯坦福) · Stanford · 1:08:40
- 一个转变的讲师的自白:Eric Mazur · UMBCtube · 1:20:08
- Elizabeth Warren 谈中产阶级的即将崩溃 · University of California Television (UCTV) · 57:37