CppCon 2018:G. Nishanov “纳米协程来救场!(当然是用协程 TS)”

CppCon 2018: G. Nishanov “Nano-coroutines to the Rescue! (Using Coroutines TS, of Course)”

频道:CppCon · 时长:1:04:25 · 发布:2018-10-08 · 播放:40352

在 YouTube 观看

简介

Gor Nishanov 在 CppCon 2018 的演讲,讲如何用极小的 C++ 协程来隐藏内存延迟,在预取从主存拉入缓存行的同时穿插有用的工作。

HN 为什么推荐

被引用为深入讲解用协程处理缓存未命中,以及如何在不进行堆分配的情况下运行海量协程。

也看看这个视频,深入讲了如何用 C++ 拥有数十亿个协程 — HN, 2019

C、C++、Rust、Go 与系统语言 · 软件性能与优化

中文字幕节选

- 我叫 Gor Nishanov。 我是 Visual C++ 团队的开发者,我参与的工作之一 就是 C++ 协程的设计与标准化。 最高效、最具可扩展性、最开放的协程 在所有现存编程语言中。 有多少人参加过任何一场协程相关的演讲? 大概有,好吧,我们反过来问。 所以,我们大概,我想,每一届 CppCon 都有一到两场协程演讲。 谁一场都没参加过? 哎呀,好吧。 这不会是一场协程的入门介绍。 我放了几张幻灯片来提供一些背景, 但这仍然假设你大致了解 C++ 协程是如何工作的,不过别担心, 我们会用几张幻灯片让你跟上进度。 所以协程是一个非常非常古老的抽象。 它就是一个裸函数。 它由 Melvin Conway 在 60 年前发明, 而 Knuth 给出了一个更方便的定义, 实际上,他做的是相反的事。 他说子程序是一种特殊情况, 属于一种更通用的构造,也就是协程。 如果我们来看,协程就像函数一样 但更好,因为它们多了两个操作。 就像普通函数有调用和返回, 协程多了两个:挂起和恢复。 在 C++ 中我们大致得到了这个,或者至少在协程 TS 的层面 目前它正在经历子化过程。 所以协程是一个带有 await 或 halt 表达式,或一种特殊形式的 coreturn 语句的函数。 人们使用协程的常见模式之一是生成器。 你可以把它们看作一个惰性产生的序列。 所以在这个例子中我有一个 hello 生成器, 它一次产生一个字符。 而从使用者的角度来看,生成器只是一个可迭代对象。 它有 begin 和 end,你可以把它传给基于范围的 for, 你可以把它传给标准算法,发生的事情是当协程 到达一个挂起点,在这个例子中是 yield, 它把值推出协程, 它被挂起,保持所有状态完好无损, 然后当主程序在这个例子中拉取下一个值时,我们会跳回到 yield 所在的位置并继续执行。 协程的另一个常见模式是异步任务。 在这个例子中,我们有一些活动,它有一个 一个迭代,一个尚未准备好的表达式。 它可能是一些耗时的操作,比如 TCP 连接,建立 TCP 连接,或者从套接字读取。 而不是阻塞线程,我们会挂起 协程,同时等待该操作的结果变得可用。 一旦可用,协程将被恢复 从它被挂起的地方继续执行。 许多语言,按上次统计大约 11 种, 已经获得了大致相同形态的协程 在过去四年里。 10 或 11 种,算上那些 仍处于设计阶段的,以及那些已经 随该语言发布了标准的。 有 DART、JavaScript、C#、F#、Python, 我想现在 Rust 正在获得它们的过程中。 Swift 也正在进展中,总之。 很多语言都在获得这些能力。 C++ 协程的独特之处在于我们确立的设计原则, 这些原则旨在指导我们协程的设计。 所以我们希望协程是可扩展的。 不是说,嘿,我们要解决一万个连接的问题。 如果你去查一下,曾经有这样一个问题,我想,

HN 上的讨论

这很重要,因为虽然它有一些缺点,但无栈意味着它们几乎可以没有开销,这意味着即使对于非常快速的操作,使用协程编写异步代码也能有高性能。给出的例子[VIDEO]是,你可以启动多个协程来发出预取指令并处理获取的数据,这样你就可以有干净的代码来发出多个预取并处理结果。而在Python中(别误会,我喜欢Python),你可能会用生成器来“异步化”像请求和处理远程服务器数据这样的慢操作,C++协程可以快到异步处理像从主内存请求数据这样的“慢”操作。 — BenFrantzDale, 2021-02
> 在C++中,从技术上讲,子协程的每次初始化默认都是新的堆分配。 我不想散布恐慌:据我所知,绝大多数这类分配都会被编译器优化掉。但这种方法的一个缺点是,你可能会改动代码,意外地禁用了其中某项优化。 我认为这不正确。C++20允许很多实现选择,而不强制堆分配。参见[LINK],另见这个深入讲解如何用C++拥有数十亿协程的视频:[VIDEO] — je42, 2019-08
作者之一Gor Nishanov在他的CppCon2018演讲中谈到了这一点[VIDEO](跳到约12:33跳过背景介绍)。这相当于使用CPU预取指令配合C++协程,通过围绕缓存未命中调度指令,在软件中模拟超线程(但可能比超线程更好,因为它不限于每核2个) — akubera, 2018-11

相关视频