浮点数 - Computerphile
Floating Point Numbers - Computerphile
频道:Computerphile · 时长:9:16 · 发布:2014-01-22 · 播放:2545912
简介
Tom Scott为Computerphile解释浮点数如何工作,为什么移动二进制点很快,以及为什么它处理货币很糟糕。
HN 为什么推荐
被推荐为对为什么浮点数会产生像0.1 + 0.2这样的奇怪错误的简单、有趣的解释。
Tom Scott对浮点数的有趣而简单的讲解是一个很好的视频,解释了为什么会出现这些奇怪的错误 — HN, 2015
中文字幕节选
人们期望计算机在处理数字时完全准确和精确。 你知道,你从小就用计算器。你期望如果你输入: "0.1 + 0.2",你期望结果是"0.3"。 迟早每个程序员在学习过程中, 都会尝试类似的事情。他们把它输入到编程语言中。 比如"0.1 + 0.2",然后按回车键, 计算机给出的结果会是类似"0.300000000...1"。 这时,他们就开始了解浮点数, 并开始抓狂。 浮点数本质上就是科学记数法。 对于不熟悉的人,假设你是一位天体物理学家, 你有光速, 这是一个巨大的数字,后面有八个零。 你想把它乘以一个很小的距离。 我们在这里测量什么并不重要, 只是一个大的数字和一个小数字。 比如说,0.00000015。 假设你想把这两个数相乘。 (我可能故意把它弄得简单了点。) 你可以尝试做一些非常复杂的数学计算来得出结果, 但你不需要。因为在科学记数法中,这是3乘以10的8次方, 而这个是1.5乘以10的-7次方。 所以你不需要做任何特别复杂的事情 来把这两个数相乘。 你只需要把它们相乘,得到4.5, 然后把这里的指数相加。 所以,8加-7,8减7等于1。 所以我们得到4.5乘以10的1次方,或者4.5乘以10,或者45。 太棒了。这比实际处理大数字要容易得多。 这也引出了有效数字的概念。 因为光速并不完全是3乘以10的8次方。 它是2.997[某个数],后面有很多数字 这些数字在日常计算中并不重要。 我们四舍五入。我们说它是3乘以10的8次方。 或者,为了精确,我们说它是2.997乘以10的8次方, 但我们并不真正关心之后的数字。 记住这一点。我们稍后会回到有效数字。 浮点数的两个主要优点是速度和效率。 速度,因为浮点数已经发展了很多很多年。 现在计算机处理它快如闪电。 效率,因为它可以处理非常大的数字—— 巨大的数字,"宇宙大小"的数字—— 以及非常小的数字——"原子大小"的数字—— 而不需要大量的空间。 如果你有一种格式需要包含宇宙的大小 和原子的大小,你需要在两端存储很多零 或者你需要一些特别复杂的东西让计算机来计算 要么效率极低,把一个数字存储为1兆字节, 要么你需要一些非常繁琐的东西让计算机 在试图放置所有零和数字时进行计算。 让我们谈谈十进制。谈谈我们——人类。 (让我们谈谈灯突然亮了。这很奇怪。) 在十进制中,在我们正常的人类数字中,所以你知道十个数字——十进制, 我们有百位、十位和个位。你在小学就学过。 而在这里,你有十分位、百分位和千分位。 所以如果你想用十进制表示"十分之一",你说"0.1", 这是正常的,也是自然的。 另一方面,二进制……计算机……它们不是这样做的。 因为它们看到的是四、二和一。 然后在这里:半、四分之一、八分之一和十六分之一。 那里没有0.1。 事实上,二进制中的0.1是“0.00011”,而“0011”是循环的。 实际上是0.00011001100110011...一直无限循环。
HN 上的讨论
简短回答:二进制中没有小数,数学很难。:)这里有几个方便的视频解释:[VIDEO] [LINK] — microwavecamera, 2017-06
推荐:浮点数 - Computerphile [VIDEO] Tom Scott对浮点数的有趣而简单的解读是一个很好的视频,解释了为什么会出现这些奇怪的错误。 — felipesabino, 2015-11
你仍然不应该在Postgres中使用MONEY类型,甚至他们自己的网站也这么说[1]。我通常也不会在任何数据库中使用浮点数/数值/小数来存储货币,正如其他人所说,你最终会得到不准确的数字[2]。因此,使用整数实际上非常适合这个用例,特别是如果你在会计或簿记领域!来源:我在一家处理数百万笔支付的金融科技公司工作。[1] [LINK] [2] [VIDEO] — mercxry, 2023-10
相关视频
- 网络中立性:约翰·奥利弗的《上周今夜秀》(HBO) · LastWeekTonight · 13:18
- Martin Kleppmann 的 "用 Apache Samza 将数据库翻转" · Strange Loop Conference · 47:42
- 但什么是傅里叶变换?视觉介绍。 · 3Blue1Brown · 19:41
- D/A 与 A/D | 数字展示与讲解(Monty Montgomery @ xiph.org) · FL Studio · 23:52
- 8 位计算机更新 · Ben Eater · 6:53
- 遥遥领先 | 1969 年的阿波罗制导计算机 · TNMoC · 1:21:22
- 在 6502 上从零开始实现“Hello, world” — 第 1 部分 · Ben Eater · 27:24
- 寻找缺失的忆阻器 - R. Stanley Williams · The Qualcomm Institute · 47:52
- 终极 Game Boy 演讲 (33c3) · media.ccc.de · 1:01:06
- 三千万行代码问题 · Molly Rocket · 1:48:55
- USENIX ATC '21/OSDI '21联合主题演讲——操作系统是时候重新发现硬件了 · USENIX · 1:06:19
- 快速傅里叶变换(FFT):史上最巧妙的算法? · Reducible · 28:23
- Jim Keller:摩尔定律、微处理器与第一性原理 | Lex Fridman 播客 #70 · Lex Fridman · 1:34:43
- 34C3 - 终极阿波罗制导计算机演讲 · media.ccc.de · 1:01:41
- Jim Keller:摩尔定律并未消亡 · UC Berkeley EECS · 1:04:53
- “为 144 核芯片编程以最小化功耗” - Chuck Moore (2013) · Strange Loop Conference · 40:12