聊一聊js中 0.1 + 0.2 != 0.3

dingda 发布于2019-08-26 11:47 / 3237人阅读

摘要：中数字存储使用的是位双精度浮点数在计算机中存储为位符号位正数负数指数位用来确定范围尾数位用来确定精度转成十进制表示法为符号位指数位尾数位偏正值使得指数位真实取值为而非目的是为了方便比较大小实际指数值阶码偏正值阶码指数的移码移码与补

Javascript中数字存储使用的是IEEE754 64位双精度浮点数

在计算机中存储为64位
1 11 52
1: 符号位 0正数 1负数
11: 指数位用来确定范围
52: 尾数位用来确定精度
转成十进制表示法为

num = (-1)^s * (1.f) * 2^E
E = e - 1023
s:符号位
e:指数位
f:尾数位
1023偏正值 使得指数位真实取值为[-1023, 1024] 而非 [0, 2047] 目的是为了方便比较大小
实际指数值 = 阶码 - 偏正值
阶码 = 指数的移码 - 1
移码与补码符号为互为取反
举例：
如果指数位实际值为-1
原码：100 0000 0001
反码：111 1111 1110
补码：111 1111 1111
移码：011 1111 1111
阶码：011 1111 1110 = 1022
也可以通过
阶码 = 指数 + 偏正值 = -1 + 1023 = 1022 = 011 1111 1110来计算得到

指数位全0和全1有特殊含义，在后面会讲到，用来表示+-0 和 +-∞

特殊值

机器精度
del = 2^-52

接下来解释一下为什么在使用IEEE754标准的语言中0.1 + 0.2 = 0.30000000000000004
首先我们计算下0.1的二进制
0.1 * 2 = 0
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
....
所以0.1的二进制为 0.0001100110011001100...循环，
可以转换为2^-4 * 1.100110011001100...
由于保留位数共52位，不包括最左边整数位1，
所以最终在计算机中存储的数值是：2^-4 * 1.100 11001100 11001100 11001100 11001100 11001100 11001100 1

同理0.2
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
...
所以0.2的二进制为 0.001100110011001100...循环，
可以转换为2^-3 * 1.100110011001100...
最易最终在计算机中存储的数值是：2^-3 * 1.100 11001100 11001100 11001100 11001100 11001100 11001100 1
两者相加
0.0001100 11001100 11001100 11001100 11001100 11001100 11001100 1
+
0.001100 11001100 11001100 11001100 11001100 11001100 11001100 1
= 0.0 10011001 10011001 10011001 10011001 10011001 10011001 10011
≈ 0.30000000000000004

云服务器 GPU云服务器聊一聊来聊一聊聊一聊去抖聊一聊java内存

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/107565.html

javascript中0.1 + 0.2 != 0.3?

摘要：按照的数字格式，整数有的范围是，而且只能表示有限个浮点数，能表示的个数为个。 0.1+0.2 等于0.3吗？相信拿着这条题目随便问一个高年级的小学生，他们都会毫不犹豫都回答：相等。是的，相等是正常的，这是常识。但是都说实践是检验真理的唯一标准，拿这道简单的算术题用javascript在chrome控制台试验一下：结果令人大跌眼镜，在控制台输入0.1+0.2 == 0.3返回的结果竟然...

ivydom 2019-08-22 10:40 评论0 收藏0
为什么0.1+0.2不等于0.3

摘要：又如，对于，结果其实并不是，但是最接近真实结果的数，比其它任何浮点数都更接近。许多语言也就直接显示结果为了，而不展示一个浮点数的真实结果了。小结本文主要介绍了浮点数计算问题，简单回答了为什么以及怎么办两个问题为什么不等于。原文地址：为什么0.1+0.2不等于0.3 先看两个简单但诡异的代码： 0.1 + 0.2 > 0.3 // true 0.1 * 0.1 = 0.01000000...

Profeel 2019-08-21 17:48 评论0 收藏0
如何解决0.1 +0.2===0.30000000000000004类问题

摘要：方法使用定点表示法来格式化一个数，会对结果进行四舍五入。该数值在必要时进行四舍五入，另外在必要时会用来填充小数部分，以便小数部分有指定的位数。如果数值大于，该方法会简单调用并返回一个指数记数法格式的字符串。在环境中，只能是之间，测试版本为。 showImg(https://segmentfault.com/img/remote/1460000011913134?w=768&h=521)...

yuanzhanghu 2019-08-21 17:31 评论0 收藏0
0.1 + 0.2 != 0.3背后的原理

摘要：标准是浮点数算术标准的标准编号，等同于国际标准。标准规定了计算机程序设计环境中的二进制和十进制的浮点数之间的交换算术格式以及方法。初学JavaScript，在进行小数（浮点数）运算时，经常会碰到这样的情况：0.1 + 0.2=0.30000000000000004，记得当时，教程告诉我们说，0.1 + 0.2在JavaScript运算中，它的值是不固定的，可以在后面学习和试验中，渐渐...

阿罗 2019-08-22 17:35 评论0 收藏0
一个函数让你看懂 'Why 0.1+0.2!=0.3'

摘要：的二进制科学计数法第位是，所以就有了下面的结果有着同样的问题，其实正是由于这样的存储，在这里有了精度丢失，导致了。最大安全数字中表示最大安全数字计算结果是，即在这个数范围内不会出现精度丢失小数除外这个数实际上是。是一个任意精度的整数。话不多说，先上代码 function judgeFloat(n, m) { const binaryN = n.toString(2...

mushang 2019-08-23 15:37 评论0 收藏0