javascript浮点值运算舍入误差

Lin_R 发布于2019-08-21 14:38 / 1869人阅读

摘要：例如我们在计算加时，它的输出结果不是，而是。既然是由于浮点数的二进制为无穷数产生的误差，这种误差在整数运算中不会存在，聪明的你是不是窥破真相了呢没错那就是在运算工程中将浮点数转换为整数，再将得出的结果转换为浮点数。

问题

在javascript中整数和浮点数都属于Number数据类型（简单数据类型中的一种），我们经常会发现在打印1.0这样的浮点数的结果是1而非1.0，这是由于保存浮点数的内存空间是保存整数值的两倍，所以ECMAScript会不失时机地将浮点数转换为整数。
上面这种情况虽然让强迫症患者有点不舒服，但是好歹也不是什么大错，接下来这种情况就很吓人了。例如我们在计算0.1加0.2时，它的输出结果不是0.3，而是0.3000000000000004。what the fuck？！第一次遇到这种情况的童鞋有没有感觉到世界观受到了挑战？

产生原因

于是赶快翻书来拯救自己的灵魂以及肉体，发现书中赫然写着：ECMAScrip是基于IEEE754数值浮点计算如果不知道IEEE754是什么就点我吧，这种数值计算方法会将数值保存为二进制然后进行计算，由于浮点数用二进制表达时是无穷的，所以在进行算术计算时会产生舍入误差，由于舍入误差的存在，浮点数计算的精确度远远不如整数计算，最后记住了永远不要测试某个特定浮点数的数值。
所以杨绛先生说的对，年轻人就是想的多读书少，没文化总是动不动就会怀疑人生，所以还是要多读书啊！！！

解决方案

所谓对症下药，知道了问题产生的原因那么就可以找到问题的解决方案啦。既然是由于浮点数的二进制为无穷数产生的误差，这种误差在整数运算中不会存在，聪明的你是不是窥破真相了呢？没错,那就是在运算工程中将浮点数转换为整数，再将得出的结果转换为浮点数。客官，下面是新鲜上的代码~

//加法  
function FloatAdd(arg1,arg2){  
       var r1,r2,m; 
       try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0; //参数1为整数};  //参数1小数点后的位数
       try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0; //参数2为整数}; //参数2小数点后的位数
       m=Math.pow(10,Math.max(r1,r2));  //取其中较大的位数
       return (arg1*m+arg2*m)/m;   //先将arg1和arg2转换为整数进行计算，然后再转换回浮点数
  }

done，科科~

云服务器 GPU云服务器 java有浮点误差 javascript设置值 javascript值类型 javascript返回值

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/87978.html

为什么0.1+0.2不等于0.3

摘要：又如，对于，结果其实并不是，但是最接近真实结果的数，比其它任何浮点数都更接近。许多语言也就直接显示结果为了，而不展示一个浮点数的真实结果了。小结本文主要介绍了浮点数计算问题，简单回答了为什么以及怎么办两个问题为什么不等于。原文地址：为什么0.1+0.2不等于0.3 先看两个简单但诡异的代码： 0.1 + 0.2 > 0.3 // true 0.1 * 0.1 = 0.01000000...

Profeel 2019-08-21 17:48 评论0 收藏0
关于 JavaScript 浮点运算的精度解决方案

摘要：原因至于问题产生的原因，或者关于问题的更详细的描述，大家请看下面几个文章浮点运算浮点值运算舍入误差基础浮点数四则运算精度丢失问题解决方案这里主要讨论一下解决方案的问题，上面几篇文章的解决思路，都是重写加法减法乘法和除法运算。问题背景在 chrome 浏览器中调出开发者工具，在控制台窗口输入下面的表达式： 0.1 + 0.2 // 期望：0.3，结果：0.300...

jsyzchen 2019-08-22 14:54 评论0 收藏0
[ JS 基础 ] JS 浮点数四则运算精度丢失问题 (3)

摘要：基于这个问题运动基础问题，我想应该也有一部分人没有认真对待过中浮点数的四则运算出现的问题。解决方案引自解决方案为了解决浮点数运算不准确的问题，在运算前我们把参加运算的数先升级的的次方到整数，等运算完后再降级的的次方。基于这个问题：javascript运动基础问题，我想应该也有一部分人没有认真对待过js中浮点数的四则运算出现的问题。 1.问题描述示例代码： var x ...

hoohack 2019-08-21 10:27 评论0 收藏0
JS数值

摘要：由于浮点数不是精确的值，所以涉及小数的比较和运算要特别小心。根据标准，位浮点数的指数部分的长度是个二进制位，意味着指数部分的最大值是的次方减。也就是说，位浮点数的指数部分的值最大为。一前言这篇文章主要解决以下三个问题：问题1:浮点数计算精确度的问题 0.1 + 0.2; //0.30000000000000004 0.1 + 0.2 === 0.3; // ...

williamwen1986 2019-08-22 16:47 评论0 收藏0
JavaScript权威指南笔记（上）-语言核心

摘要：二进制浮点数和四舍五入错误在使用实数时，常常只是真实值的一个近似表示。作用域分类全局函数，块级作用域链变量对象用于存储执行上下文中的变量函数声明函数参数变量初始化阶段浏览器截图浏览器截图代码执行阶段类和模块词法结构字符集使用Unicode编写 ES3 Unicode2.1+ ES5 Unicode3+ 区分大小写注释 // 注释 /* 注释 */ 标识符和保留字必须以字...

skinner 2019-08-23 14:38 评论0 收藏0