js数字计算丢失精度问题解决方案

浠ラ箍发布于2019-08-23 17:21 / 1588人阅读

摘要：计算机世界里，数字的计算，所有语言都会丢失精度，所以没有万全之策，但在人力范围内，尽量解决。

计算机世界里，数字的计算，所有语言都会丢失精度，所以没有万全之策，但在人力范围内，尽量解决。

网上找了一部分代码，发现是有问题的，比如:

//加法 
Number.prototype.myAdd = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var r1, r2, m;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2))
    return (arg1 * m + arg2 * m) / m
}
//减法 
Number.prototype.mySub = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var r1, r2, m, n;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2));
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
//乘法 
Number.prototype.myMul = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var m = 0,
        s1 = arg1.toString(),
        s2 = arg2.toString();
    try { m += s1.split(".")[1].length } catch (e) {}
    try { m += s2.split(".")[1].length } catch (e) {}
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}

// 除法
Number.prototype.myDiv = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var t1 = 0,
        t2 = 0,
        r1, r2;
    try { t1 = arg1.toString().split(".")[1].length } catch (e) {}
    try { t2 = arg2.toString().split(".")[1].length } catch (e) {}
    with(Math) {
        r1 = Number(arg1.toString().replace(".", ""))
        r2 = Number(arg2.toString().replace(".", ""))
        return (r1 / r2).myMul(pow(10, t2 - t1))
    }
}

在计算一些特殊的数字时，仍然有问题：
比如加法：

268.34.myDiv(0.83);//321.7505995203837

所以还要优化

我重新做了一版：

var operationNumber = function (arg1,arg2,operator) {
    var oper=["+","-","*","/"];
    // 不合法的运算
    if (isNaN(arg1)||isNaN(arg2)||oper.indexOf(operator)<0) {
        return NaN;
    }
    // 除以0
    if (operator==="/"&&Number(arg2)===0) {
        return Infinity;
    }
    // 和0相乘
    if (operator==="*"&&Number(arg2)===0) {
        return 0;
    }
    // 相等两个数字相减
    if ((arg1===arg2||Number(arg1)===Number(arg2))&&operator==="-") {
        return 0;
    }
    var r1, r2, max,_r1,_r2;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    max = Math.max(r1, r2)
    _r1 = max-r1;
    _r2 = max-r2;
    if (_r1!==0) {
        arg1=arg1+"0".repeat(_r1)
    }
    if (_r2!==0) {
        arg2=arg2+"0".repeat(_r2)
    }
    arg1 = Number(arg1.toString().replace(".",""))
    arg2 = Number(arg2.toString().replace(".",""))
    var r3 = operator==="*"?(max*2):(operator==="/"?0:max);
    var newNum = eval(arg1+operator+arg2);

    if (r3!==0) {
        var nStr = newNum.toString();
        nStr = nStr.replace(/^-/,"");
        if (nStr.length
如果你发现了bug，评论区及时反馈，我及时跟进修复

云服务器 GPU云服务器 js 数据精度丢失丢失精度精度丢失 js计算高精度数据

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/104224.html

从一个 bug 看 javascript 的精度丢失的问题

摘要：就像一些无理数不能有限表示，如圆周率，等。遵循规范，采用双精度存储，占用。参考中不会失去精度的最大值数字精度丢失的一些典型问题问题描述后端返回 { spaceObject: { objectId: 1049564069045993472 } } 前端模版，使用的是 atpl 模版前端获取 objectId 的方式，const objectId = $(#test).da...

NusterCache 2019-08-23 12:19 评论0 收藏0
[ JS 基础 ] JS 浮点数四则运算精度丢失问题 (3)

摘要：基于这个问题运动基础问题，我想应该也有一部分人没有认真对待过中浮点数的四则运算出现的问题。解决方案引自解决方案为了解决浮点数运算不准确的问题，在运算前我们把参加运算的数先升级的的次方到整数，等运算完后再降级的的次方。基于这个问题：javascript运动基础问题，我想应该也有一部分人没有认真对待过js中浮点数的四则运算出现的问题。 1.问题描述示例代码： var x ...

hoohack 2019-08-21 10:27 评论0 收藏0
由parseInt 引发的问题---想到浮点运算精度丢失---看透js number 的 encod

摘要：如题先陈述下问题背景偶尔测测自己写的计算器，随便输入玩嘛，然后发生下面诡异的事情当我从一个输入到十个的时候，过程显示都是正确的，像这样继续输入一个的时候，然后就这个样子了什么原因呢看了下自己的代码，代码重要部分长这样的这里用了一下强制转化为如题先陈述下问题背景偶尔测测自己写的计算器，随便输入玩嘛，然后发生下面诡异的事情：当我从一个 1 输入到十个 1 的时候，过程显示都是正确的...

hightopo 2019-08-22 14:52 评论0 收藏0
JavaScript 精度丢失问题

摘要：排除直接使用的数太大或太小超出范围，出现这种问题的情况基本是浮点数的小数部分在转成二进制时丢失了精度，所以我们可以将小数部分也转换成整数后再计算。 // 1. 两数相加 // 0.1 + 0.2 = 0.30000000000000004 // 0.7 + 0.1 = 0.7999999999999999 // 0.2 + 0.4 = 0.6000000000000001 // 2.2...

iOS122 2019-08-22 10:45 评论0 收藏0
JavaScript 基础知识 - 入门篇(一)

摘要：如图意义位用来表示符号位位用来表示指数位表示尾数浮点数，比如无限循环无限循环此时只能模仿十进制进行四舍五入了，但是二进制只有和两个，于是变为舍入。这即是计算机中部分浮点数运算时出现误差，丢失精度的根本原因。 showImg(http://ww1.sinaimg.cn/large/9c47d583gy1fmtw1ma9g4j21hc0u0ach.jpg); 前言最近一直有小伙伴跟我说J...

sarva 2019-08-21 17:58 评论0 收藏0