解决JS浮点数(小数)计算加减乘除的BUG

lewinlee 发布于2019-08-19 14:21 / 3637人阅读

摘要：调用返回值乘以的精确结果给类型增加一个方法，调用起来更加方便。除法函数，用来得到精确的除法结果除法函数，用来得到精确的除法结果说明的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。

加法函数，用来得到精确的加法结果

/**
 ** 加法函数，用来得到精确的加法结果
 ** 说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
 ** 调用：accAdd(arg1,arg2)
 ** 返回值：arg1加上arg2的精确结果
 **/
function accAdd(arg1, arg2) {
    var r1, r2, m, c;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    c = Math.abs(r1 - r2);
    m = Math.pow(10, Math.max(r1, r2));
    if (c > 0) {
        var cm = Math.pow(10, c);
        if (r1 > r2) {
            arg1 = Number(arg1.toString().replace(".", ""));
            arg2 = Number(arg2.toString().replace(".", "")) * cm;
        } else {
            arg1 = Number(arg1.toString().replace(".", "")) * cm;
            arg2 = Number(arg2.toString().replace(".", ""));
        }
    } else {
        arg1 = Number(arg1.toString().replace(".", ""));
        arg2 = Number(arg2.toString().replace(".", ""));
    }
    return (arg1 + arg2) / m;
}

//给Number类型增加一个add方法，调用起来更加方便。
Number.prototype.add = function (arg) {
    return accAdd(arg, this);
};

减法函数，用来得到精确的减法结果

/**
 ** 减法函数，用来得到精确的减法结果
 ** 说明：javascript的减法结果会有误差，在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
 ** 调用：accSub(arg1,arg2)
 ** 返回值：arg1加上arg2的精确结果
 **/
function accSub(arg1, arg2) {
    var r1, r2, m, n;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}

// 给Number类型增加一个mul方法，调用起来更加方便。
Number.prototype.sub = function (arg) {
    return accMul(arg, this);
};

乘法函数，用来得到精确的乘法结果

/**
 ** 乘法函数，用来得到精确的乘法结果
 ** 说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
 ** 调用：accMul(arg1,arg2)
 ** 返回值：arg1乘以 arg2的精确结果
 **/
function accMul(arg1, arg2) {
    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
    try {
        m += s1.split(".")[1].length;
    }
    catch (e) {
    }
    try {
        m += s2.split(".")[1].length;
    }
    catch (e) {
    }
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}

// 给Number类型增加一个mul方法，调用起来更加方便。
Number.prototype.mul = function (arg) {
    return accMul(arg, this);
};

除法函数，用来得到精确的除法结果

/** 
 ** 除法函数，用来得到精确的除法结果
 ** 说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 ** 调用：accDiv(arg1,arg2)
 ** 返回值：arg1除以arg2的精确结果
 **/
function accDiv(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try {
        t1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
    }
    try {
        t2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
    }
    with (Math) {
        r1 = Number(arg1.toString().replace(".", ""));
        r2 = Number(arg2.toString().replace(".", ""));
        return (r1 / r2) * pow(10, t2 - t1);
    }
}

//给Number类型增加一个div方法，调用起来更加方便。
Number.prototype.div = function (arg) {
    return accDiv(this, arg);
};

GPU云服务器云服务器 js浮点数运算bug js取浮点数的绝对值 js浮点数存储 js浮点数运算

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/77933.html

关于js小数浮点数操作出现的精度问题的原因以及解决方法

摘要：我们可以利用该函数限定返回数值的位数，从而达到提高精度的效果。一、问题的引入今天在看基础js文章的时候发现了一个浮点数的精度问题，当打印小数相加的时候有时候会出现数值不准确的情况，如果是在做一些需要数据精度要求较高的工作的时候稍有不慎就会出现问题 console.log(0.1+0.1) //0.2 console.log(0.1+0.2) //0.3000000000000000...

Chiclaim 2019-08-23 16:29 评论0 收藏0
JS魔法堂：彻底理解0.1 + 0.2 === 0.30000000000000004的背后

摘要：也就是说不仅是会产生这种问题，只要是采用的浮点数编码方式来表示浮点数时，则会产生这类问题。到这里我们都理解只要采取的浮点数编码的语言均会出现上述问题，只是它们的标准类库已经为我们提供了解决方案而已。 Brief 一天有个朋友问我JS中计算0.7 * 180怎么会等于125.99999999998，坑也太多了吧！那时我猜测是二进制表示数值时发生round-off error所导致，但并不...

JerryWangSAP 2019-08-19 18:12 评论0 收藏0
JS中如何理解浮点数？

摘要：本文通过介绍的二进制存储标准来理解浮点数运算精度问题，和理解对象的等属性值是如何取值的，最后介绍了一些常用的浮点数精度运算解决方案。浮点数精度运算解决方案关于浮点数运算精度丢失的问题，不同场景可以有不同的解决方案。本文由云+社区发表相信大家在平常的 JavaScript 开发中，都有遇到过浮点数运算精度误差的问题，比如 console.log(0.1+0.2===0.3)// fa...

bang590 2019-08-26 13:26 评论0 收藏0
系统的讲解 - PHP 浮点数高精度运算

摘要：浮点数类型包括单精度浮点数和双精度浮点数。小结通过浮点数精度的问题，了解到浮点数的小数用二进制的表示。以后，在使用浮点数运算的时候，一定要慎之又慎，细节决定成败。概述记录下，工作中遇到的坑 ... 关于 PHP 浮点数运算，特别是金融行业、电子商务订单管理、数据报表等相关业务，利用浮点数进行加减乘除时，稍不留神运算结果就会出现偏差，轻则损失几十万，重则会有信誉损失，甚至吃上官司，我...

makeFoxPlay 2019-07-01 12:46 评论0 收藏0
「干货」细说 Javascript 中的浮点数精度丢失问题（内附好课推荐）

摘要：前言最近，朋友问了我这样一个问题在中的运算结果，为什么是这样的虽然我告诉他说，这是由于浮点数精度问题导致的。由于可以用阶码移动小数点，因此称为浮点数。它的实现遵循标准，使用位精度来表示浮点数。 showImg(https://segmentfault.com/img/remote/1460000018981071); 前言最近，朋友 L 问了我这样一个问题：在 chrome 中的运算...

senntyou 2019-08-23 17:06 评论0 收藏0