javascript高精度计算存在一定缺陷,在运算时可能会出现很多位小数,例如:
在这里插入图片描述
想知道产生这一问题的原因可以戳这里
为了解决这个问题下面有几种方案可供参考:

方案一:使用number-precision库进行处理
在这里插入图片描述
方案二:使用bignumber.js库进行处理:
在这里插入图片描述
类似上面两种封装好的函数库还有很多,可以自己去查找更方便的。如果不想引入外来的库,可以考虑使用下面的函数进行处理:(以乘法为例,加减除可参考这里

方案三:

/**
 * @description 精确乘法 处理js高精度计算缺陷
 * @param num1
 * @param num2
 * @returns {number}
 */
 function accMul(num1, num2) {
    var m = 0, s1 = num1.toString(), s2 = num2.toString();
    try {
     m += s1.split(".")[1].length;
    } catch (e) {
    }
    try {
     m += s2.split(".")[1].length;
    } catch (e) {
    }
    let res=Number(s1.replace(".", "")) * Number(s2.replace(".", ""))
        / Math.pow(10, m);
    if (Math.abs(res) == 0)
    {
        res=0//发现0乘以负数的结果是 -0 稍微处理一下
    }
    return res;
   }

方案四:如果允许保留几位小数,可以在运算后使用num.toFixed(n)直接保留n位小数
方案五:如果知道参与运算的最多是几位小数,可以采用先扩大再缩小的方法,化零为整,也可以避免小数运算 带来的问题:

num1 * (num2 *10000)/10000

这样如果num2最多是4位小数 就可以化成整数计算,避免了小数计算的误差

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐