网站建设 问卷调查,如何为一个网站做短连接,合肥网站建设pqiw,太平保险网站js浮点数四则运算精度丢失以及tofixed精度丢失解决方法一、js浮点数计算精度丢失的一些例子1、四则运算精度丢失#xff1a;2、toFixed() 四舍五入精度丢失#xff1a;二、浮点数计算精度丢失的原因三、解决办法1、使用 big.js#xff08;如果有大量连续的计算推荐使用…
js浮点数四则运算精度丢失以及tofixed精度丢失解决方法一、js浮点数计算精度丢失的一些例子1、四则运算精度丢失2、toFixed() 四舍五入精度丢失二、浮点数计算精度丢失的原因三、解决办法1、使用 big.js如果有大量连续的计算推荐使用2、解决四则运算精度丢失问题方法1没有具体要求保留几位小数的最简单的方法是直接用 toFixed()方法2有具体要求精确到第几位用科学计数法对运算结果进行四舍五入实现原理使用方法3、解决 toFixed() 精度丢失问题重写 toFixed 方法重点四、判断小数是否相等五、其他由浮点数引起的问题一、js浮点数计算精度丢失的一些例子
1、四则运算精度丢失
0.10.2 0.30000000000000004 0.3 - 0.2 0.0999999999999999810.22*100 1022.00000000000012.4/0.8 2.999999999999999632.2*100 3220.000000000000532.2*1000 32200.000000000004(32.2*100 3.14*100) / 100 35.34 // 这里的精度怎么又不丢失了32.3*100 3229.999999999999532.3*1000 32299.999999999996...2、toFixed() 四舍五入精度丢失
(1.335).toFixed(2); // 1.33
(6.265).toFixed(2); // 6.26二、浮点数计算精度丢失的原因
js采用64位浮点数表示法几乎所有现代编程语言所采用这是一种二进制表示法。二进制浮点数表示法并不能精确表示类似 0.1 这样简单的数字。
这个问题不只在js中才会出现在任何使用二进制浮点数的编程语言中都会出现。
JavaScript的未来版本或许会支持十进制数字类型以避免精度丢失的问题。
三、解决办法
1、使用 big.js如果有大量连续的计算推荐使用 既解决了浮点数计算精度丢失问题又解决了 toFixed() 四舍五入精度丢失问题。big.js 是 big.js, bignumber.js, decimal.js 三姐妹中功能最少的但也是体积最小的压缩版只有3k对于处理js精度丢失已经足够用了。 import Big from big.js// 运算const plus Big(0.1).plus(0.2); // 加const minus Big(0.3).minus(0.1); // 减const mul Big(10.22).times(100); // 乘const div Big(2.4).div(0.8); // 除// toFixedconst fixed new Big(6.265).toFixed(2); // 6.27console.log(plus.toNumber(),minus.toNumber(),mul.toNumber(),div.toNumber())// 0.3 0.2 1022 32、解决四则运算精度丢失问题
方法1没有具体要求保留几位小数的最简单的方法是直接用 toFixed() 从上面四则运算精度丢失的例子可以看到四则运算的精度丢失主要会出现很多位 0 或很多位 9。 function precision(val) {return val.toFixed(8);
}precision(0.1 0.2)方法2有具体要求精确到第几位用科学计数法对运算结果进行四舍五入
MDN 已经给出了具体代码也是利用“科学计数法”扩大 10 的 n 次不会出现精度丢失的特性
function round(number, precision) {return Math.round(number e precision) / Math.pow(10, precision);
}round(1.005, 2); //1.01
round(1.002, 2); //1或者
/*** Decimal adjustment of a number.** param {String} type The type of adjustment.* param {Number} value The number.* param {Integer} exp The exponent (the 10 logarithm of the adjustment base).* returns {Number} The adjusted value.*/
function decimalAdjust(type, value, exp) {// If the exp is undefined or zero...if (typeof exp undefined || exp 0) {return Math[type](value);}value value;exp exp;// If the value is not a number or the exp is not an integer...if (isNaN(value) || !(typeof exp number exp % 1 0)) {return NaN;}// Shiftvalue value.toString().split(e);value Math[type]((value[0] e (value[1] ? value[1] - exp : -exp)));// Shift backvalue value.toString().split(e);value (value[0] e (value[1] ? value[1] exp : exp));return value;
}export default {round: (value, exp) {return decimalAdjust(round, value, exp);},floor: (value, exp) {return decimalAdjust(floor, value, exp);},ceil: (value, exp) {return decimalAdjust(ceil, value, exp);}
};实现原理
比如 1022.0000000000001 要保留2位小数先用 e2 把这个数扩大 100 倍
再用 Math.round(), Math.floor(), Math.ceil() 取整然后再用 e-2 缩小回来。使用方法
Decimal.round(val, precision)console.log(Decimal.round(1.13265, -3)) //1.133
console.log(Decimal.round(3.17, -3)) //3.17
console.log(Decimal.round(0.10.2, -3)) //0.3
console.log(Decimal.round(3.17)) //3
console.log(Decimal.round(3.17, 0)) //3
console.log(Decimal.round(31216, 1)) //31220
console.log(Decimal.round(31213, 2)) //31200precision 可选值不传0负数正数。 不传、0: 精确到整数。正数: 1就是个位为0十位是个位四舍五入的值。负数: 精确到小数点后几位 3、解决 toFixed() 精度丢失问题重写 toFixed 方法重点
function toFixed(number, precision 2) {number Math.round(number e precision) / Math.pow(10, precision) ;let s number.split(.);if ((s[1] || ).length precision) {s[1] s[1] || ;s[1] new Array(precision - s[1].length).fill(0).join();}return s.join(.);
}toFixed(6) // 6.00四、判断小数是否相等
function epsEqu(x,y) { return Math.abs(x - y) Math.pow(2, -52);// 因为 Number.EPSILON Math.pow(2, -52)所以也可以这么写// return Math.abs(x - y) Number.EPSILON;
}
// 举例
0.1 0.2 0.3 // false
epsEqu(0.1 0.2, 0.3) // true小数比较时要给它一个误差范围在误差范围内的都算相等。五、其他由浮点数引起的问题
parseInt(0.0000008) // - 8
