JavaScript数字精度问题总结

JavaScript数字精度问题总结

八月 20, 2023 评论 10 阅读 3426 点赞 0 收藏 0

常见错误

console.log(0.1+0.2); // 输出 0.30000000000000004
console.log(0.3-0.1); // 输出:0.19999999999999998
console.log(0.07*100); // 输出 7.000000000000001
console.log(0.07/0.01); // 输出 7.000000000000001

相关文章:

成熟库

其中,前3个是同一个作者,体积一个比一个大,参见作者写的:big.js,bignumber.js和decimal.js有什么区别?

到底用哪个

前4个里面选一个的话,建议开发者直接用decimal.js,虽然部分功能可能用不到,但一共也才30kb,也不差这一点大小,除非你的页面对性能要求非常苛刻。

不过numeral.js也非常不错,开发者可以在numeral.js和decimal.js里面选一个自己喜欢的。

以decimal.js为例:

new Decimal(0.1).plus(0.2).toString() // '0.3'
new Decimal(0.3).minus(0.1).toString() // '0.2'
new Decimal(0.07).times(100).toString() // '7'

最后一个 mathjs 是比较出名的专门处理数学计算的库,功能非常全,如果只是用来解决精度计算用这个库会显得杀鸡用牛刀,除了专门的数学运算场景一般不建议使用。

toFixed的问题

见我的另外一篇文章:JavaScript的toFixed()方法的坑总结

*
*
*