注册
web

js运算精度丢失,用这个库试试?

简述


js进行算术运算时,有时候会遇到以下几个问题:


// 控制台可以尝试以下代码
0.1 + 0.2 // 0.30000000000000004
0.3 - 0.1 // 0.19999999999999998
19.9 * 100 // 1989.9999999999998

为什么会遇到这个问题呢?


由于在计算机运算过程中,十进制的数会被转化为二进制来运算,有些浮点数用二进制表示是无穷的,浮点数运算标准(IEEE 754)64位双精度的小数部分最多支持53位二进制位,运算过程中超出的二进制位会被截断。运算完后再转为十进制。所以产生了精度问题。


为了解决此问题,整理了一些第三方的js库。


相关js库推荐


js库名称备注
Math.jsJavaScript 和 Node.js 的扩展数学库
decimal.jsjavaScript 任意精度的库
big.js一个轻量的任意精度库

big.js


版本介绍

本次用的big.js版本为6.2.1


页面引入

下载big.js:


访问以下页面,在网页中右键另存为即可


// 因为作为本地测试,就不下载压缩版本了
https:/
/cdn.jsdelivr.net/npm/big.js@6.2.1/big.js

// 若需要压缩版本
https:/
/cdn.jsdelivr.net/npm/big.js@6.2.1/big.min.js

引入到html页面:


<!DOCTYPE html>
<html lang="en">
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width, initial-scale=1.0">
<title>Big js</title>
</head>
<body>
<!-- 引入页面 -->
<script src="./js/big.js"></script>
<script>
  // 尝试Big构造方法
  console.log('Big', Big)
</script>
</body>
</html>

工程化项目

npm install big.js

在所需页面引入:


// 现在一般用 es 模块引入
import Big from 'big.js';

使用

基本演示:


// 加
let a = new Big(0.1)
a = a.plus(0.2)

// 由于运算结果是个对象,所以展示以下值
console.log('a', a) // {s: 1, e: -1, c: Array(1)}
// 可以使用 Number || toNumber() 转为我们需要的数值
console.log('a', a.toNumber) || console.log('a', Number(a)) // 0.3

可以链式调用:


x.div(y).plus(z).times(9)

参考文档

// big.js 项目 github地址
https://mikemcl.github.io/big.js

// big.js 官方文档地址
https://mikemcl.github.io/big.js/

// 这篇文档将api写的很全了
https://blog.csdn.net/a123456234/article/details/132305810

作者:Allshadow
来源:juejin.cn/post/7356531073469825033

0 个评论

要回复文章请先登录注册