cosyer / better-calc Goto Github PK

js浮点数计算会出现精度问题。

0.1 + 0.2 = 0.30000000000000004
19.9 * 100 = 1989.9999999999998

toFixed()方法和先乘计算后除都是会有问题。

在 JavaScript 中所有数值都以 IEEE-754 标准的 64 bit 双精度浮点数进行存储的。

浮点数在计算机中是以二进制来存储的。对于整数，可用公比为2的等比数列求和公式来计算，对于小数公比则为1/2。n为数的位数。

Sn = (a1 - a1 * Math.pow(q, n + 1)) / (1 - q);

根据上述公式，公比为2时，Sn可表示任意整数。

Sn = (a1 * (Math.pow(2, n + 1) - 1));

根据上述公式，公比为1/2时，n为有限值时，Sn无法表示任意小数，即存在无限小数。而计算机能表示的精度是有限的，必然存在误差。

Sn = (a1 * (2 - Math.pow(2, -n)));

如0.1等小数不能完美地用二进制表示，能被转化为有限二进制小数的十进制小数的最后一位必然以 5 结尾(因为只有 0.5 * 2 才能变为整数)。所以十进制中一位小数 0.1 ~ 0.9 当中除了 0.5 之外的值在转化成二进制的过程中都丢失了精度。

0.1×2=0.2 .....................0

0.2×2=0.4 .....................0

0.4×2=0.8 .....................0

0.8×2=1.6 .....................1

0.6×2=1.2 .....................1

0.2×2=0.4 .....................0 无限循环

在最大值范围内，整数计算是不存在误差的，因此better-calc就是将所有的浮点数转换成整数来计算，切记不能通过乘以10的倍数来转换，而是要通过字符串的replace方法将'.'替换成''。

• 加法：加数和被加数同时放大10的m次方倍，相加，再除以10的m次方倍
• 减法：相当于加上一个负数，跟加法一样。
• 乘法：乘数和被乘数同时放大10的m次方倍，相乘，再除以10的2m次方倍
• 除法：乘数和被乘数同时放大10的m次方倍，相除

js能取值范围如下，由于采用了放大倍数的方法，因此会对整体的取值范围有影响（最大/最小安全值）。

±Math.pow(2, 53) = ±9007199254740991 // Number.MAX_SAFE_INTEGER和Number.MIN_SAFE_INTEGER

1. better-calc支持script标签引入，挂载在全局的window.Calc变量下。

<script type="text/javascript" src="./index.js"></script>

2. npm 安装

npm install better-calc -S

通过es6的import语法

import Calc from 'better-calc';

通过commonjs规范引入

const Calc =  require('better-calc');

Calc提供了四个方法，分别对应加减乘除方法。

Calc.add(a, b);
Calc.sub(a, b);
Calc.mul(a, b);
Calc.div(a, b);

1.针对大数的整数可以考虑使用 bigint 类型(目前在 stage 3 阶段)；

2.使用 bigNumber，它的**是转化成 string 进行处理，这种方式对性能有一定影响；

3.可以考虑使用 long.js，它的**是将 long 类型的值转化成两个精度为 32 位的双精度类型的值;

4.针对小数的话可以使用 number-precision, 该库将小数转为整数后再作处理；

JavaScript 浮点数陷阱及解法