【Web前端问题】浮点数精度问题,为什么0.1===0.1 5+0.1 = 5.1?
在js中,会经常的遇到浮点数精度问题(0.1+0.2),我们都知道是因为转换成二进制的时候产生无限循环小数,而js的尾数部分只能保存52位,出现截取取一舍零造成的;但是现在深挖一下:
、
const s = 0.1console.log(s)//s=0.1
console.log(0.1+5)//5.1
、
上述代码,s确准确的等于0.1,并没有出现精度不准确的情况,资料上说明,超过16位会使用toPrecision(16) 进行运算,进而会有 s=0.1的情况,那为什么0.1+0.2 不会做toPrecision的运算呢?
而对于第二种情况,我的猜测是对于整数和小数的相加,js会做toPrecision(m+1),m为小数的10的-m次方;
以上是我在研究js精度问题产生的两个问题,能够查到的博客上都对这两个方面没有说明,希望晓得js精度处理机制的大神帮助解答一下,谢谢大家!
补充:对于toPrecision(m)方法什么时候调用,更重要的是 m 的值是如何确定的?
回答:
JS 的数学运算都是基于 IEEE754 标准的浮点数运算,就算是5+0.1
也都是浮点数5+浮点数0.1
。
造成误差的原因就是取一舍零
造成的误差不可被简单忽略。
5+0.1 === 5.1
或其它类似的数学运算成立,是因为两边结果的浮点数真的就是相等了(符号位、阶数、尾数全部相同,也可能是细微的不同但是精度处理过后相同不过我不确定)。
(5+0.1).toPrecision(20) === (5.1).toPrecision(20)// "5.0999999999999996447" === "5.0999999999999996447"
(0.1+0.2).toPrecision(20) !== (0.3).toPrecision(20)
// "0.30000000000000004441" !== "0.29999999999999998890"
超过16位会使用toPrecision(16) 进行运算
这个也并不定是对的,具体精度处理规则我也并不清楚,得看标准才行,有空我再去查查。
0.1+0.2 // 0.30000000000000004(0.1+0.2).toPrecision(17)
// "0.30000000000000004"
0.3+0.5 // 0.8
0.8.toPrecision(17)
// "0.80000000000000004"
回答:
转载,非原创
“0.1 + 0.2 = ?”,这道题如果给小学生,他会立马告诉你答案是 0.3,但是交给一些程序去计算,结果就不是那么简单了。
事实上,不仅仅是 JS,在其他采用 IEEE754 浮点数标准的语言中,0.1 + 0.2 都不会等于 0.3,但是 0.2 + 0.3 却等于 0.5,这是为何?想必这类问题也困扰着不少程序员。
IEEE754 浮点数的演算
我们知道,科学计数法中 30000 可以写成
$$
3×10^4
$$
,以 10 为底数 4 为指数的科学计数法。在 IEEE754 标准中是比较类似的,只不过它是二进制数,底数也为 2。
IEEE 754 中最常用的浮点数值表示法是:单精确度(32位)和双精确度(64位),JavaScript 采用的是后者。举个例子,十进制数 150,使用双精度浮点数表示法,表示如下:
$$
150D = 2^8 * 0.1001011B // 后面省略了 46 个 0
$$
// D 表示十进制,B 表示二进制
可以通过短除法计算:
150 余数位÷ 2
---------------
75 0
÷ 2
---------------
37 1
÷ 2
---------------
18 1
÷ 2
---------------
9 0
÷ 2
---------------
4 1
÷ 2
---------------
2 0
÷ 2
---------------
1 0
÷ 2
---------------
0 1
最后一个余数为高位值,于是拿到 150 对应的二进制数位 1001011,也就等于 2^8 * 0.1001011。
上面是整数的表示法,而小数的表示法采用的是乘二取整,如 0.1,它的二进制表示为:
$$
0.1D = 2^{-3} * 0.110011(0011)
$$
// (0011) 表示循环
其演算方法如下:
0.1 整数位× 2
---------------
0.2 0
× 2
---------------
0.4 0 * ↓
× 2
---------------
0.8 0
× 2
---------------
1.6 1
× 2
---------------
1.2 1
× 2
---------------
0.4 0 * ↑
(0011循环)
与整数不同的是,第一个计算得到的整数位为最高位,故 0.1 对应的二进制数为 0.000110011(0011),也就等于
$$
2^{-3} 0.1100110011(0011)
$$
如果一个数既包含整数部分,又包含小数部分,其表示法的计算,需要分拆为整数和小数两部分,然后相加得到结果。
IEEE754 浮点数精度丢失
IEEE754 浮点数表示法的数据格式如下图:
// 下图采用大端表示,高位在左,低位在右。 sign exponent fraction
+---+----------+---------------------+
| 1 | 2~12 | 13~64 |
+---+----------+---------------------+
符号位:高位第 1 位,如图 sign 部分
指数位:高位第 2~12 位,如图 exponent 部分
尾数位:剩下的 fraction 部分
从上面小数的乘二取整演算中可以看到,有些小数对应的二进制数是无法写全的,比如 0.1,而 fraction 尾数部分有要求,只允许 52 位,超过部分进一舍零。
那么,我们就可以得到:
0.1D
= 2^-4 * 1.10011(0011)B
= 2^-4 * 1.10011(0011 repeat 12 times)0011B // ← 最后一位为 1,进 1
= 2^-4 * 1.10011(0011 repeat 12 times)010B
揭秘 0.1 + 0.2
根据上面我们了解到的知识,我们可以很容易算出这些值:
0.1D = 2^-4 * 1.1001100110011001100110011001100110011001100110011010B0.2D = 2^-3 * 1.1001100110011001100110011001100110011001100110011010B
0.3D = 2^-2 * 1.0011001100110011001100110011001100110011001100110011B
0.1 + 0.2 时,先将两者指数统一为 -3,故 0.1 小数点向左移一位,于是:
0.1100110011001100110011001100110011001100110011001101B+ 1.1001100110011001100110011001100110011001100110011010B
------------------------------------------------------------
= 10.0110011001100110011001100110011001100110011001100111B
得到的二进制数为:
10.0110011001100110011001100110011001100110011001100111B
小数点往左移一位使得整数部分为 1,此时尾数部分为 53 位,进一舍零,于是得到最后的值是:
2^-2 * 1.0011001100110011001100110011001100110011001100110100
这个值转化成真值,结果为:0.30000000000000004。那么 0.1 + 0.2 = 0.30000000000000004 的推演到这里就结束了。
相关验证
毕竟咱们手动计算可能存在笔误,可以通过一个叫做 double-bits 的 npm 进行推演,我写了一个小 demo,感兴趣的可以玩耍下:
const db = require('double-bits');const pad = require('pad');
// [lo, hi] where lo is a 32 bit integer and hi is a 20 bit integer.
const base2Str = (n) => {
const f = db.fraction(n);
const s = db.sign(n) ? '-' : '';
const e = `2^${db.exponent(n) + 1}`;
const t = `0.${pad(f[1].toString(2), 20, '0')}${pad(f[0].toString(2), 32, '0')}`;
return `${s}${e} * ${t}`;
};
console.log(base2Str(0.1).toString(2));
console.log(base2Str(0.2).toString(2));
console.log(base2Str(0.3).toString(2));
console.log(base2Str(1.2).toString(2));
上面输出结果为:
2^-3 * 0.110011001100110011001100110011001100110011001100110102^-2 * 0.11001100110011001100110011001100110011001100110011010
2^-1 * 0.10011001100110011001111001100110011001100110011001100
2^1 * 0.10011001100110011001111001100110011001100110011001100
最后
为了按照计算机的思维,IEEE754 的标准来计算 0.1 + 0.2,又重新复习了一遍大学计算机基础的知识,原码、反码、补码,以及除二取余、乘二取整计算法,最后能够推演出来,也算是一个胜利吧~
更多阅读
IEEE 754 Converter
http://www.h-schmidt.net/Floa...
维基百科 IEEE 754
https://zh.wikipedia.org/wiki...
回答:
对于你的问题,我在《你不知道JS》中卷第二章2.3.2 看到过这样的说法:
0.1+0.2 === 0.3 //false
从数学角度来说,上面的判断条件应该为true,可结果为什么是false呢?
简单来说,二进制浮点数中的0.1和0.2并不是十分准确,他们相加的结果并非刚好等于0.3,而是一个比较接近的数字 0.30000000000000004,所以条件判断结果为false。有兴趣可以去看看《你不知道JS》
以上是 【Web前端问题】浮点数精度问题,为什么0.1===0.1 5+0.1 = 5.1? 的全部内容, 来源链接: utcz.com/a/143348.html