【java】浮点数精度问题，为什么0.1===0.1 5+0.1 = 5.1？

在js中，会经常的遇到浮点数精度问题（0.1+0.2），我们都知道是因为转换成二进制的时候产生无限循环小数，而js的尾数部分只能保存52位，出现截取取一舍零造成的；但是现在深挖一下：

、

const s = 0.1
console.log(s)//s=0.1
console.log(0.1+5)//5.1

、

上述代码，s确准确的等于0.1，并没有出现精度不准确的情况，资料上说明，超过16位会使用toPrecision(16) 进行运算，进而会有 s=0.1的情况，那为什么0.1+0.2 不会做toPrecision的运算呢？

而对于第二种情况，我的猜测是对于整数和小数的相加,js会做toPrecision（m+1）,m为小数的10的-m次方；
以上是我在研究js精度问题产生的两个问题，能够查到的博客上都对这两个方面没有说明，希望晓得js精度处理机制的大神帮助解答一下，谢谢大家！

补充：对于toPrecision(m)方法什么时候调用，更重要的是 m 的值是如何确定的？

回答

JS 的数学运算都是基于 IEEE754 标准的浮点数运算，就算是5+0.1也都是浮点数5+浮点数0.1。
造成误差的原因就是取一舍零造成的误差不可被简单忽略。

5+0.1 === 5.1或其它类似的数学运算成立，是因为两边结果的浮点数真的就是相等了（符号位、阶数、尾数全部相同，也可能是细微的不同但是精度处理过后相同不过我不确定）。

   (5+0.1).toPrecision(20) === (5.1).toPrecision(20)
// "5.0999999999999996447" === "5.0999999999999996447"
   (0.1+0.2).toPrecision(20) !== (0.3).toPrecision(20)
// "0.30000000000000004441"  !== "0.29999999999999998890"

超过16位会使用toPrecision(16) 进行运算

这个也并不定是对的，具体精度处理规则我也并不清楚，得看标准才行，有空我再去查查。

0.1+0.2  // 0.30000000000000004
(0.1+0.2).toPrecision(17)
// "0.30000000000000004"
0.3+0.5  // 0.8
0.8.toPrecision(17)
// "0.80000000000000004"
转载，非原创

“0.1 + 0.2 = ?”，这道题如果给小学生，他会立马告诉你答案是 0.3，但是交给一些程序去计算，结果就不是那么简单了。

【java】浮点数精度问题，为什么0.1===0.1 5+0.1 = 5.1？

事实上，不仅仅是 JS，在其他采用 IEEE754 浮点数标准的语言中，0.1 + 0.2 都不会等于 0.3，但是 0.2 + 0.3 却等于 0.5，这是为何？想必这类问题也困扰着不少程序员。

IEEE754 浮点数的演算

我们知道，科学计数法中 30000 可以写成

$$

3×10^4

$$

，以 10 为底数 4 为指数的科学计数法。在 IEEE754 标准中是比较类似的，只不过它是二进制数，底数也为 2。

IEEE 754 中最常用的浮点数值表示法是：单精确度（32位）和双精确度（64位），JavaScript 采用的是后者。举个例子，十进制数 150，使用双精度浮点数表示法，表示如下：

$$

150D = 2^8 * 0.1001011B // 后面省略了 46 个 0

$$

// D 表示十进制，B 表示二进制

可以通过短除法计算：

   150   余数位
÷    2
---------------
    75     0   
÷    2
---------------
    37     1
÷    2
---------------
    18     1
÷    2
---------------
     9     0
÷    2
---------------
     4     1
÷    2
---------------
     2     0
÷    2
---------------
     1     0
÷    2
---------------
     0     1

最后一个余数为高位值，于是拿到 150 对应的二进制数位 1001011，也就等于 2^8 * 0.1001011。

上面是整数的表示法，而小数的表示法采用的是乘二取整，如 0.1，它的二进制表示为：

$$

0.1D = 2^{-3} * 0.110011(0011)

$$

// (0011) 表示循环

其演算方法如下：

    0.1   整数位
×     2
---------------
    0.2     0 
×     2
---------------
    0.4     0   * ↓
×     2
---------------
    0.8     0 
×     2
---------------
    1.6     1 
×     2
---------------
    1.2     1
×     2
---------------
    0.4     0   * ↑
             (0011循环)

与整数不同的是，第一个计算得到的整数位为最高位，故 0.1 对应的二进制数为 0.000110011(0011)，也就等于

$$

2^{-3} 0.1100110011(0011)

$$

如果一个数既包含整数部分，又包含小数部分，其表示法的计算，需要分拆为整数和小数两部分，然后相加得到结果。

IEEE754 浮点数精度丢失

IEEE754 浮点数表示法的数据格式如下图：

 // 下图采用大端表示，高位在左，低位在右。
    sign  exponent         fraction
    +---+----------+---------------------+
    | 1 |   2~12   |         13~64       |
    +---+----------+---------------------+

符号位：高位第 1 位，如图 sign 部分
指数位：高位第 2~12 位，如图 exponent 部分
尾数位：剩下的 fraction 部分
从上面小数的乘二取整演算中可以看到，有些小数对应的二进制数是无法写全的，比如 0.1，而 fraction 尾数部分有要求，只允许 52 位，超过部分进一舍零。

那么，我们就可以得到：

0.1D
= 2^-4 * 1.10011(0011)B
= 2^-4 * 1.10011(0011 repeat 12 times)0011B // ← 最后一位为 1，进 1
= 2^-4 * 1.10011(0011 repeat 12 times)010B

揭秘 0.1 + 0.2

根据上面我们了解到的知识，我们可以很容易算出这些值：

0.1D = 2^-4 * 1.1001100110011001100110011001100110011001100110011010B
0.2D = 2^-3 * 1.1001100110011001100110011001100110011001100110011010B
0.3D = 2^-2 * 1.0011001100110011001100110011001100110011001100110011B

0.1 + 0.2 时，先将两者指数统一为 -3，故 0.1 小数点向左移一位，于是：

0.1100110011001100110011001100110011001100110011001101B
+  1.1001100110011001100110011001100110011001100110011010B
------------------------------------------------------------
= 10.0110011001100110011001100110011001100110011001100111B

得到的二进制数为：

10.0110011001100110011001100110011001100110011001100111B
小数点往左移一位使得整数部分为 1，此时尾数部分为 53 位，进一舍零，于是得到最后的值是：

2^-2 * 1.0011001100110011001100110011001100110011001100110100

这个值转化成真值，结果为：0.30000000000000004。那么 0.1 + 0.2 = 0.30000000000000004 的推演到这里就结束了。

相关验证

毕竟咱们手动计算可能存在笔误，可以通过一个叫做 double-bits 的 npm 进行推演，我写了一个小 demo，感兴趣的可以玩耍下：

const db = require('double-bits');
const pad = require('pad');
// [lo, hi] where lo is a 32 bit integer and hi is a 20 bit integer.
const base2Str = (n) => {
  const f = db.fraction(n);
  const s = db.sign(n) ? '-' : '';
  const e = `2^${db.exponent(n) + 1}`;
  const t = `0.${pad(f[1].toString(2), 20, '0')}${pad(f[0].toString(2), 32, '0')}`;
  return `${s}${e} * ${t}`;
};
console.log(base2Str(0.1).toString(2));
console.log(base2Str(0.2).toString(2));
console.log(base2Str(0.3).toString(2));
console.log(base2Str(1.2).toString(2));

上面输出结果为：

2^-3 * 0.11001100110011001100110011001100110011001100110011010
2^-2 * 0.11001100110011001100110011001100110011001100110011010
2^-1 * 0.10011001100110011001111001100110011001100110011001100
2^1 * 0.10011001100110011001111001100110011001100110011001100

最后
为了按照计算机的思维，IEEE754 的标准来计算 0.1 + 0.2，又重新复习了一遍大学计算机基础的知识，原码、反码、补码，以及除二取余、乘二取整计算法，最后能够推演出来，也算是一个胜利吧~

更多阅读
IEEE 754 Converter
http://www.h-schmidt.net/Floa...

维基百科 IEEE 754
https://zh.wikipedia.org/wiki...

对于你的问题，我在《你不知道JS》中卷第二章2.3.2 看到过这样的说法：

0.1+0.2 === 0.3 //false

从数学角度来说，上面的判断条件应该为true,可结果为什么是false呢？
简单来说，二进制浮点数中的0.1和0.2并不是十分准确，他们相加的结果并非刚好等于0.3，而是一个比较接近的数字 0.30000000000000004，所以条件判断结果为false。有兴趣可以去看看《你不知道JS》

以上是 【java】浮点数精度问题，为什么0.1===0.1 5+0.1 = 5.1？ 的全部内容， 来源链接： utcz.com/a/73339.html

回到顶部