为什么IEEE754单精度浮点数只有7位精度？

  • Z时代
  • 2024-01-10
  • 分类：问答

为什么浮点数" title="单精度浮点数">单精度浮点数具有7位精度（或双精度15-16位精度）？

谁能解释一下如何根据为float（Sign（32）Exponent（30-23），Fraction（22-0））分配的32位来达到这个目标？

回答：

有效位的23个小数位（22-0）出现在内存格式中，但是总精度实际上是24位，因为我们假设有一个前导1。这等效于log10(2^24) ≈

7.225十进制数字。

双精度浮点数的分数为52位，加上前导1为53。因此，双精度log10(2^53) ≈ 15.955数可以容纳十进制数字，而不是16。

注意：前导1不是符号位。实际上是，(-1)^sign * 1.ffffffff * 2^(eeee-

constant)但是我们不需要在分数中存储前导1。符号位必须仍然存储

有些数字不能表示为2的幂，例如1/9：

>>>> double d = 0.111111111111111;
>>>> System.out.println(d + "\n" + d*10);
0.111111111111111
1.1111111111111098

如果一个财务计划在不进行自我校正的情况下一遍又一遍地执行此计算，最终将出现差异。

>>>> double d = 0.111111111111111;
>>>> double sum = 0;
>>>> for(int i=0; i<1000000000; i++) {sum+=d;}
>>>> System.out.println(sum);
111111108.91914201

经过10亿次累加，我们缺少$ 2。

以上是 为什么IEEE754单精度浮点数只有7位精度？ 的全部内容， 来源链接： utcz.com/qa/416376.html

回到顶部