Golang将float64转换为int错误
将float转换为int时如何避免浮点错误。例如,下面的代码打印出来:0.5499999999999972
当我受伤时,期望它打印出来0.55
。
package mainimport "fmt"
func main() {
x := 100.55
fmt.Println(x - float64(int(x)))
}
Output:
0.5499999999999972
回答:
您需要了解一些内容:100.55
是一个十进制数字(以十进制基数表示)。100.55
十进制中的是一个有限数字,正好是:100.55
。
通常,计算机以二进制表示形式存储数字。该数字100.55
不能用有限的二进制数表示:100.55
是以二进制表示的 无限
数(同样的原因为什么1/3
不能用有限的十进制数表示,它是一个无穷的序列:)0.333333333....
。
但是Go(像其他语言一样)float64
使用IEEE-754标准存储类型,IEEE-754标准是一种有限的
二进制 表示形式。甲float64
值使用64个比特在存储器来描述的53位被用于描述数字和11位被用于指数的数量,。
现在,当您“说”这一点时:
x := 100.55
这是一个简短的变量声明,它将创建一个名为的新变量,x
并从右侧表达式(其为浮点文字)推断类型,因此Go
spec x
的类型为float64
。为了使用64位(由所指定的规则IEEE-754
)表示,浮点字面量必须进行“转换”
。并且由于100.55
将要求无限位以二进制基数精确地表示,因此仅使用64位(数字为53)将不会(不能)准确100.55
(而是最接近IEEE-754格式的64位二进制数)
),即:
x := 100.55fmt.Printf("%.50f\n", x)
100.54999999999999715782905695959925651550292968750000
因此,您已经开始没有数字了100.55
。
您100
从中减去(float64(int(x))
将完全是100.0
):
x = x - float64(int(x))fmt.Printf("%.50f\n", x)
0.54999999999999715782905695959925651550292968750000
你能为这个做什么?真的没什么。您期望的结果(0.55
)也是二进制表示形式的无限数,因此0.55
类型type的变量中不能有确切的数目float64
。
您可以正常使用数字,但是在打印时,将其四舍五入到您选择的小数位。最简单的方法是使用fmt.Printf()
,并使用%f
包括精度的动词指定格式字符串:
fmt.Printf("%.2f\n", x)
结果:
0.55
另一种选择是避免使用浮点数。例如,如果要表示美元金额,则可以将所有值“乘以”,100
并将金额表示为美分(1 $ *
100),这是整数。仅当您需要将结果打印为美元时,才可以打印类似
cents := 10055fmt.Printf("%d.%d $", cents/100, cents%100)
输出:
100.55 $
以上是 Golang将float64转换为int错误 的全部内容, 来源链接: utcz.com/qa/429979.html