0.00085显示为0.0008,精度丢失?

我在DolphinDB GUI中执行:

matrix(0.00085 0.000085 )

显示如下图所示,是精度丢失了吗?

回答

请打开菜单项File->Preferences,在弹出窗口中修改Default number of decimal place配置项,如下图所示:

image.png

以上是 0.00085显示为0.0008,精度丢失? 的全部内容, 来源链接: utcz.com/a/44932.html

回到顶部