0.00085显示为0.0008,精度丢失?
我在DolphinDB GUI中执行:
matrix(0.00085 0.000085 )
显示如下图所示,是精度丢失了吗?
回答
请打开菜单项File->Preferences,在弹出窗口中修改Default number of decimal place配置项,如下图所示:
以上是 0.00085显示为0.0008,精度丢失? 的全部内容, 来源链接: utcz.com/a/44932.html
我在DolphinDB GUI中执行:
matrix(0.00085 0.000085 )
显示如下图所示,是精度丢失了吗?
请打开菜单项File->Preferences,在弹出窗口中修改Default number of decimal place配置项,如下图所示:
以上是 0.00085显示为0.0008,精度丢失? 的全部内容, 来源链接: utcz.com/a/44932.html