设置BigDecimal的特定精度

  • Z时代
  • 2024-01-10
  • 分类：问答

我有一个XSD，要求我对经纬度使用BigDecimal。目前，我将经度/纬度作为双精度值，并将其转换为BigDecimal，但仅需要使用12个精度位即可。我还无法弄清楚该如何设置。谁能帮我这个？

回答：

问题的标题询问精度。BigDecimal区分小数位数和精度。小数位数是小数位数。您可以将精度视为有效数字的数量，也称为有效数字。

Clojure中的一些示例。

(.scale     0.00123M) ; 5
(.precision 0.00123M) ; 3

（在Clojure中，The M表示一个BigDecimal文字。您可以根据需要将Clojure转换为Java，但我发现它比Java更紧凑！）

您可以轻松增加规模：

(.setScale 0.00123M 7) ; 0.0012300M

但是您不能以完全相同的方式 减小 比例：

(.setScale 0.00123M 3) ; ArithmeticException Rounding necessary

您还需要通过舍入模式：

(.setScale 0.00123M 3 BigDecimal/ROUND_HALF_EVEN) ;
; Note: BigDecimal would prefer that you use the MathContext rounding
; constants, but I don't have them at my fingertips right now.

因此，很容易更改比例。但是精度呢？这并不像您希望的那么简单！

降低 精度很容易：

(.round 3.14159M (java.math.MathContext. 3)) ; 3.14M

但是如何 提高 精度并不明显：

(.round 3.14159M (java.math.MathContext. 7)) ; 3.14159M (unexpected)

对于持怀疑态度，这是 不是 只是一个不显示尾随零的事情：

(.precision (.round 3.14159M (java.math.MathContext. 7))) ; 6 
; (same as above, still unexpected)

FWIW，Clojure是小心尾随零，并 会 告诉他们：

4.0000M ; 4.0000M
(.precision 4.0000M) ; 5

回到正轨…您可以尝试使用BigDecimal构造函数，但是它不会将精度设置为高于您指定的位数：

(BigDecimal. "3" (java.math.MathContext. 5)) ; 3M
(BigDecimal. "3.1" (java.math.MathContext. 5)) ; 3.1M

因此，没有快速的方法来更改精度。我花了很多时间来解决这个问题，同时编写了这个问题并正在研究一个项目。我认为这充其量是一个CRAZYTOWN

API，而最糟糕的是一个bug。人。认真吗

因此，据我所知，如果要更改精度，则需要执行以下步骤：

  1. 查找当前精度。

  2. 查找当前比例。

  3. 计算比例变化。

  4. 设定新的比例

这些步骤，作为Clojure代码：

(def x 0.000691M) ; the input number
(def p' 1) ; desired precision
(def s' (+ (.scale x) p' (- (.precision x)))) ; desired new scale
(.setScale x s' BigDecimal/ROUND_HALF_EVEN)
; 0.0007M

我知道，这只是改变精度的许多步骤！

BigDecimal为什么不提供此功能？我有事吗

以上是 设置BigDecimal的特定精度 的全部内容， 来源链接： utcz.com/qa/410141.html

回到顶部