用Java语言解压缩半精度浮点数

  • Z时代
  • 2024-01-10
  • 分类：问答

我正在尝试使用包含大量16位浮点数的javascript读取二进制文件。可以肯定的是它是IEEE标准，低位字节序。将两个字节读入一个int非常简单，但是从那里将其扩展为一个完整的浮点数并没有太大的成功。有什么线索吗？

回答：

我最终根据Wikipedia页面上的信息实现了自己的解析器。它可能不是最快的，但是我对此不太担心。这里是那些好奇的人：

function float16_to_float(h) {
    var s = (h & 0x8000) >> 15;
    var e = (h & 0x7C00) >> 10;
    var f = h & 0x03FF;
    if(e == 0) {
        return (s?-1:1) * Math.pow(2,-14) * (f/Math.pow(2, 10));
    } else if (e == 0x1F) {
        return f?NaN:((s?-1:1)*Infinity);
    }
    return (s?-1:1) * Math.pow(2, e-15) * (1+(f/Math.pow(2, 10)));
}
function test() {
    float16_to_float(parseInt('3C00', 16)); // 1
    float16_to_float(parseInt('C000', 16)); // -2
    float16_to_float(parseInt('7BFF', 16)); // 6.5504 × 10^4 (Maximum half precision)
    float16_to_float(parseInt('3555', 16)); // 0.33325... ≈ 1/3
    // Works with all the test cases on the wikipedia page
}

以上是 用Java语言解压缩半精度浮点数 的全部内容， 来源链接： utcz.com/qa/416384.html

回到顶部