SpreadJS的计算精度是怎样的

收藏

本帖最后由 lihuiqian1991 于 2018-8-16 17:34 编辑

在JS中，所有数字均按双精度浮点数进行运算，直接将计算结果由二进制转为十进制，如：
1.00000000000002 - 1.00000000000001 = 9.992007221626409e-15
已在Edge 42.17134.1.0，IE 11.112.17134.0，Chrome 67.0.3396.62上确认。

在Excel中，所有数字均按双精度浮点数进行运算，将计算结果由二进制转为十进制并保留15位有效数字，如：
1.00000000000002 - 1.00000000000001 = 9.99200722162641e-15
已在Excel 2016上确认。
参考文档：https://support.microsoft.com/zh ... te-results-in-excel

在SpreadJS中，计算双精度浮点数时，得到的是正确的结果，如：
1.00000000000002 - 1.00000000000001 = 1e-14

请问：SpreadJS的计算精度是怎样的，参考了哪个标准？

Brander.Zhai · Brander.Zhai

不论是Excel还是Javascript，都是参照IEEE 754标准。正如你Share的文档，基于754标准的双精度浮点运算，都有十进制分数表示二进制分数的精度问题，不是100%精确。

但是Excel的计算引擎内部会对这种精度问题进行位数修正，修正策略不可知。
而SpreadJS也做了同样的事情，基础思路网上有很多，比如在进行浮点运算时，将小数转整数运算后，在转回小数。又或者使用一些Javascript native的精度限制方法来修正精度等等。

当然实际的代码情况比这个复杂，就不一一详细陈述了。

希望有所帮助。

lihuiqian1991 · lihuiqian1991

Brander.Zhai 发表于 2018-8-16 18:55
不论是Excel还是Javascript，都是参照IEEE 754标准。正如你Share的文档，基于754标准的双精度浮点运算，都 ...

我们使用SpreadJS和Excel进行涉及金钱的计算，同一段业务逻辑如果出现两个结果，后果将不可知。

Excel计算的精度问题在我所提供的文档中已经详述，根据文档能够正确制作出存在精度问题的测试用例。如(43.1-43.2)+1，实际double运算结果为0.8999999999999986，Excel中运算结果为0.899999999999999，与文档一致。

所以，希望能给出SpreadJS所遵循的标准，如果没有标准，希望能给出详细的文档描述SpreadJS如何处理精度问题。