spreadJS计算精度问题

Lynn.Dou

问题描述：设置公式后，计算结果为0.008，但页面显示会出现很多0.00800000000000，怎么处理只显示正确结果0.008？ image.png512945861.png

Lynn.Dou · Lynn.Dou

您好，
请添加如下代码后再次测试下：
GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12

杨博 · 杨博

Lynn.Dou 发表于 2022-2-23 09:40
您好，
请添加如下代码后再次测试下：
GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12

请问设置值为14和12的区别是什么？之前有设置14
image.png672527770.png

Lynn.Dou · Lynn.Dou

精度值越高，可以精确到的小数位数越多。
具体精度值设置为多少，需要根据您的需求来定。

		自动登录	找回密码
密码			立即注册

[已处理] spreadJS计算精度问题