spreadjs计算精度丢失问题

收藏

本帖最后由硕㏒于 2024-11-1 16:27 编辑

image.png190398253.png

在spreadjs中，3204.7-3203.9，得到的值为0.799999999~,这个是怎么回事，有什么办法解决吗？
在spreadjs官网首页测试情况：
image.png777757568.png

Joestar.Xu · Joestar.Xu

您好，使用GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12;来调整计算精度。

		自动登录	找回密码
密码			立即注册

[处理中] spreadjs计算精度丢失问题