登录/注册

首页 › SpreadJS & GcExcel专区 › 求助中心 › 查看内容

金牌服务用户

53 主题	144 帖子	467 积分

金牌服务用户

积分: 467

3739
金币
53
主题
144
帖子

最新发帖

[已处理] spreadjs计算精度丢失问题

硕㏒
金牌服务用户 / 发表于：2024-11-1 16:08 / 查看：164 / 回复：1

1金币

本帖最后由硕㏒于 2024-11-1 16:27 编辑

image.png190398253.png

image.png190398253.png

在spreadjs中，3204.7-3203.9，得到的值为0.799999999~,这个是怎么回事，有什么办法解决吗？
在spreadjs官网首页测试情况：
image.png777757568.png

image.png777757568.png

image.png727151794.png

最佳答案

查看完整内容

您好，使用GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12;来调整计算精度。

收藏

回复

1 个回复

倒序浏览

最佳答案

最佳答案

Joestar.Xu
超级版主 / 发表于：2024-11-1 16:08:25 来自 2^#

您好，使用GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12;来调整计算精度。

回复 使用道具举报