SpreadJS的公式经过GcExcel导出成PDF后结果不一致

Richard.Huang · Richard.Huang

前端小白发表于 2024-4-3 10:49
这就是我说的问题啊。
0.14 -> 0.0，就变成0.1
0.15 -> 0.0, 就变成0.2

yue1859921 · yue1859921

本帖最后由 yue1859921 于 2024-4-3 12:49 编辑

前端小白发表于 2024-4-3 10:49
这就是我说的问题啊。
0.14 -> 0.0，就变成0.1
0.15 -> 0.0, 就变成0.2

1.那比如wps里按照我这个示例计算出来是0.5 还是0.6？
2.怎么保持spreadjs 和gcexcel 值保持一致？设置spreadjs？

GC.Spread.CalcEngine.Functions.CALC_PRECISION = 17// 这里的17其实指的是有效数字（不仅仅是小数）

前端小白 · 前端小白

yue1859921 发表于 2024-4-3 12:48
1.那比如wps里按照我这个示例计算出来是0.5 还是0.6？
2.怎么保持spreadjs 和gcexcel 值保持一 ...

如果目的是保持一致，不管对错，那么
1. GC.Spread.CalcEngine.Functions.CALC_PRECISION = 17;
2. 把精度调成0.00 （你这个文件里，要把条件格式上的格式调整为0.00）

1或者2都阔以，个人推荐2，如果我前面说的，精度问题，就用精度妥协来打败。这样至少避免大精度损失么。

yue1859921 · yue1859921

本帖最后由 yue1859921 于 2024-4-4 11:30 编辑

前端小白发表于 2024-4-3 17:16
如果目的是保持一致，不管对错，那么
1. GC.Spread.CalcEngine.Functions.CALC_PRECISION = 17;
2. 把 ...

嗯明白了，那就能保证spreadjs和GcExcel转pdf的结果一致就OK

另外有个问题想咨询下
WPS里如果是 55.55-50.00 计算结果保留1位小数是5.6
为什么 55.55-55.00 计算结果保留一位小数是0.5

Richard.Huang · Richard.Huang

yue1859921 发表于 2024-4-4 11:03
嗯明白了，那就能保证spreadjs和GcExcel转pdf的结果一致就OK

另外有个问题想咨询下

您好，我想这个截图应该能够解释为什么会出现您所描述的问题，一个是按5进一，一个是按4舍去：

image.png481676024.png

Richard.Ma · Richard.Ma

本帖最后由 Joestar.Xu 于 2024-4-16 11:17 编辑

没有看到您再回复，这个帖子先结帖了。

		自动登录	找回密码
密码			立即注册

[已处理] SpreadJS的公式经过GcExcel导出成PDF后结果不一致

SpreadJS 认证

SpreadJS 高级认证

讲师达人

悬赏达人