spreadjs 公式计算多余小数位数问题

Lynn.Dou · 2021-12-30 15:26 上传

本帖最后由 Lynn.Dou 于 2022-1-6 11:38 编辑

版主好
在运用公式的时候，发现计算后未正确显示且小数位数过多问题，如图所示
image.png74866026.png

在官网打开该ssjson 问题依旧。ssjson参考附件公式问题.ssjson

Lynn.Dou · Lynn.Dou

本帖最后由 Lynn.Dou 于 2022-1-6 11:38 编辑

更新进展：
经调研此问题属于精度问题，请添加下方代码，再次导入文件测试。
GC.Spread.CalcEngine.Functions.CALC_PRECISION = 13;

Lynn.Dou · Lynn.Dou

您好，
您是将excel文件导入至在线表格编辑器出现的此问题吗？
如果是，请将原始excel文件上传下，并提供二者计算结果不一致的对比截图，
便于后面复现问题以及修复。

Joker0824 · Joker0824

excel显示正常

Lynn.Dou · Lynn.Dou

本帖最后由 Lynn.Dou 于 2022-1-6 11:38 编辑

问题已复现，已将此问题记录下来进一步调研，待有进展会在贴中更新。
本贴先做保留处理。(SJS-11479)

Joker0824 · Joker0824

Lynn.Dou 发表于 2022-1-6 11:36
更新进展：
经调研此问题属于精度问题，请添加下方代码，再次导入文件测试。
GC.Spread.CalcEngine.Funct ...

谢谢版主，已解决！

Lynn.Dou · Lynn.Dou

那本帖就先结贴了，有问题欢迎另开新帖交流。

		自动登录	找回密码
密码			立即注册

[已处理] spreadjs 公式计算多余小数位数问题