计算精度问题

Fiooona

在使用
var value = GC.Spread.Sheets.CalcEngine.evaluateFormula(spread.getActiveSheet(), "ROUND(1.265, 2)");
之后，1.265没有进行四舍五入，结果为1.26。
是我写的有问题吗？

Fiooona · Fiooona

问题已经复现，是浮点数精度问题导致的，
已提交研发同事进行修复，编号3870
修复后会在此贴中告知，谢谢反馈

dlcnc-zmj · dlcnc-zmj

Fiooona 发表于 2020-3-18 15:28
问题已经复现，是浮点数精度问题导致的，
已提交研发同事进行修复，编号3870
修复后会在此贴中告知，谢谢 ...

你好，那spreadjs里有没有什么方法能将1.265四舍五入以后变成1.27

Fiooona · Fiooona

暂时还没有办法，等修复后可以升级版本

dlcnc-zmj · dlcnc-zmj

Fiooona 发表于 2020-3-18 17:47
暂时还没有办法，等修复后可以升级版本

请问什么时候能修复，近期吗

Fiooona · Fiooona

现在还不知道，明天我再问下研发同事看具体什么时间能修复，之后给您回复

dlcnc-zmj · dlcnc-zmj

Fiooona 发表于 2020-3-18 17:58
现在还不知道，明天我再问下研发同事看具体什么时间能修复，之后给您回复

这个计算结果和用画面公式计算结果不一致，画面是正确的，是不是调用的方法不是一个

Fiooona · Fiooona

不太清楚您说的画面公式是什么，这个问题也可以用自定义公式函数来实现，自定义一个四舍五入的公式，自己写计算逻辑：
https://demo.grapecity.com.cn/sp ... om-functions/purejs

Fiooona · Fiooona

您好，这个问题已经再V13.1.0中修复，可以通过npm的方式更新至最新版本，如需安装包可留下公司名及邮箱。

		自动登录	找回密码
密码			立即注册

[已处理] 计算精度问题