FpSpread 15.3状态栏计算结果存在精度误差（SPNET-33730）

登录

本帖最后由 Richard.Ma 于 2023-9-26 15:36 编辑

这个求和出现了精度问题。有办法避免嚒

Richard.Ma · Richard.Ma

没看出你说的精度问题具体错误是什么，请提供save方法保存的xml文件，我加载来还原一下问题

NEC · NEC

本帖最后由 NEC 于 2023-5-8 14:00 编辑

Richard.Ma 发表于 2023-4-24 18:30
没看出你说的精度问题具体错误是什么，请提供save方法保存的xml文件，我加载来还原一下问题

最下方的 StatusBar 中求和项合计出现了很长的小数
单元格类型为NumberCellType。
数据的话我是List绑定的
绑定的字段类型是decimal。取出来的值我也只有两位

附件已添加

Richard.Ma · Richard.Ma

加载你这边的xml会报错，应该是和你绑定数据有关，麻烦还是上传一个重现问题的demo上来，这种精度问题可能是产品功能限制。我可以作为需求提交给研发

NEC · NEC

Richard.Ma 发表于 2023-5-8 18:20
加载你这边的xml会报错，应该是和你绑定数据有关，麻烦还是上传一个重现问题的demo上来，这种精度问题可能 ...

上传了一个用DateTable绑定的版本

Richard.Ma · Richard.Ma

本帖最后由 Richard.Ma 于 2023-9-21 10:34 编辑

已经收到，验证后给你回复

NEC · NEC

请问版主这个问题有后续处理么？
有解决希望么

Richard.Ma · Richard.Ma

您好，抱歉回复晚了，此前您发的第一个文件就是无法打开的，所以让您提供一个能重现问题的demo，但是我看您提供的仍然是一个文件，无法打开。

如果需要我们继续协助排查，还是得请你先提供一个能运行起来重现问题的demo

NEC · NEC

上传了两个附件。程序和可运行程序

Richard.Ma · Richard.Ma

收到了，问题也已经重现. 使用v16测试了一下问题也还在

这个问题此前在公式计算中也会出现，具体的原因就是浮点数误差，计算出的真实结果就是这样的。但是excel会对数值做优化，

spread目前在V16中对公式计算中这种误差做了处理，但是状态栏应该还没有，问题我需要报给研发。帖子保留处理，后续如果在新版本中修复了，我会在帖子中更新

		自动登录	找回密码
密码			立即注册

[调研中] FpSpread 15.3状态栏计算结果存在精度误差（SPNET-33730）

本帖子中包含更多资源

11 个回复

SpreadJS 认证

SpreadJS 高级认证

讲师达人

悬赏达人