FpSpread 15.3状态栏计算结果存在精度误差（SPNET-33730）
本帖最后由 Richard.Ma 于 2023-9-26 15:36 编辑这个求和出现了精度问题。有办法避免嚒
没看出你说的精度问题具体错误是什么，请提供save方法保存的xml文件，我加载来还原一下问题 本帖最后由 NEC 于 2023-5-8 14:00 编辑
Richard.Ma 发表于 2023-4-24 18:30
没看出你说的精度问题具体错误是什么，请提供save方法保存的xml文件，我加载来还原一下问题
最下方的 StatusBar 中求和项 合计出现了很长的小数
单元格类型为NumberCellType。
数据的话我是List绑定的
绑定的字段类型是decimal。取出来的值我也只有两位
附件已添加
加载你这边的xml会报错，应该是和你绑定数据有关，麻烦还是上传一个重现问题的demo上来，这种精度问题可能是产品功能限制。我可以作为需求提交给研发 Richard.Ma 发表于 2023-5-8 18:20
加载你这边的xml会报错，应该是和你绑定数据有关，麻烦还是上传一个重现问题的demo上来，这种精度问题可能 ...
上传了一个用DateTable绑定的版本 本帖最后由 Richard.Ma 于 2023-9-21 10:34 编辑
已经收到，验证后给你回复 请问版主这个问题有后续处理么？
有解决希望么 您好，抱歉回复晚了，此前您发的第一个文件就是无法打开的，所以让您提供一个能重现问题的demo，但是我看您提供的仍然是一个文件，无法打开。
如果需要我们继续协助排查，还是得请你先提供一个能运行起来重现问题的demo 上传了两个附件。程序和可运行程序 收到了，问题也已经重现. 使用v16测试了一下问题也还在
这个问题此前在公式计算中也会出现，具体的原因就是浮点数误差，计算出的真实结果就是这样的。但是excel会对数值做优化，
spread目前在V16中对公式计算中这种误差做了处理，但是状态栏应该还没有，问题我需要报给研发。帖子保留处理，后续如果在新版本中修复了，我会在帖子中更新
页:
[1]
2