GcExcel公式计算结果不正确

在内存计算中，单元格S10的公式和结算结果如下图所示：


实际计算结果应为：


公式：=IF(Q10=0,"",IF(R10=1,(N10-(O10-1)*P10),P10))

不客气，已经和研发确认
问题原因
实际上Excel和GC都存在浮点误差。你可以尝试用Offiice Excel新建一个文件进行计算后保存为excel文件后就可以看到误差,只是在界面上做了四舍五入，看起来是正常的

目前解决办法：
GcExcel也可以对Value做四舍五入，设置workbook.AutoRoundValue = true;即可


注：
workbook.AutoRoundValue = true影响的只是把值从GCExcel取出来的那一刻，我们内部计算还是保留浮点误差的，因为四舍五入只会让最终的结果误差更大，所以我们内部不做四舍五入
Excel的内部也是同样的原理，也不做四舍五入，只是在界面上最终显示时进行四舍五入（和gc中设置workbook.AutoRoundValue = true效果相同）

jyjc 发表于 2021-7-14 15:13
收到，已验证ok，感谢

解决了就好，有新问题欢迎开新帖交流~

Richard.Ma 发表于 2021-7-14 11:29
不客气，已经和研发确认
问题原因
实际上Excel和GC都存在浮点误差。你可以尝试用Offiice Excel新建一个文 ...

收到，已验证ok，感谢

Richard.Ma 发表于 2021-7-14 09:36
问题已经重现，目前看来这个是由于.NET 的double本身的精度错误导致的，你可以测试一下c#本身计算0.4528 -7 ...

好的，麻烦了

问题已经重现，目前看来这个是由于.NET 的double本身的精度错误导致的，你可以测试一下c#本身计算0.4528 -7 * 0.0566也会得到这个结果，在GC中数字是作为double类型来计算的，
问题我这边需要和研发再沟通一下，看看有没有什么合适的解决方案，然后给您回复

Richard.Ma 发表于 2021-7-13 18:11
问题已经收到，看起来是精度问题，你这个公式计算结果就是P10，正常应该就是0.0566

能否上传一个可以重 ...

测试代码已经贴了，能尽快定位一下吗，这个问题还比较紧急

Richard.Ma 发表于 2021-7-13 18:11
问题已经收到，看起来是精度问题，你这个公式计算结果就是P10，正常应该就是0.0566

能否上传一个可以重 ...

1. var workbook = new GrapeCity.Documents.Excel.Workbook();
   
2. 
   
3.             IWorksheet worksheet = workbook.Worksheets[0];
   
4.             worksheet.Range["N10"].Value = 0.4528;
   
5.             worksheet.Range["O10"].Value = 8;
   
6.             worksheet.Range["P10"].Value = 0.0566;
   
7.             worksheet.Range["Q10"].Value = 1;
   
8.             worksheet.Range["R10"].Value = 1;
   
9.             worksheet.Range["S10"].Formula = "=IF(Q10=0,"",IF(R10=1,(N10-(O10-1)*P10),P10))";
   
10. 
    
11.             Console.WriteLine(worksheet.Range["S10"].Value);

复制代码

上面是测试代码

问题已经收到，看起来是精度问题，你这个公式计算结果就是P10，正常应该就是0.0566

能否上传一个可以重现问题的json文件，我来验证原因