SpreadJS的公式经过GcExcel导出成PDF后结果不一致

前端小白

本帖最后由 Richard.Huang 于 2024-4-7 09:38 编辑

产品：SpreadJS、GcExcel
版本：SpreadJSV17.0.5、GcExcelV6.2.2
调研编号：SJS-23641

SpreadJS表格中显示的数据是0.6，用Gcexcel转换成PDF后变成0.5
SpreadJS表格的数据是通过sheet引用及函数计算的出来的值

GcExcel转换成PDF后，显示的却是0.5

ssjon见附件

前端小白 · 前端小白

本帖最后由前端小白于 2024-4-3 09:37 编辑

目测这是限制，引申到IEEE754的双精度浮点数的运算精度问题了。https://en.wikipedia.org/wiki/IEEE_754
因为这个标准的设定，天生的，在不同系统下浮点数运算必然会产生浮点误差。
然后各个产品在内部进行精度处理了，只不过貌似Excel在这里的处理貌似因为某种考虑没做？

具体的，你可以打开浏览器的开发者工具，在地下试试这个
image.png431160888.png

Richard.Huang · Richard.Huang

本帖最后由 Richard.Huang 于 2024-3-29 17:36 编辑

您好，经过调研，您的这份ssjson文件中计算结果为0.6的单元格上设置了格式为保留一位小数，我们详细跟踪了该单元格的计算的真实值，发现该单元格的真实值实际为0.549999999

而SpreadJS中计算得到该单元格值为0.55，这就造成GcExcel在格式化时，格式化为了0.5，而SpreadJS格式化为了0.6。即该问题并不是GcExcel的问题，GcExcel的结果和Excel计算结果一致

至于对SpreadJS计算成0.6的现象是否是一个问题亦或是使用方法不正确，我们还需要进行进一步的调研。后续有相关调研进展我会第一时间在本贴中进行跟进。
调研编号：SJS-23641

image.png724583739.png

yue1859921 · yue1859921

本帖最后由 yue1859921 于 2024-3-29 18:37 编辑

Richard.Huang 发表于 2024-3-29 17:18
您好，经过调研，您的这份ssjson文件中计算结果为0.6的单元格上设置了格式为保留一位小数，我们详细跟踪了 ...

麻烦尽快调研一下为什么真实值实际为0.549999999
表格里的值都是精确值没看到有无穷小数
另外，我spreadjs实际使用的版本是 16.1.4

Richard.Huang · Richard.Huang

yue1859921 发表于 2024-3-29 18:31
麻烦尽快调研一下为什么真实值实际为0.549999999
表格里的值都是精确值没看到有无穷小数
另外 ...

了解了，相关调研需要正在进行中，还请您稍作等待，后续有相关进展我都会在本贴中进行及时跟进

Richard.Huang · Richard.Huang

yue1859921 发表于 2024-3-29 18:31
麻烦尽快调研一下为什么真实值实际为0.549999999
表格里的值都是精确值没看到有无穷小数
另外 ...

最新调研进展：本贴中提及的问题和我前面解释的一致，因为SpreadJS，给您的单元格计算结果为0.55，格式化保留一位小数，于是变成了0.6，而Excel计算结果为0.549999999999970，保留一位小数，格式化为0.5。因此造成了以上的问题。
归根结底是因为SpreadJS和Excel计算精度不一致造成的，您可以用以下代码设置计算精度来解决该问题

GC.Spread.CalcEngine.Functions.CALC_PRECISION = 17// 这里的17其实指的是有效数字（不仅仅是小数）

复制代码

yue1859921 · yue1859921

本帖最后由 yue1859921 于 2024-4-2 20:00 编辑

SpreadJS，单元格计算结果为0.55 这个值的确是一个正确的值根据表格里的公式我自己手算也是0.55啊
我在Excel里用按照公式算也是0.55

为什么在系统里会变成0.549999999999970 ，这个值是怎么得来的 ?本身也没有无穷小数这和实际值有差异。明明计算出来是0.55，在系统里一算变成0.5
对于用户根本不了解这里的所以然，只会拿实际看到的值去计算

前端小白 · 前端小白

yue1859921 发表于 2024-4-2 19:48
SpreadJS，单元格计算结果为0.55 这个值的确是一个正确的值根据表格里的公式我自己手算也是0.55啊
...

所以俺们在设计表格的时候，尽量会放宽精度，向这种0.0，很容易出现精度误差。
0.14 -> 0.0，就变成0.1
0.15 -> 0.0, 就变成0.2

少了0.01，肉眼看到的带来的精度是0.1，如果这个数据是需要肉眼审核的，比如打印或导出，那么将是非常危险的。曾看到一实验室数据报告就这个类型，真怕他们搞实验弄炸了。

yue1859921 · yue1859921

本帖最后由 yue1859921 于 2024-4-3 10:15 编辑

前端小白发表于 2024-4-3 09:23
目测这是限制，引申到IEEE754的双精度浮点数的运算精度问题了。https://en.wikipedia.org/wiki/IEEE_754
...

这个原因对于计算机专业的了解，但是用户用表格来做数据的计算肯定按实际肉眼看到的为主，
50.55-50.0 就算就是等于0.55 一位后 0.6
既然 spreadjs 表格都计算出等于0.6 怎么能在GCEXCEL里保证一致？

前端小白 · 前端小白

这就是我说的问题啊。
0.14 -> 0.0，就变成0.1
0.15 -> 0.0, 就变成0.2

这类问题，不是说保持一致不一致的问题，而是怎么去弱化这类问题。因为无法消除双精度浮点数误差。
从你的描述上，核心问题归纳出来不是
1. GcExcel和Excel算的一样，虽然结果是错的。
2. SpreadJS和Excel算的不一样，但是结果是对的。

你要是的一个正确的计算结果，还是第一个错误的和Excel一样的数据。

从某种意义上来说，诉求矛盾了，这就是我说的，应该放宽格式化的精度，来弱化这种问题。
因为这类问题避免不了的

		自动登录	找回密码
密码			立即注册

[已处理] SpreadJS的公式经过GcExcel导出成PDF后结果不一致

最佳答案

15 个回复

评分

SpreadJS 认证

SpreadJS 高级认证