gcexcel计算公式丢失精度

Richard.Ma

所用gradle依赖 : implementation group: 'com.grapecity.documents', name: 'gcexcel', version: '4.0.0'
image.png904166259.png

问题描述: 如图跨sheet取数, 913708007752623213,公式计算后取出来的结果为9.1370800775262323E17 科学计数法结果丢失了精度

Richard.Ma · Richard.Ma

不是因为科学计数法而损失了精度，根本的原因是这是MSExcel的设计，GcExcel也遵循相同的设计，包括SpreadJS也是这样。

Excel 中的最大有效数字位数为 15。任何超过 15 个有效数字的数字都将被限制为 15 个数字。并以科学计数法来显示

GcExcel中下面的选项可以将 BigDecimal 视为对象而不是 double （你可以创建一个BigDecimal 替代Long来作为单元格值），但是仅在getvalue或导出 pdf时生效，

代码设置如下

workbook.getOptions().getData().setBigDecimalAsDouble(false);

复制代码

完整代码截图，可以看到getValue拿到的仍然是完整的长度
image.png396325988.png

上述设置，在导出excel时这个单元格会显示为空（excel不支持显示BigDecimal，也不支持显示15位以上有效数字），这个问题，可以在需要导出xlsx时，先把上面的setBigDecimalAsDouble设置回来为true。就能正常导出按照15位科学计数法显示的xlsx文件了

柠能 · 柠能

Richard.Ma 发表于 2023-1-13 09:42
不是因为科学计数法而损失了精度，根本的原因是这是MSExcel的设计，GcExcel也遵循相同的设计，包括SpreadJS ...

请问你这个demo图片的依赖版本是多少，我用的4.0.0没有你图片里的这个setBigDecimalAsDouble的方法

柠能 · 柠能

麻烦请提供一个最低的可以用这个方法的版本

Richard.Ma · Richard.Ma

5.0.3中添加了这个功能

柠能 · 柠能

我给单元格设置的值是字符串类型,公式是=这个单元格怎么计算出来的结果是一个科学技术法，gcexcel计算公式的结果如果是数字字符串都统一返回是数值类型的嘛，之前有发现对2023.01公式取前4位出现返回会补一个默认.0的情况结果为2023.0

Richard.Ma · Richard.Ma

字符串作为公式的引用单元格的话，返回的结果还是字符串，除非你做了数字计算，
excel本身是不支持数字字符串计算的（计算结果是空或者#value）
gcexcel和spreadjs 这块对数字字符串计算也做了支持，所以可以返回结果。但是返回的数字由于上面提到的原因，还是和excel保持一致，大于15位会的数字被省略

之前有发现对2023.01公式取前4位出现返回会补一个默认.0的情况结果为2023.0

这个我不知道你指的是什么情况？

		自动登录	找回密码
密码			立即注册

[已处理] gcexcel计算公式丢失精度

最佳答案

6 个回复

SpreadJS 认证

SpreadJS 高级认证

讲师达人

悬赏达人