【4.1.0.0】GCExcel小数位显示错误*（DOCXLS-5820）

收藏

本帖最后由 Richard.Ma 于 2022-4-14 09:43 编辑

表格单元格的精度有限制，超出后显示错误，会自动减少小数位。数据设置为123123144.91499999后，展示为123123144.92，导出的excel里面为123123144.915。重现步骤如下:
IRange elementRange = workbook.Worksheets[0].Range["B3"];
elementRange.NumberFormat = "0.00";
elementRange.Value = 123123144.91499999;

Richard.Ma · Richard.Ma

问题已经收到，我这边验证后给您回复

jyjc · jyjc

Richard.Ma 发表于 2022-4-13 09:22
问题已经收到，我这边验证后给您回复

嗯嗯，谢谢

Richard.Ma · Richard.Ma

验证了一下，这个由于Java或.Net在浮点数计算时候存在精度误差，用户在使用公式时候会出现跟Excel的计算结果不一致的情况（其实Excel本身计算也存在着精度误差）。

GCEXCEL提供了AutoRoundValue属性设置，设置为true后可以得到和excel一致的结果

workbook.AutoRoundValue=true;

复制代码

jyjc · jyjc

Richard.Ma 发表于 2022-4-13 10:17
验证了一下，这个由于Java或.Net在浮点数计算时候存在精度误差，用户在使用公式时候会出现跟Excel的计算结 ...

我试了一下，还是不行，workbook.AutoRoundValue这个是true的，不用单独设置。

Richard.Ma · Richard.Ma

抱歉，是我这里验证错了，更改了设置的数值，
这个问题我需要作为bug报给研发来看看。帖子暂时保留处理，后续进展我在帖子中会更新

jyjc · jyjc

Richard.Ma 发表于 2022-4-13 11:53
抱歉，是我这里验证错了，更改了设置的数值，
这个问题我需要作为bug报给研发来看看。帖子暂时保留处理， ...

好的。

Richard.Ma · Richard.Ma

嗯，有新的消息我会在帖子中更新

Derrick.Jiao · Derrick.Jiao

该问题已在5.0.5中修复，请升级至此版本或最新的版本5.1.3。

		自动登录	找回密码
密码			立即注册

[已处理] 【4.1.0.0】GCExcel小数位显示错误*（DOCXLS-5820）

8 个回复

讲师达人

SpreadJS 认证

SpreadJS 高级认证

悬赏达人

GrapeCity