217 主题	1万帖子	1万积分

超级版主

Rank: 8 Rank: 8

积分: 15948

85603
金币
217
主题
10073
帖子

如何修正公式计算精度问题

Clark.Pan

超级版主 / 发表于：2020-2-3 16:01 / 查看：3868 / 回复：0

背景：
由于Java或.Net在浮点数计算时候存在精度误差，用户在使用公式时候会出现跟Excel的计算结果不一致的情况（其实Excel本身计算也存在着精度误差）。
思路：
GCExcel本身做了这样的修正并设置了一个开关提供给用户进行选择，默认情况下是按照Java或者.Net计算的计算结果为准，如果需要和Excel保持一致则打开开关
workbook.setAutoRoundValue(true);
核心代码：
Workbook workbook = new Workbook();
workbook.setAutoRoundValue(true);

点击查看 -->【预览版体验】SpreadJS v16.0 预览版 - 新文件结构

		自动登录	找回密码
密码			立即注册

如何修正公式计算精度问题

0 个回复

讲师达人

悬赏达人

微信认证勋章

SpreadJS 认证

SpreadJS 高级认证

元老葡萄