128 主题	4272 帖子	7040 积分

论坛元老

积分: 7040

94764
金币
128
主题
4272
帖子

浮点数精度问题处理

Fiooona
论坛元老 / 发表于：2020-3-12 10:18 / 查看：4294 / 回复：0

本帖最后由 Fiooona 于 2020-5-27 18:23 编辑

精度问题是在不断的修正中，如果遇见计算精度问题可以先尝试升级版本，新版本中已经修复很多精度的问题。
如果新版本中仍然存在问题，可以添加如下代码：
GC.Spread.CalcEngine.Functions.CALC_PRECISION = 14

另：GCExcel中精度问题请查看：https://gcdn.grapecity.com.cn/forum.php?mod=viewthread&tid=72330&extra=page%3D2

组件化表格编辑器（预览版）试用进行中，点击了解详情！

请点击评分，对我的服务做出评价！5分为非常满意！

		自动登录	找回密码
密码			立即注册

浮点数精度问题处理

0 个回复

微信认证勋章