请问，报表控件表格中，浮点位精度引起数据误差如何处理

收藏

本帖最后由 dzf 于 2017-3-21 20:43 编辑

例如：9558.89999999977 * 0.25 =2389.72499999994
我实际是需要 9558.90 * 0.25 = 2389.725 四舍五入后未2389.73 ，二上面浮点误差导致四舍五入后的界面值是2389.72，差一分钱。
假设我的每个格子都设置为round(计算表达式, 2)，仍有可能计算表达式结果是2389.72499999994，四舍五入后还是差一分

我目前想的方案是 round(计算表达式 + 0.000000001, 2)，但大量格子这样写自己也觉得麻烦，有什么解决办法？

dexteryao · dexteryao

这个和Excel一样，可以保存一个值，然后显示时候做一个格式化

		自动登录	找回密码
密码			立即注册

请问，报表控件表格中，浮点位精度引起数据误差如何处理

1 个回复

讲师达人

悬赏达人

元老葡萄

SpreadJS 认证

SpreadJS 高级认证

微信认证勋章