登录/注册

首页 › 活字格专区 › 求助中心 › 查看内容

76 主题	508 帖子	1079 积分

积分: 1079

3377
金币
76
主题
508
帖子

最新发帖

[已处理] 活字格8小数计算结果不正确

一鹏
高级会员 / 发表于：2022-9-20 20:50 / 查看：1274 / 回复：4

10金币

本帖最后由 Chelsey.Wang 于 2022-9-21 09:22 编辑

请教,如图,表格创建一个带小数的统计字段,计算出来的结果不正确,但在页面中用sum求和计算的结果就是正确的,数字是一样的数字,为什么算出来的结果不同呢?这是什么原理?

附件: 您需要登录才可以下载或查看，没有帐号？立即注册

最佳答案

查看完整内容

浮点运算难免有误差，内置数据库无法直接设置字段小数位数，为了精确就保留了很多小数位，这个应该不影响，当你需要调取这些数据的时候用round设置一下小数位就可以了

收藏

回复

4 个回复

倒序浏览

最佳答案

最佳答案

olookok
论坛元老 / 发表于：2022-9-20 20:50:08 来自 2^#

浮点运算难免有误差，内置数据库无法直接设置字段小数位数，为了精确就保留了很多小数位，这个应该不影响，当你需要调取这些数据的时候用round设置一下小数位就可以了

回复 使用道具举报

Chelsey.Wang
论坛元老 / 发表于：2022-9-21 09:24:07 3^#

感谢楼上大佬的支持~
计算机运算时可能会产生浮点误差，具体原理和解决方法可以参考：

看完必恍然大悟的活字格内幕：三十二、如何处理浮点误差 - 活字格专区 - 专题教程 - 葡萄城产品技术社区 (grapecity.com.cn)

评分

参与人数 1	满意度 +5	收起理由
一鹏	+ 5

查看全部评分

回复 使用道具举报

高阳酒徒
中级会员 / 发表于：2022-9-21 17:33:22 4^#

前端时间也遇到这个问题，后来直接用ROUND四舍五入了

评分

参与人数 1	满意度 +5	收起理由
一鹏	+ 5

查看全部评分

回复 使用道具举报

Chelsey.Wang
论坛元老 / 发表于：2022-9-22 09:31:54 5^#

回复 使用道具举报