请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册

QQ登录

只需一步,快速开始

一鹏

高级会员

76

主题

508

帖子

1078

积分

高级会员

积分
1078
一鹏
高级会员   /  发表于:2022-9-20 20:50  /   查看:1736  /  回复:4
10金币
本帖最后由 Chelsey.Wang 于 2022-9-21 09:22 编辑



请教,如图,表格创建一个带小数的统计字段,计算出来的结果不正确,但在页面中用sum求和计算的结果就是正确的,数字是一样的数字,为什么算出来的结果不同呢?这是什么原理?
附件: 您需要 登录 才可以下载或查看,没有帐号?立即注册

最佳答案

查看完整内容

浮点运算难免有误差,内置数据库无法直接设置字段小数位数,为了精确就保留了很多小数位,这个应该不影响,当你需要调取这些数据的时候 用round设置一下小数位就可以了

4 个回复

倒序浏览
最佳答案
最佳答案
olookok活字格认证
论坛元老   /  发表于:2022-9-20 20:50:08
来自 2#
浮点运算难免有误差,内置数据库无法直接设置字段小数位数,为了精确就保留了很多小数位,这个应该不影响,当你需要调取这些数据的时候 用round设置一下小数位就可以了
回复 使用道具 举报
Chelsey.Wang讲师达人认证 悬赏达人认证 活字格认证
论坛元老   /  发表于:2022-9-21 09:24:07
3#
感谢楼上大佬的支持~
计算机运算时可能会产生浮点误差,具体原理和解决方法可以参考:

看完必恍然大悟的活字格内幕:三十二、如何处理浮点误差 - 活字格专区 - 专题教程 - 葡萄城产品技术社区 (grapecity.com.cn)

评分

参与人数 1满意度 +5 收起 理由
一鹏 + 5

查看全部评分

回复 使用道具 举报
高阳酒徒
中级会员   /  发表于:2022-9-21 17:33:22
4#
前端时间也遇到这个问题,后来直接用ROUND四舍五入了

评分

参与人数 1满意度 +5 收起 理由
一鹏 + 5

查看全部评分

回复 使用道具 举报
Chelsey.Wang讲师达人认证 悬赏达人认证 活字格认证
论坛元老   /  发表于:2022-9-22 09:31:54
5#
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部