登录/注册

首页 › 活字格专区 › 求助中心 › 查看内容

9 主题	12 帖子	87 积分

积分: 87

225
金币
9
主题
12
帖子

最新发帖

[已处理] 活字格计算精度问题

dilatory:)
注册会员 / 发表于：2024-4-25 00:55 / 查看：275 / 回复：4

1金币

比如: 716165.42/1.13=633,774.7079646017699

但是活字格计算出来的是 633774.7079646020000
这个该如何解决?

最佳答案

查看完整内容

收藏

回复

4 个回复

倒序浏览

最佳答案

最佳答案

VVANVI
论坛元老 / 发表于：2024-4-25 00:55:55 来自 3^#

本帖子中包含更多资源

您需要登录才可以下载或查看，没有帐号？立即注册

x

评分

参与人数 1	金币 +5	收起理由
Nathan.guo	+ 5	很给力!

查看全部评分

回复 使用道具举报

VVANVI
论坛元老 / 发表于：2024-4-25 06:34:51 2^#

用视图，把数据字段转换成 decimal，然后计算，不会损失精度

回复 使用道具举报

WalkingCorpse
注册会员 / 发表于：2024-4-25 07:45:01 4^#

活字格的精度再不同的服务中各不相同，具体如下

本帖子中包含更多资源

您需要登录才可以下载或查看，没有帐号？立即注册

x

评分

参与人数 1	金币 +5	收起理由
Nathan.guo	+ 5	很给力!

查看全部评分

回复 使用道具举报

Nathan.guo
超级版主 / 发表于：2024-4-25 18:44:56 5^#

感谢各位大佬的支持，楼主可以参考下哦~~

回复 使用道具举报