dilatory:) 发表于 2024-4-25 00:55:54

活字格计算精度问题

比如: 716165.42/1.13=633,774.7079646017699

但是活字格计算出来的是 633774.7079646020000
这个该如何解决?

VVANVI 发表于 2024-4-25 00:55:55


VVANVI 发表于 2024-4-25 06:34:51

用视图，把数据字段转换成 decimal，然后计算，不会损失精度

WalkingCorpse 发表于 2024-4-25 07:45:01

活字格的精度再不同的服务中各不相同，具体如下

Nathan.guo 发表于 2024-4-25 18:44:56

感谢各位大佬的支持，楼主可以参考下哦~~
{:5_117:}
页: [1]
查看完整版本: 活字格计算精度问题