获得的库存数值跟数据库里的不一致

登录

本帖最后由露从今夜白于 2025-3-14 07:47 编辑

数据库里该料品库存如图：该字段为float类型

活字格命令货区料品库存信息如图：
请问是什么原因导致的？

Syl · Syl

float本来存储的就是很多位小数，下面显示的可能才是实际存储的内容，你要是外联库可以改为decimal(18,2)就行了

或者你显示那里直接四舍五入也是一样的

Grayson.Shang · Grayson.Shang

感谢大佬支持，由于机器的二进制存储，在和日常生活中10进制不同，在存储小数的时候，会存在浮点误差，这个是应用开发的常见现象。

大佬可以参考下面的帖子了解一下，尝试找到更好的解决方案

看完必恍然大悟的活字格内幕：三十二、如何处理浮点误差
https://gcdn.grapecity.com.cn/showtopic-57855-1-1.html
(出处: 葡萄城开发者社区)

露从今夜白 · 露从今夜白

Syl 发表于 2025-3-11 17:30
float本来存储的就是很多位小数，下面显示的可能才是实际存储的内容，你要是外联库可以改为decimal(18,2)就 ...

好的谢谢~

Nathan.guo · Nathan.guo

		自动登录	找回密码
密码			立即注册

[已处理] 获得的库存数值跟数据库里的不一致

4 个回复

时代开发者征文活动

活字格高级认证

悬赏达人

活字格认证

Wyn高级认证

Wyn认证