找回密码
 立即注册

QQ登录

只需一步,快速开始

Andyl

中级会员

29

主题

135

帖子

520

积分

中级会员

积分
520
Andyl
中级会员   /  发表于:2021-12-1 19:16  /   查看:2656  /  回复:8
关于float数据类型小数会有0.82000000001的问题

8 个回复

倒序浏览
David.Zhong讲师达人认证 悬赏达人认证 活字格认证
论坛元老   /  发表于:2021-12-2 17:35:33
沙发
大佬能详细说一下问什么需要增加numeric数据类型吗?我们目前是不支持这个类型。
回复 使用道具 举报
Andyl
中级会员   /  发表于:2021-12-2 18:54:58
板凳
David.Zhong 发表于 2021-12-2 17:35
大佬能详细说一下问什么需要增加numeric数据类型吗?我们目前是不支持这个类型。

服务端命令计算时偶尔会出现显示的小数位数和实际值不相符,上面已经说明了数据库看上去是0.82,前台页面上显示0.8200000001这种情况,我查过百度说是因为float类型会有存储近似值造成的,numeric类型可以解决这个问题,只是建议增加
回复 使用道具 举报
David.Zhong讲师达人认证 悬赏达人认证 活字格认证
论坛元老   /  发表于:2021-12-3 14:35:21
地板
大佬,我记录了一个sqlserver支持decimal(numeric)数据类型的需求。需求编号:40669。
回复 使用道具 举报
swejet悬赏达人认证 活字格认证
论坛元老   /  发表于:2021-12-3 15:51:53
5#
David.Zhong 发表于 2021-12-3 14:35
大佬,我记录了一个sqlserver支持decimal(numeric)数据类型的需求。需求编号:40669。

decimal和numeric都一样,完全一样,支持一个就行,但是浮点数计算上确实有问题,同意楼主的建议
回复 使用道具 举报
David.Zhong讲师达人认证 悬赏达人认证 活字格认证
论坛元老   /  发表于:2021-12-3 15:53:12
6#
看后续开发能不能安排时间帮咱们做出来吧~
回复 使用道具 举报
renho活字格认证
银牌会员   /  发表于:2021-12-6 17:07:28
7#
确实有这个问题,虽然影响不大,但是能解决更好
回复 使用道具 举报
David.Zhong讲师达人认证 悬赏达人认证 活字格认证
论坛元老   /  发表于:2021-12-6 18:22:03
8#
renho 发表于 2021-12-6 17:07
确实有这个问题,虽然影响不大,但是能解决更好

大佬反馈已收到~
回复 使用道具 举报
Simon.hu讲师达人认证 悬赏达人认证 活字格认证
超级版主   /  发表于:2022-4-7 11:59:59
9#
主要是浏览器对数字的精度支持不够,我们很多的时候,确实不好弄~
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部