建议增加外部数据源numeric数据类型和小数位数设置
关于float数据类型小数会有0.82000000001的问题大佬能详细说一下问什么需要增加numeric数据类型吗?我们目前是不支持这个类型。 David.Zhong 发表于 2021-12-2 17:35
大佬能详细说一下问什么需要增加numeric数据类型吗?我们目前是不支持这个类型。
服务端命令计算时偶尔会出现显示的小数位数和实际值不相符,上面已经说明了数据库看上去是0.82,前台页面上显示0.8200000001这种情况,我查过百度说是因为float类型会有存储近似值造成的,numeric类型可以解决这个问题,只是建议增加 大佬,我记录了一个sqlserver支持decimal(numeric)数据类型的需求。需求编号:40669。
David.Zhong 发表于 2021-12-3 14:35
大佬,我记录了一个sqlserver支持decimal(numeric)数据类型的需求。需求编号:40669。
decimal和numeric都一样,完全一样,支持一个就行,但是浮点数计算上确实有问题,同意楼主的建议 看后续开发能不能安排时间帮咱们做出来吧~;P 确实有这个问题,虽然影响不大,但是能解决更好 renho 发表于 2021-12-6 17:07
确实有这个问题,虽然影响不大,但是能解决更好
大佬反馈已收到~:hjyzw: 主要是浏览器对数字的精度支持不够,我们很多的时候,确实不好弄~
页:
[1]