Andyl 发表于 2021-12-1 19:16:12

建议增加外部数据源numeric数据类型和小数位数设置

关于float数据类型小数会有0.82000000001的问题

David.Zhong 发表于 2021-12-2 17:35:33

大佬能详细说一下问什么需要增加numeric数据类型吗?我们目前是不支持这个类型。

Andyl 发表于 2021-12-2 18:54:58

David.Zhong 发表于 2021-12-2 17:35
大佬能详细说一下问什么需要增加numeric数据类型吗?我们目前是不支持这个类型。

服务端命令计算时偶尔会出现显示的小数位数和实际值不相符,上面已经说明了数据库看上去是0.82,前台页面上显示0.8200000001这种情况,我查过百度说是因为float类型会有存储近似值造成的,numeric类型可以解决这个问题,只是建议增加

David.Zhong 发表于 2021-12-3 14:35:21

大佬,我记录了一个sqlserver支持decimal(numeric)数据类型的需求。需求编号:40669。

swejet 发表于 2021-12-3 15:51:53

David.Zhong 发表于 2021-12-3 14:35
大佬,我记录了一个sqlserver支持decimal(numeric)数据类型的需求。需求编号:40669。

decimal和numeric都一样,完全一样,支持一个就行,但是浮点数计算上确实有问题,同意楼主的建议

David.Zhong 发表于 2021-12-3 15:53:12

看后续开发能不能安排时间帮咱们做出来吧~;P

renho 发表于 2021-12-6 17:07:28

确实有这个问题,虽然影响不大,但是能解决更好

David.Zhong 发表于 2021-12-6 18:22:03

renho 发表于 2021-12-6 17:07
确实有这个问题,虽然影响不大,但是能解决更好

大佬反馈已收到~:hjyzw:

Simon.hu 发表于 2022-4-7 11:59:59

主要是浏览器对数字的精度支持不够,我们很多的时候,确实不好弄~
页: [1]
查看完整版本: 建议增加外部数据源numeric数据类型和小数位数设置