服务端命令中1.0-0.9=0.0999999999

登录

为什么服务端命令中1.0-0.9<>0.1 ？

Simon.Sun · Simon.Sun

感谢大佬们的支持，处理浮点误差，更加详细的内容您可以参考下面这个帖子：

看完必恍然大悟的活字格内幕：三十二、如何处理浮点误差
https://gcdn.grapecity.com.cn/showtopic-57855-1-1.html
(出处: 葡萄城开发者社区)

登录 · 13794930121

回复 · 13794930121

用1减也是一样的

回复 · 13794930121

你这个能在前端处理吗？单价 10 折扣 0.98 折后单价 9.8

123456行行行 · 123456行行行

你可以直接加个round（）

123456行行行 · 123456行行行

这些应该是数据格式原因吧，文本格式算出来的精度会有差异的

experdot · experdot

这是计算机系统的特性，计算小数时有浮点误差，你需要确保尽量不运算小数。因此，只需要提前乘以100，最后再除以100

雪忆 · 雪忆

experdot 发表于 2023-11-7 10:56
这是计算机系统的特性，计算小数时有浮点误差，你需要确保尽量不运算小数。因此，只需要提前乘以100，最后 ...

非常感谢

回复 · 13794930121

嗯嗯 round（）确实可以，我一般这种丢前端页面处理了

		自动登录	找回密码
密码			立即注册

[已处理] 服务端命令中1.0-0.9=0.0999999999