四舍六入五留双公式，检测同仁有用

dtcq · dtcq

神经蛙发表于 2021-8-23 22:16
感谢分享！您的JS自定义函数可以解决大部分问题，但是由于JS中数字都是以64位浮点数存储的，因此仍然避免 ...

我的确也发现了这个问题，所以现在用的函数是用的极小值来判定的。判定=0.5的时候有时运算的时候差值 0.5<>给定的判定0.5。是的。我最近有些小忙，有空把函数测试了贴出来给各位测试指正看看瞧。不知道行不行。

lovert · lovert

神经蛙发表于 2021-8-23 22:16
感谢分享！您的JS自定义函数可以解决大部分问题，但是由于JS中数字都是以64位浮点数存储的，因此仍然避免 ...

确实存在你说的浮点精度问题，这个我没有想过，尝试下你的思路

dtcq · dtcq

lovert 发表于 2021-8-23 17:09
我的公式

136500005，3位就不行了

dtcq · dtcq

lovert 发表于 2021-8-23 17:09
我的公式

还是在纠结，结果表达的形式很多，数值修约只是众多问题中的一个。

		自动登录	找回密码
密码			立即注册

[资源分享] 四舍六入五留双公式，检测同仁有用