dtcq 发表于 2021-8-23 22:32:17

神经蛙 发表于 2021-8-23 22:16
感谢分享！您的JS自定义函数可以解决大部分问题，但是由于JS中数字都是以64位浮点数存储的，因此仍然避免 ...

我的确也发现了这个问题，所以现在用的函数是用的极小值来判定的。判定=0.5的时候有时运算的时候差值 0.5<>给定的判定0.5。是的。我最近有些小忙，有空把函数测试了贴出来给各位测试指正看看瞧。不知道行不行。

lovert 发表于 2021-8-23 22:50:35

神经蛙 发表于 2021-8-23 22:16
感谢分享！您的JS自定义函数可以解决大部分问题，但是由于JS中数字都是以64位浮点数存储的，因此仍然避免 ...

确实存在你说的浮点精度问题，这个我没有想过，尝试下你的思路

dtcq 发表于 2022-3-13 22:59:23

lovert 发表于 2021-8-23 17:09
我的公式

136500005，3位就不行了:lol

dtcq 发表于 2022-5-28 07:57:19

lovert 发表于 2021-8-23 17:09
我的公式

还是在纠结，结果表达的形式很多，数值修约只是众多问题中的一个。
页: 1 [2]
查看完整版本: 四舍六入五留双公式，检测同仁有用