计算有误

收藏

(13-13.01)/2 = -0.005 为什么是0.00499999呢？导致我后面的单元格设置数值保留两位小数的时候，变成0.00了，应该是0.01，这个数是错误的。

Clark.Pan · Clark.Pan

您好，已确认您的问题是JS中的计算精度误差导致，造成原因相关可以参考：
http://www.jb51.net/article/47659.htm
已经将您的问题反馈给了研发部门，将会当做一个bug进行处理，有结果后会第一时间通知您。

kotoYY · kotoYY

ClarkPan 发表于 2017-7-19 10:51
您好，已确认您的问题是JS中的计算精度误差导致，造成原因相关可以参考：
http://www.jb51.net/article/47 ...

这个公式我就是在编辑器里正常用的，不可能中间再用代码做处理啊。这就是一个非常严重的bug，计算错误，一定要有限处理，太严重了。

Clark.Pan · Clark.Pan

kotoYY 发表于 2017-7-19 13:43
这个公式我就是在编辑器里正常用的，不可能中间再用代码做处理啊。这就是一个非常严重的bug，计算错误， ...

您好，您可能没有理解我的意思，不是让您再用代码进行处理的意思，给您地址的意思是造成的原因的是什么，如果您实在等不及fix可以按上面地址中的处理去做，已经帮您反馈了bug,请您稍安勿躁，等fix后会第一时间通知您

CCKan · CCKan

这个是浮点数误差造成的，你自己在浏览器里面试一试 (13-13.01)/2 结果是什么就知道了。我们后续版本会想办法修复。

kotoYY · kotoYY

CCKan 发表于 2017-7-19 14:19
这个是浮点数误差造成的，你自己在浏览器里面试一试 (13-13.01)/2 结果是什么就知道了。我们后续版本会想办 ...

这个问题在10.2.1版本中，结果确实是-0.005，但是保留两位小数后还是0.00，结果还是错误的。

CCKan · CCKan

保留两位小数后还是0.00
你是怎么保留两位小数的？

kotoYY · kotoYY

CCKan 发表于 2017-8-11 17:45
保留两位小数后还是0.00
你是怎么保留两位小数的？

设置单元格格式为数值，保留两位小数。

Clark.Pan · Clark.Pan

kotoYY 发表于 2017-8-14 09:35
设置单元格格式为数值，保留两位小数。

您的问题已经重现了，正在处理中，明天会向您反馈处理结果。

Clark.Pan · Clark.Pan

ClarkPan 发表于 2017-8-14 18:12
您的问题已经重现了，正在处理中，明天会向您反馈处理结果。

您好，这个问题已经向研发部门反馈了，预计明天会有结果。

		自动登录	找回密码
密码			立即注册

[已处理] 计算有误