公式计算精度问题

收藏

文件中有ssjson，第一行和第二行都是计算平均值，然后到最后一步用的同样的公式，得出的结果不一样，是怎么回事

不吐葡萄皮 · 不吐葡萄皮

那是因为浮点数误差呀，9.6+9.7=19.299999999999997 然后公式又把前面部分减去，15位精度显示就出来了误差。Excel里面把小数点位数多显示出来，就也能看到。
image.png774947814.png

Joestar.Xu · Joestar.Xu

楼上正解

		自动登录	找回密码
密码			立即注册

[处理中] 公式计算精度问题