找回密码
 立即注册

QQ登录

只需一步,快速开始

硕㏒

金牌服务用户

53

主题

144

帖子

467

积分

金牌服务用户

积分
467
硕㏒
金牌服务用户   /  发表于:2024-9-27 10:57  /   查看:405  /  回复:3
1金币
image.png459862670.png

文件中有ssjson,第一行和第二行都是计算平均值,然后到最后一步用的同样的公式,得出的结果不一样,是怎么回事

精度问题.ssjson

58.66 KB, 下载次数: 14

最佳答案

查看完整内容

那是因为浮点数误差呀,9.6+9.7=19.299999999999997 然后公式又把前面部分减去,15位精度显示就出来了误差。Excel里面把小数点位数多显示出来,就也能看到。

3 个回复

倒序浏览
最佳答案
最佳答案
不吐葡萄皮
注册会员   /  发表于:2024-9-27 10:57:18
来自 2#
那是因为浮点数误差呀,9.6+9.7=19.299999999999997  然后公式又把前面部分减去,15位精度显示就出来了误差。Excel里面把小数点位数多显示出来,就也能看到。
image.png774947814.png
回复 使用道具 举报
Joestar.XuSpreadJS 开发认证
超级版主   /  发表于:2024-9-27 12:05:00
3#
楼上正解
回复 使用道具 举报
Wilson.Zhang
超级版主   /  发表于:2024-10-17 14:44:28
4#
您好!由于您较长时间未回复,且从跟帖回复中了解到问题已得到有效解答,那就结贴了。如有新问题,欢迎发新帖沟通。
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部