找回密码
 立即注册

QQ登录

只需一步,快速开始

kotoYY

金牌服务用户

113

主题

265

帖子

840

积分

金牌服务用户

积分
840

[已处理] 计算有误

kotoYY
金牌服务用户   /  发表于:2017-7-18 18:24  /   查看:7022  /  回复:12
image.png345871276.png
(13-13.01)/2 = -0.005 为什么是0.00499999呢?导致我后面的单元格设置数值保留两位小数的时候,变成0.00了,应该是0.01,这个数是错误的。
image.png511374816.png
image.png615033568.png

12 个回复

倒序浏览
Clark.Pan讲师达人认证 悬赏达人认证 SpreadJS 开发认证
超级版主   /  发表于:2017-7-19 10:51:44
沙发
您好,已确认您的问题是JS中的计算精度误差导致,造成原因相关可以参考:
http://www.jb51.net/article/47659.htm
已经将您的问题反馈给了研发部门,将会当做一个bug进行处理,有结果后会第一时间通知您。
回复 使用道具 举报
kotoYY
金牌服务用户   /  发表于:2017-7-19 13:43:25
板凳
ClarkPan 发表于 2017-7-19 10:51
您好,已确认您的问题是JS中的计算精度误差导致,造成原因相关可以参考:
http://www.jb51.net/article/47 ...

这个公式我就是在编辑器里正常用的,不可能中间再用代码做处理啊。这就是一个非常严重的bug,计算错误,一定要有限处理,太严重了。
回复 使用道具 举报
Clark.Pan讲师达人认证 悬赏达人认证 SpreadJS 开发认证
超级版主   /  发表于:2017-7-19 13:48:42
地板
kotoYY 发表于 2017-7-19 13:43
这个公式我就是在编辑器里正常用的,不可能中间再用代码做处理啊。这就是一个非常严重的bug,计算错误, ...

您好,您可能没有理解我的意思,不是让您再用代码进行处理的意思,给您地址的意思是造成的原因的是什么,如果您实在等不及fix可以按上面地址中的处理去做,已经帮您反馈了bug,请您稍安勿躁,等fix后会第一时间通知您
回复 使用道具 举报
CCKan
银牌会员   /  发表于:2017-7-19 14:19:20
5#
这个是浮点数误差造成的,你自己在浏览器里面试一试 (13-13.01)/2 结果是什么就知道了。我们后续版本会想办法修复。
回复 使用道具 举报
kotoYY
金牌服务用户   /  发表于:2017-8-11 17:05:43
6#
CCKan 发表于 2017-7-19 14:19
这个是浮点数误差造成的,你自己在浏览器里面试一试 (13-13.01)/2 结果是什么就知道了。我们后续版本会想办 ...

这个问题在10.2.1版本中,结果确实是-0.005,但是保留两位小数后还是0.00,结果还是错误的。
回复 使用道具 举报
CCKan
银牌会员   /  发表于:2017-8-11 17:45:42
7#
保留两位小数后还是0.00
你是怎么保留两位小数的?
回复 使用道具 举报
kotoYY
金牌服务用户   /  发表于:2017-8-14 09:35:45
8#
CCKan 发表于 2017-8-11 17:45
保留两位小数后还是0.00
你是怎么保留两位小数的?

设置单元格格式为数值,保留两位小数。
回复 使用道具 举报
Clark.Pan讲师达人认证 悬赏达人认证 SpreadJS 开发认证
超级版主   /  发表于:2017-8-14 18:12:58
9#
kotoYY 发表于 2017-8-14 09:35
设置单元格格式为数值,保留两位小数。

您的问题已经重现了,正在处理中,明天会向您反馈处理结果。
回复 使用道具 举报
Clark.Pan讲师达人认证 悬赏达人认证 SpreadJS 开发认证
超级版主   /  发表于:2017-8-15 18:02:14
10#
ClarkPan 发表于 2017-8-14 18:12
您的问题已经重现了,正在处理中,明天会向您反馈处理结果。

您好,这个问题已经向研发部门反馈了,预计明天会有结果。
回复 使用道具 举报
12下一页
您需要登录后才可以回帖 登录 | 立即注册
返回顶部