请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册

QQ登录

只需一步,快速开始

wangqgsunway

中级会员

84

主题

224

帖子

740

积分

中级会员

积分
740

[已处理] 精度误差

wangqgsunway
中级会员   /  发表于:2018-10-11 13:06  /   查看:3567  /  回复:5
blob136831664.png

5 个回复

倒序浏览
KevinChen讲师达人认证 悬赏达人认证 SpreadJS 开发认证
论坛元老   /  发表于:2018-10-11 13:45:01
沙发
您好,这是由于 js 精度缺失导致的,计算机的二进制实现和位数限制有些数无法有限表示。

对于这个问题,您只需要给单元格设置一个格式,指定单元格小数位数即可,

具体设置方法可以参考官网学习指南:

https://demo.grapecity.com.cn/Sp ... emos/basicFormatter
回复 使用道具 举报
wangqgsunway
中级会员   /  发表于:2018-10-12 08:35:15
板凳
这个精度的错误  能解决吗,不然这个计算结果还需要我们自己 去 确认是不是有问题的, 格子的计算作用就不大了。
回复 使用道具 举报
KevinChen讲师达人认证 悬赏达人认证 SpreadJS 开发认证
论坛元老   /  发表于:2018-10-12 10:42:51
地板
您好,这个问题我这边已经报给研发部门,后续进展我会第一时间在本帖发布。
回复 使用道具 举报
wangqgsunway
中级会员   /  发表于:2018-10-12 11:11:17
5#
灰常感谢
回复 使用道具 举报
KevinChen讲师达人认证 悬赏达人认证 SpreadJS 开发认证
论坛元老   /  发表于:2018-10-12 17:52:31
6#
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部