找回密码
 立即注册

QQ登录

只需一步,快速开始

balalala

注册会员

11

主题

46

帖子

125

积分

注册会员

积分
125

[已处理] SpreadJS 精度问题

balalala
注册会员   /  发表于:2022-7-7 18:09  /   查看:1045  /  回复:3
本帖最后由 AlexZ 于 2022-7-8 19:45 编辑

image.png508565062.png
在spreadjs官网上设置一组数据,会存在精度丢失问题。导出表格后显示正确。
可以随便设置附件中的一组数据到spreadjs官网(按照表格中的公式),截图中为最后一列为“N”的就是出现错误的数据,如何消除这种误差呢?

111111111.zip

58.57 KB, 下载次数: 14

3 个回复

倒序浏览
Richard.Ma讲师达人认证 悬赏达人认证 SpreadJS 开发认证
超级版主   /  发表于:2022-7-7 18:28:33
沙发
可以设置下面的代码来解决(需要在加载文件或者设置公式进行计算前)

  1. GC.Spread.CalcEngine.Functions.CALC_PRECISION=16
复制代码
回复 使用道具 举报
balalala
注册会员   /  发表于:2022-7-8 18:07:09
板凳
Richard.Ma 发表于 2022-7-7 18:28
可以设置下面的代码来解决(需要在加载文件或者设置公式进行计算前)

好的 感谢解答
回复 使用道具 举报
AlexZ讲师达人认证 悬赏达人认证 SpreadJS 开发认证
超级版主   /  发表于:2022-7-8 19:42:08
地板

如果问题解决,就结帖了
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部