找回密码
 立即注册

QQ登录

只需一步,快速开始

Joker0824

注册会员

9

主题

31

帖子

96

积分

注册会员

积分
96
Joker0824
注册会员   /  发表于:2022-3-15 11:26  /   查看:1441  /  回复:3
版主好
      我在在线体验设计器里设置了两个公式,结果都不对,您帮忙看下为什么会小数位数增加。如下图


image.png989727783.png
image.png643433227.png

3 个回复

倒序浏览
Derrick.Jiao讲师达人认证 悬赏达人认证 SpreadJS 开发认证
论坛元老   /  发表于:2022-3-15 15:22:08
推荐
这个是由于JavaScript言语的精度问题,在代码中加上下面的代码可以绕开
  1. GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12

复制代码


image.png263693541.png

回复 使用道具 举报
Joker0824
注册会员   /  发表于:2022-3-15 15:56:24
板凳
Derrick.Jiao 发表于 2022-3-15 15:22
这个是由于JavaScript言语的精度问题,在代码中加上下面的代码可以绕开

您好咨询一下,上次我有个帖子也是精度问题 回复我设置 精度值=13 ,这次您回复的设置为12我试了一下确实这个问题解决了,那什么时候设置12  什么时候设置13
回复 使用道具 举报
Derrick.Jiao讲师达人认证 悬赏达人认证 SpreadJS 开发认证
论坛元老   /  发表于:2022-3-15 17:29:42
地板
Joker0824 发表于 2022-3-15 15:56
您好咨询一下,上次我有个帖子也是精度问题 回复我设置 精度值=13 ,这次您回复的设置为12我试了一下确实 ...

精度值越高,可以精确到的小数位数越多。
具体精度值设置为多少,需要根据的需求来定。
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部