找回密码
 立即注册

QQ登录

只需一步,快速开始

杨博

注册会员

11

主题

34

帖子

119

积分

注册会员

积分
119
杨博
注册会员   /  发表于:2022-2-23 09:32  /   查看:2081  /  回复:3
1金币
问题描述:设置公式后,计算结果为0.008,但页面显示会出现很多0.00800000000000,怎么处理只显示正确结果0.008? image.png512945861.png
image.png758421630.png


最佳答案

查看完整内容

您好, 请添加如下代码后再次测试下: GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12

3 个回复

正序浏览
Lynn.Dou讲师达人认证 悬赏达人认证 SpreadJS 开发认证
超级版主   /  发表于:2022-2-23 10:44:00
4#
精度值越高,可以精确到的小数位数越多。
具体精度值设置为多少,需要根据您的需求来定。
回复 使用道具 举报
杨博
注册会员   /  发表于:2022-2-23 09:56:51
3#
Lynn.Dou 发表于 2022-2-23 09:40
您好,
请添加如下代码后再次测试下:
GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12

请问设置值为14和12的区别是什么?之前有设置14
image.png672527770.png
image.png624157714.png
回复 使用道具 举报
最佳答案
最佳答案
Lynn.Dou讲师达人认证 悬赏达人认证 SpreadJS 开发认证
超级版主   /  发表于:2022-2-23 09:32:35
来自 2#
您好,
请添加如下代码后再次测试下:
GC.Spread.CalcEngine.Functions.CALC_PRECISION = 12
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部