找回密码
 立即注册

QQ登录

只需一步,快速开始

dlcnc-zmj

初级会员

19

主题

72

帖子

257

积分

初级会员

积分
257

微信认证勋章

[已处理] 计算精度问题

dlcnc-zmj
初级会员   /  发表于:2020-3-18 13:44  /   查看:4533  /  回复:8
在使用
var value = GC.Spread.Sheets.CalcEngine.evaluateFormula(spread.getActiveSheet(), "ROUND(1.265, 2)");
之后,1.265没有进行四舍五入,结果为1.26。
是我写的有问题吗?

评分

参与人数 1金币 +300 收起 理由
Fiooona + 300 感谢您的反馈

查看全部评分

8 个回复

倒序浏览
Fiooona
论坛元老   /  发表于:2020-3-18 15:28:32
沙发
问题已经复现,是浮点数精度问题导致的,
已提交研发同事进行修复,编号3870
修复后会在此贴中告知,谢谢反馈
组件化表格编辑器(预览版)试用进行中,点击了解详情!
请点击评分,对我的服务做出评价!5分为非常满意!
回复 使用道具 举报
dlcnc-zmj
初级会员   /  发表于:2020-3-18 16:08:49
板凳
Fiooona 发表于 2020-3-18 15:28
问题已经复现,是浮点数精度问题导致的,
已提交研发同事进行修复,编号3870
修复后会在此贴中告知,谢谢 ...

你好,那spreadjs里有没有什么方法能将1.265四舍五入以后变成1.27
回复 使用道具 举报
Fiooona
论坛元老   /  发表于:2020-3-18 17:47:16
地板
暂时还没有办法,等修复后可以升级版本
组件化表格编辑器(预览版)试用进行中,点击了解详情!
请点击评分,对我的服务做出评价!5分为非常满意!
回复 使用道具 举报
dlcnc-zmj
初级会员   /  发表于:2020-3-18 17:53:36
5#
Fiooona 发表于 2020-3-18 17:47
暂时还没有办法,等修复后可以升级版本

请问什么时候能修复,近期吗
回复 使用道具 举报
Fiooona
论坛元老   /  发表于:2020-3-18 17:58:15
6#
现在还不知道,明天我再问下研发同事看具体什么时间能修复,之后给您回复
组件化表格编辑器(预览版)试用进行中,点击了解详情!
请点击评分,对我的服务做出评价!5分为非常满意!
回复 使用道具 举报
dlcnc-zmj
初级会员   /  发表于:2020-3-18 18:22:00
7#
Fiooona 发表于 2020-3-18 17:58
现在还不知道,明天我再问下研发同事看具体什么时间能修复,之后给您回复

这个计算结果和用画面公式计算结果不一致,画面是正确的,是不是调用的方法不是一个
回复 使用道具 举报
Fiooona
论坛元老   /  发表于:2020-3-19 09:19:54
8#
不太清楚您说的画面公式是什么,这个问题也可以用自定义公式函数来实现,自定义一个四舍五入的公式,自己写计算逻辑:
https://demo.grapecity.com.cn/sp ... om-functions/purejs
组件化表格编辑器(预览版)试用进行中,点击了解详情!
请点击评分,对我的服务做出评价!5分为非常满意!
回复 使用道具 举报
Fiooona
论坛元老   /  发表于:2020-5-7 15:33:29
9#
您好,这个问题已经再V13.1.0中修复,可以通过npm的方式更新至最新版本,如需安装包可留下公司名及邮箱。
组件化表格编辑器(预览版)试用进行中,点击了解详情!
请点击评分,对我的服务做出评价!5分为非常满意!
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部