登录/注册

首页 › SpreadJS & GcExcel专区 › 求助中心 › 查看内容

winningspreadjs

金牌服务用户

6 主题	29 帖子	107 积分

金牌服务用户

积分: 107

4346
金币
6
主题
29
帖子

最新发帖

[已处理] v15.2.2 精度丢失问题

winningspreadjs
金牌服务用户 / 发表于：2023-4-21 11:25 / 查看：1362 / 回复：3

本帖最后由 winningspreadjs 于 2023-4-21 11:27 编辑

使用 GC.Spread.Sheets.CalcEngine.evaluateFormula 计算出来的值，偶发性出现精度丢失，传入单元格例如A1(26,260,421.64)+A2(-32,572,161.59 )，计算结果等于 -6,311,739.94999999

收藏

回复

3 个回复

倒序浏览

Lynn.Dou
超级版主 / 发表于：2023-4-21 17:13:13 沙发

您好，
测试如下图所示，未能复现您描述的问题：
image.png29215086.png

image.png29215086.png

请问如何重现您描述的精度问题呢，请详细描述下，以便问题的进一步调研。

SpreadJS v16.0 正式版发布

回复 使用道具举报

winningspreadjs
金牌服务用户 / 发表于：2023-4-23 11:20:35 板凳

Lynn.Dou 发表于 2023-4-21 17:13
您好，
测试如下图所示，未能复现您描述的问题：

描述有误，抱歉抱歉，应该只传一个值得时候会出现，比如只传A1(-6,311,739.95)

回复 使用道具举报

Lynn.Dou
超级版主 / 发表于：2023-4-23 12:18:02 地板

如下图，还是没能复现，您提供一个可复现的demo，这边看看是什么原因：
image.png360645140.png

image.png360645140.png

SpreadJS v16.0 正式版发布

回复 使用道具举报