登录/注册

首页 › SpreadJS & GcExcel专区 › 求助中心 › 查看内容

test11111111111

12 主题	35 帖子	103 积分

积分: 103

475
金币
12
主题
35
帖子

最新发帖

[已处理] 【SpreadJS】数据计算精度丢失问题

test11111111111
注册会员 / 发表于：2023-2-17 17:30 / 查看：2423 / 回复：10

1金币

本帖最后由 Joestar.Xu 于 2023-9-15 11:08 编辑

如图 sheet1的B2单元格的值为：

2694.36

sheet2的B2单元格的值为：

2694.35

sheet1的B6单元格的为==B2-Sheet2!B2
计算结果精度缺失。
image.png834043273.png

image.png834043273.png

image.png963291931.png

最佳答案

查看完整内容

您好，此问题出现的原因是SpreadJS是由javaScript语言开发的，您可以在浏览器控制台，输入2694.36-2694.35，输出结果与您问题中的结果一致。[/backcolor] 所以此问题是javaScript本身精度造成的。修正：此问题属于双精度浮点数问题。具体可见11楼回复[/backcolor] SpreadJS有一个降低精度的方法，如下图所示，可以设置GC.Spread.CalcEngine.Functions.CALC_PRECISION

收藏

回复

10 个回复

倒序浏览

最佳答案

最佳答案

Ellia.Duan
超级版主 / 发表于：2023-2-17 17:30:33 来自 4^#

本帖最后由 Lynn.Dou 于 2023-3-20 12:29 编辑

test11111111111 发表于 2023-2-17 18:46
你把列宽调宽不就看到了

您好，此问题出现的原因是SpreadJS是由javaScript语言开发的，您可以在浏览器控制台，输入2694.36-2694.35，输出结果与您问题中的结果一致。
image.png88703307.png

image.png88703307.png

所以此问题是javaScript本身精度造成的。
修正：此问题属于双精度浮点数问题。具体可见11楼回复

SpreadJS有一个降低精度的方法，如下图所示，可以设置GC.Spread.CalcEngine.Functions.CALC_PRECISION
image.png990513305.png

image.png990513305.png

回复 使用道具举报

Ellia.Duan
超级版主 / 发表于：2023-2-17 18:13:51 2^#

这边并未复现您的问题，建议您上传一个动图上来
image.png439529723.png

image.png439529723.png

image.png302063292.png

回复 使用道具举报

test11111111111
注册会员 / 发表于：2023-2-17 18:46:22 3^#

Ellia.Duan 发表于 2023-2-17 18:13
这边并未复现您的问题，建议您上传一个动图上来

你把列宽调宽不就看到了

回复 使用道具举报

test11111111111
注册会员 / 发表于：2023-2-20 17:58:53 5^#

Ellia.Duan 发表于 2023-2-20 10:30
您好，此问题出现的原因是SpreadJS是由javaScript语言开发的，您可以在浏览器控制台，输入2694.36-2694.3 ...

这个降低精度之后影响到其他的什么吗

回复 使用道具举报

Ellia.Duan
超级版主 / 发表于：2023-2-20 18:12:09 6^#

本帖最后由 Ellia.Duan 于 2023-2-20 18:15 编辑

暂时没有发现其他影响。上述提供的方案是对javaScript精度的优化方案。

回复 使用道具举报

test11111111111
注册会员 / 发表于：2023-3-16 14:49:17 7^#

这种情况该怎么办，降低精度还有影响挺大的啊。
image.png783165588.png

image.png783165588.png

image.png356203917.png

回复 使用道具举报

Lynn.Dou
超级版主 / 发表于：2023-3-16 18:22:02 8^#

本帖最后由 Joestar.Xu 于 2023-9-15 11:08 编辑

需求了解，这边结合您两个问题调研看看，是否有可行方案。(SJS-17442)

回复 使用道具举报

test11111111111
注册会员 / 发表于：2023-3-20 11:00:16 9^#

可有可行方案。

回复 使用道具举报

test11111111111
注册会员 / 发表于：2023-3-20 11:05:09 10^#

Lynn.Dou 发表于 2023-3-16 18:22
需求了解，这边结合您两个问题调研看看，是否有可行方案。

可有可行方案，我们这边项目卡到这了，没有方案就影响进度了啊。

回复 使用道具举报

12 / 2 页下一页