【v14】数值精度问题

Richard.Huang

本帖最后由 Richard.Huang 于 2024-5-13 17:52 编辑

产品：SpreadJS
版本：V14
调研编号：SJS-24202

输入的显示的是8613790064.290504
image.png404422911.png

但是失焦后就显示为了8613790064.29050000
image.png666545714.png

sa.GC.Spread.CalcEngine.Functions.CALC_PRECISION默认14，调整到18也没效果

Richard.Huang · Richard.Huang

最新调研进展：本贴中提及的问题是我们对于用户输入的数值的一个精度处理，旨在保证展示效果和Excel一致。目前这属于产品设计，没有办法处理，如果您确实输入和所显示的一致，建议您提前将单元格设置为文本格式后，再输入您的数值
本设计和Excel是保持一致的，您也可以在Excel中做相同的输入后查看相关的展示

Richard.Huang · Richard.Huang

您好，您的附件中的json无法导入SpreadJS，能否提供一个可以让我导入并测试的json，此外我通过setValue方法来设置单元格值，并没有复现您所描述的问题
image.png761956481.png

littleknife · littleknife

Richard.Huang 发表于 2024-5-9 17:09
您好，您的附件中的json无法导入SpreadJS，能否提供一个可以让我导入并测试的json，此外我通过setValue方法 ...

试试这个

Richard.Huang · Richard.Huang

littleknife 发表于 2024-5-10 15:29
试试这个

经过测试发现，确实有该问题。这主要是由于输入精度造成的，GC.Spread.CalcEngine.Functions.CALC_PRECISION方法修改的是计算精度，即一个公式计算结果的精度，和您直接输入的数值的精度不是一回事儿，您可以在Excel中进行测试，SpreadJS和Excel两者效果是一致的。
后续我们会去调研是否有办法修改对应的输入精度，后续有相关调研进展我会第一时间在本贴中进行回复

Richard.Huang · Richard.Huang

您好，请问楼主根据上面的描述是否得到帮助，如果仍然存在疑惑，欢迎继续跟贴询问

		自动登录	找回密码
密码			立即注册

[已处理] 【v14】数值精度问题

最佳答案

5 个回复

SpreadJS 认证

SpreadJS 高级认证