16.2 7位小数及以上小数获取值

收藏

输入超过7位及以上小数，getValue就会是科学技术法的，怎么解决？

Joestar.Xu · Joestar.Xu

您好，试试用getText看能否满足您的需求：

image.png685488891.png

参考链接：https://demo.grapecity.com.cn/sp ... s.Worksheet#gettext

billdwl · billdwl

Joestar.Xu 发表于 2024-4-15 18:04
您好，试试用getText看能否满足您的需求：

我这个是所有单元格都统一用getValue的，如果用getText，其他单元格获取会有问题把，这个精度问题没办法解决吗

Joestar.Xu · Joestar.Xu

您好，实际上，这是一个JavaScript的问题：

image.png140940550.png

当小数超过6位时，JavaScript会自动将小数转为科学计数法，如上图所示。

JavaScript 中的精度问题主要是由于浮点数表示的局限性导致的。由于计算机内部使用二进制表示数字，而某些十进制小数无法精确地用二进制表示，因此在进行浮点数运算时可能会出现误差。这种误差通常被称为浮点数精度误差。

如果说您对计算精度有很高的要求，更建议您将计算放在后端去做。