daodao 发表于 2014-4-11 22:35:00

突然觉得精度选择是一个很大的问题呢

为了实现高精度运算，就自己设计算法了，设计的算法计算结果精度可以任意高（貌似是这样），但是也会有一点问题，比如求sqrt(25)的时候，用自己的算法算到了小数点后好几十位（一百位还没尝试过）都可以，但是结果是4.99999999999……99999999999999这样子的……囧……

Leo 发表于 2014-4-11 22:43:00

看看大牛们怎么做平方根的吧。

daodao 发表于 2014-4-11 23:27:00

嗯，看了一些，不太能用。我调整了下精度，现在已经可以了。:loap1:

saber000 发表于 2014-4-11 23:50:00

就这样已经好厉害了……
页: [1]
查看完整版本: 突然觉得精度选择是一个很大的问题呢