找回密码
 立即注册

QQ登录

只需一步,快速开始

daodao

论坛元老

16

主题

107

帖子

1万

积分

论坛元老

积分
13785

活字格认证

daodao
论坛元老   /  发表于:2014-4-11 22:35  /   查看:5121  /  回复:3
为了实现高精度运算,就自己设计算法了,设计的算法计算结果精度可以任意高(貌似是这样),但是也会有一点问题,比如求sqrt(25)的时候,用自己的算法算到了小数点后好几十位(一百位还没尝试过)都可以,但是结果是4.99999999999……99999999999999这样子的……囧……

3 个回复

倒序浏览
Leo
超级版主   /  发表于:2014-4-11 22:43:00
沙发
看看大牛们怎么做平方根的吧。
回复 使用道具 举报
daodao
论坛元老   /  发表于:2014-4-11 23:27:00
板凳
嗯,看了一些,不太能用。我调整了下精度,现在已经可以了。
回复 使用道具 举报
saber000
银牌会员   /  发表于:2014-4-11 23:50:00
地板
就这样已经好厉害了……
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部