casio计算器计算精度

问题描述:

casio计算器计算精度
casio计算坐标结果X坐标3位小数,Y坐标4位小数,我在程序中设置的是4啊!郁闷
自己找到了一个原因:即我的X坐标带小数点12位,而Y坐标11位!难道这是计算器限制了?只能显示这么多为位?
1个回答 分类:综合 2014-11-21

问题解答:

我来补答
我也觉得是奇怪,明明一个几十位的小数(作为分数化小数的结果),但是到上面就变11位数了(包括整数部分和小数点),到电脑上一算一长串,估计casio计算器就这精确度.
 
 
展开全文阅读
剩余:2000
上一页:减术分裂
下一页:语文学习与巩固