问题描述:
casio计算器计算精度
casio计算坐标结果X坐标3位小数,Y坐标4位小数,我在程序中设置的是4啊!郁闷
自己找到了一个原因:即我的X坐标带小数点12位,而Y坐标11位!难道这是计算器限制了?只能显示这么多为位?
casio计算坐标结果X坐标3位小数,Y坐标4位小数,我在程序中设置的是4啊!郁闷
自己找到了一个原因:即我的X坐标带小数点12位,而Y坐标11位!难道这是计算器限制了?只能显示这么多为位?
问题解答:
我来补答展开全文阅读