54题,float不是只能有六位有效数字吗,选项怎么是七位有效数字

问题描述:

54题,float不是只能有六位有效数字吗,选项怎么是七位有效数字
 
1个回答 分类:综合 2014-10-01

问题解答:

我来补答
记住float是保留6~7位有效数字,在显示时总是输出到小数点后六位,但是这六位并不代表全是有效的.比如a=1234567.81输出的结果可能是1234567.020000.懂了吧
%f输出格式的确是以6位小数输出的.
但是计算机存储小数,则存在有效数字这一说,7位有效数字指的是只能保证7位的有效数字,如果输入的有效数字多于7位,则不保证之后的位的数字的准确性.当然,你输入的数能保证了准确性.
如果输入的数据多余七位有效数字,就会出错.比如1234567.8,输出后则会出现小数部分不正确.
再问: 就是说float输出的话就一定会输出到小数点后六位,但如果从整数部分算起,如果超过了六位有效数字后的数字就不一定准确对吧?
再答: 嗯,是的
再问: 好的,谢谢了
 
 
展开全文阅读
剩余:2000
下一页:fx的解析式