大学物理实验 有效数字运算

问题描述:

大学物理实验 有效数字运算
1.68.457+236.51—9.753=?是每步算好就有效数字保留(即答案为295.22);还是先总体看应该两位小数,整个算完再保留(即答案为295.21)?
2.1/4*60.00^2*π+?π是无限不循环小数时怎么算有小数位,书上说保留到结果的后一位什么意思?最后答案为什么?
1个回答 分类:数学 2014-11-10

问题解答:

我来补答
(1)把握一个原则:先进行算数运算,后考虑结果的有效数字.
(2)π的精度视其他因子而定.显然根据因子60.00,本题最终结果应保留4位有效数字,因为π是精确的,因此运算时只要保证其对结果的四位有效数字准确即可,如取3.1415,故本题结果为2827.
再问: 第一题是先全部算完在考虑有效数字喽?
再答: 是的。
 
 
展开全文阅读
剩余:2000