标准偏差计算为什么用EXCEL计算一组相同数值的数据有时不为零,但是按书上公式算一定是零的.直观点说就是说一组相同的数的

问题描述:

标准偏差计算
为什么用EXCEL计算一组相同数值的数据有时不为零,但是按书上公式算一定是零的.
直观点说就是说一组相同的数的标准偏差应该是零的?但是舍去小数位之后不更应该为零吗?
1个回答 分类:综合 2014-10-09

问题解答:

我来补答
浮点算法累积错误,
浮点算法累积错误设置舍入精度
适用于:Microsoft Office Excel 2007
通过在将数字格式应用于数据之前设置“以显示精度为准”选项,您可以时常防止浮点舍入错误影响您的工作.此选项将工作表中的每个数值强制设置为工作表上所显示的精度.
注释 使用“以显示精度为准”选项会产生累积计算影响,使您的数据随着时间的推移越来越不准确.仅在您确定显示精度可以保持数据的精确度时才可以使用此选项.
单击“Office 按钮”,然后单击“Excel 选项”.
单击“高级”,然后在“计算此工作簿时”下选中“将精度设为所显示的精度”复选框,再单击“确定”.
单击“确定”.
在工作表中,选择要设置格式的单元格.
在“开始”选项卡上,单击“数字”旁边的“对话框启动器”.
在“分类”框中,单击“数字”.
在“小数位数”框中,输入您希望显示的小数位数.
提示 为了最大限度地减小浮点算法累积错误的影响,您还可以使用 ROUND 函数将数字舍入到计算要求的小数位数.
 
 
展开全文阅读
剩余:2000
下一页:数学函数值域