Matlab数据格式问题

问题描述:

Matlab数据格式问题

如图所示,为什么第一次出错,第二次的正确.
1个回答 分类:综合 2014-11-04

问题解答:

我来补答
2e-2/2e-5
ans =
1.0000e+003
>> 2e-2/2.5e-5
ans =
800
因为浮点数运算存在舍入误差
2e-2/2e-5 理论上结果是 1000
但得到的结果实际上不是精确的1000
而是1000加上一个绝对值很小的数,也就是浮点运算的误差
那么结果就不是整数,所以会报错
而2e-2/2.5e-5的计算结果,刚好能够取到理论值800,所以就不报错
用 zeros(round(2e-2/2e-5))先取整一下就好
 
 
展开全文阅读
剩余:2000
上一页:指函数和对函数
下一页:字丑请见谅。