Matlab中数学精度问题
在使用matlab计算比较时,常常出现数值过小近似为0的情况,这种情况是因为matlab的数学精度设置不合理。
format short
默认格式,保留四位小数。
format long
有效数字16位
format long e
有效数字16位加3位指数
format short e
有效数字5位加3位指数
format bank
保留两位小数
format +
只给出正负
format rational
分数形式显示
format hex
16进制显示
format long g
15位有效位数
format short g
5位有效位数