matlab中的矩阵对角化精度是多少?
我不知道它在后台运行什么样的算法,但它似乎无法处理包含10^-5级元素的矩阵。它最多可以处理16位。类型:matlab中的矩阵对角化精度是多少?,matlab,matrix,precision,Matlab,Matrix,Precision,我不知道它在后台运行什么样的算法,但它似乎无法处理包含10^-5级元素的矩阵。它最多可以处理16位。类型: format long; a = 1.234567890123456; 在MATLAB代码或命令窗口中 小数点后4位是格式短的限制。您能举一个精确的例子吗。
format long;
a = 1.234567890123456;
在MATLAB代码或命令窗口中
小数点后4位是格式短的限制。您能举一个精确的例子吗。