[第29集] 相似矩阵和若尔当形

根据网易公开课之MIT线性代数视频所做的笔记—[第29集] 相似矩阵和若尔当形。

—————————————————————————————

    视频地址：http://v.163.com/special/opencourse/daishu.html

—————————————————————————————

这节课的内容：

相似矩阵的相关定义；

正定矩阵扩展知识。

1，正定矩阵知识扩展

正定矩阵的来源：最小二乘法

大量的物理问题需要用长方形矩阵描述，而最小二乘法的关键在于矩阵A^TA.

如果A正定，B正定，A+B正定吗？

证明：

已知：x^TAx>0, x^TBx>0

两边相加=> x^T(A+B)x>0

因此，A+B也是正定矩阵.

 

A是m by n长方形矩阵，对于 A^TA 必定是方阵，对称阵，证明其为正定矩阵？

结果为向量长度的平方，非负数，当且仅当为0向量的时候才为0.当矩阵的秩大于0时，即各列线性无关，A就不会是0向量，A^TA正定 。

如果A^TA 正定，最小二乘方程将存在最优解；

A^TA 为正定矩阵，计算时不需要进行“行交换”，也不必担心主元过小或者等于0.

到现在，才“coming close to the end of the heart of linear algebra”！悲伤~~

 

2，相似矩阵

A和B是相似矩阵，表示两个矩阵之间存在一种联系，某个可逆矩阵M使得矩阵B可以表示为另一矩阵A右乘矩阵M以及左乘矩阵M逆。

B = M^(-1)AM

这一组合有何意义？

例题：

假设A具有无关的特征向量，也就是存在特征向量矩阵S。通过特征向量矩阵S和S的逆，可以从A生成一个最为简洁的对角矩阵Λ。

这就成为矩阵A相似于矩阵Λ。A相似于Λ是因为存在特征矩阵S使等式成立。

回到原来的问题，如果存在特殊的矩阵M，使组合成立，此时B不一定是对角矩阵，但是也称B相似于A。即，任意两个互为相似的矩阵，它们之间都存在一定的关系，存在特殊的矩阵M。而对角阵，是这一类矩阵里面最简洁的一个。

例题：

不得不说，教授的计算速度太快了！

先是求特征矩阵Λ，两个特征值和为A的主对角线元素的和4，特征值积为A的行列式的值（2*2-1*1=3），所以特征值为3，1；

再验证求得的B的特征值，也是3，1.

相似矩阵具有同样的特征值！！

WHY？

只要特征值相同的矩阵都是相似矩阵。

令M^(-1)x = y，可以很容易看出λ是B的一个特征值，又因为λ是A的特征值，则A、B特征值相同。但是A、B特征向量不同，B的特征向量等于M的逆乘以矩阵A的特征向量。

 

3，λ1 = λ2

当两个特征值完全相等时，特征向量可能不再是线性无关的，从而造成矩阵可能无法对角化。

这种情况可以分为两类：

第一种情况只能得到 λ1 I 的结果。

第二种情况称作Jordan form。Jordan form永远不能完全对角化。

Jordan标准型：几乎是对角矩阵，除了主对角线和对角线上方外，其余系数都是零。

这一类矩阵都相似，但是跟第一种情况永远不会相似，因为对任意M，相乘的结果只有λ1 I。

因此，相似的定义判断需要加上：

特征向量的数目要相等。

例题：

两个矩阵并不相似，第一个矩阵由3X3分块和1X1分块构成；第二个矩阵由2X2分块和2X2分块构成。这些分块成为Jordan块。

 

Jordan block定义：

Ji表示i阶的Jordan块，它只有一个重复的特征值。对角线上全是λi下面是0，上面是1，它的对角线上都是同一个数，只有一个特征向量。所以每个Jordan块只有一个特征向量。因为分块不同，Jordan判断两个矩阵并不相似。

Jordan定理：

每个方阵A都相似于一个Jordan阵J，就是由Jordan块构成的矩阵。特征值位于对角线上，对角线上方还有若干个1。Jordan块的数量就是特征值的数量，因为每一个块对应于一个特征向量。特别的，如果矩阵A的特征值各不相同，则A是一个可对角化的矩阵，这时候Jordan阵就是对角阵Λ。