关于伪逆与左逆右逆的关系

wufaxian

我理解的关系如下。当A是列满秩的时候，A的伪逆是A的左逆，当A是行满秩时，A的伪逆是A的右逆。但是矩阵A的左逆不一定是A的伪逆。矩阵A的右逆也不一定是A的伪逆。

因为我发现如下情况：( A\(A^{+}\) )*( A\(A^{+}\) )=( A\(A^{+}\) )  证明过程如下图蓝框内容。这是投影矩阵的特性之一。




但是发现如下现象：\(\left( A^TA\right)A^{T}\) 是A的右逆。可以证明B= \(A\left( A^TA\right)^{-1}A^T\) 是投影矩阵（证明过程见下图）。但是却无法像上图一样通过B*B=B的测试。





-----------------------------------------------2022年7月2日补充更正-------------------------------------------------
事实上:\(\left( A^TA\right)A^{T}\) 是A的右逆。可以证明B= \(A\left( A^TA\right)^{-1}A^T\) 是投影矩阵（证明过程见下图）。可以像上图一样通过B*B=B的测试。matlab代码如下：

1. A=[1 0;1 1;1 2]          % A是列满秩的矩阵，两个列向量张成一个平面
   
2. 
   
3. M=A*inv(A.'*A)*A.'
   
4. M*M
   

复制代码

经过计算，你会发现M=M*M


引出一个新的问题，老师说伪逆在统计学上的一个重要应用就是在A是列满秩的条件下，\(AA^{+ }\)  可以得到在A列空间的投影，即\(AA^{+ }\) b  , 可以得到b在A列空间的投影，\(A^+b\) 则是 不可能方程Ax=b 的最小二乘解\(\hat{x}\)   求\(A^{+}\) 的过程则涉及到求A的SVD。计算量很大。如果仅讨论伪逆在A列满秩的情况下 对A列空间的投影问题。为什么不绕过SVD求解。直接采用以下方法。

即 在A是列满秩的前提下，仅用转置、求逆等简单概念就可以得到最小二乘解，以及b在A列空间的投影向量。而不用引用SVD，绕路来求伪逆了

\(\hat{x}=\left( A^TA\right)^{-1}A^Tb\)得到最小二乘解\(\hat{ x}\)

\(A\left( A^TA\right)^{-1}A^Tb\)得到b在A列空间的投影P

是因为在某些情况下伪逆求投影有更加明显的优势么？

wufaxian

内容已经更新了