矩陣范數(shù)

定義

一個在m×n的矩陣上的矩陣范數(shù)(matrix norm)是一個從m×n線性空間到實(shí)數(shù)域上的一個函數(shù)，記為||●||，它對于任意的m×n矩陣A和B及所有實(shí)數(shù)a，滿足以下四條性質(zhì)：

||A||>=0;

||A||=0 iff A=O （零矩陣）; （1和2可統(tǒng)稱為正定性）

||aA||=|a| ||A||; （齊次性,a是常數(shù)）

||A+B||<= ||A|| + ||B||. （三角不等式）

注：在矩陣相關(guān)概念中，模、范數(shù)、距離三者相等。

Frobenius范數(shù)

簡記：可看成矩陣的所有元素的平方相加求和后開方。

向量范數(shù)

1-范數(shù)

簡記：所有列向量的模的和。

2-范數(shù)

簡記：所有列向量的模的平方求和后再開方。

∞-范數(shù)

簡記：所有列向量的模當(dāng)中的最大值。

偽逆矩陣

奇異矩陣的逆矩陣就是偽逆矩陣。
存在一個唯一的矩陣M使得下面三個條件同時成立：
(1)AMA=A;
(2)MAM=M;
(3)AM與MA 均為對稱矩陣。
這樣的矩陣M成為矩陣A的Moore-Penrose廣義逆矩陣，記作

偽逆矩陣的求解：

① 直接求解：
求導(dǎo)，令導(dǎo)數(shù)為0，結(jié)果如下: InvA=(ATA)-1AT
% 直接求偽逆
InvA = inv(A'A)A';

② SVD求解:
%% SVD分解求偽逆
% 原理和公式：1. SVD分解得到的矩陣:U和V是正交陣，S是對角陣
% 2. 正交陣的逆=轉(zhuǎn)置
% 3. 對角陣的逆=非零元素求倒
% Step1: 求解A的SVD分解
[U,S,V] = svd(A); % A = USV'
% Step2: 將S中的非零元素求倒
T=S;
T(find(S~=0)) = 1./S(find(S~=0));
% Step3: 求invA
svdInvA = V * T' * U';

③ QR求解:
%% QR分解求偽逆
% 適用于稀疏矩陣
% 原理和公式：1. QR分解得到的矩陣:Q是正交陣，R是非奇異上三角陣
% 2. 正交陣的逆=轉(zhuǎn)置
% 3. 上（下）三角矩陣的逆也仍然是上（下）三角矩陣。不必用高斯消去法，向前替換法解方程。
%這里使用了matlab的函數(shù)。
[Q,R] = qr(A);
InvR = inv(R'R)R';
qrInvA =InvR*Q';

對函數(shù)矩陣求微分