[嗶哩嗶哩視頻地址](http://www.bilibili.com/video/av9559261/)
矩陣和向量的概念
矩陣是指由數字組成的矩陣隊列,并寫在方括號中間,也可以稱為二維數組。矩陣的維度應該寫作矩陣的行數乘以列數。
矩陣中的數字可能是機器學習問題的特征值,也有可能表示其他意識。
矩陣A如下:
1402 191
1321 821
949 1433
147 1448
這是一個4x3的矩陣,如何表示矩陣中某個元素呢
Aij = “i,j entry” in the ithrow, jth column
A11 = 1402
矩陣索引從1開始,非0
這就是矩陣的概念,向量簡單的說就是nx1的矩陣,可以有n多行,但只有1列。
矩陣運算
矩陣的相加就是每個元素相加。
對于這個例子這是一個3行2列的矩陣乘以一個3行2列的矩陣,相加的結果也是3行2列的矩陣,所以你只能將相同維度的矩陣進行相加運算,同時所得到的結果將會是一個新的矩陣,維度也會保持不變。
如果兩個維度不同的矩陣矩陣相加就會出現錯誤,例如一個3x2矩陣加2x2矩陣,結果是error,這兩個矩陣的是沒有意義的。這就是矩陣的加法運算。
接下來,討論矩陣和標量的乘法運算,這里說的標量可能是一個復雜的結構,或者只是一個簡單的數字,或者說實數。
實數乘一個矩陣,就是乘以矩陣的每一個元素。實數乘矩陣等價于矩陣乘以數字。
矩陣除以一個數字可以轉化為矩陣乘以該數字的-1次方。例如矩陣/4 = 矩陣乘1/4
矩陣乘法
我們將從矩陣相乘的特例,向量相乘開始,即一個矩陣與一個向量相乘。
1.矩陣第m行的數字乘以向量,行內每個元素于向量中每個元素相乘,所得乘積相加作為結果向量的第m個元素。
2.矩陣列數必須和向量行數相同。
3.一個m行n列的矩陣乘以一個n維向量,得到的是一個m緯的向量。
假設我有4間房子,面積為
2104
1416
1534
852
還有一個假設函數hypothesis 用于預測房子的價格。
hθ(x) = -40+0.25x;
我需要計算四間房子作為X值的時候,H的大小(既預測的房價),有一個簡單的方法,可以同時計算四間房子的預測價格,利用矩陣向量相乘的思想。
首先根據房屋面積構建一個4x2的矩陣,根據假設函數θ,1的值構建一個向量。
當有了一個最小化假設函數,現在需要預測很多個數據結果,使用矩陣乘法相乘的思想可以提高效率。
矩陣乘法與線性回歸
在線性回歸中用以解決參數計算的問題,這種方法會把θ,1都放在一起計算,而我們不需要一個迭代的梯度下降算法。
矩陣與矩陣相乘會得到一個新的矩陣,m行n列的矩陣乘n行o列的矩陣,得到的是m行o列的矩陣。
A矩陣乘B矩陣,將B矩陣第m列視為一個單獨的向量于A矩陣所乘機得到一個友一維向量,該向量為結果矩陣的第m列
現在有多個假設函數用于預測,可應用矩陣乘法理論快速預測結果。
矩陣乘法的特性
矩陣乘法的運用非常實用,因為你可以通過矩陣乘法,將大量運算打包到一次矩陣的乘法運算中,但是怎樣使用需要提起注意。
1.標量與矩陣相乘,乘法可以交換,也就是遵守實數乘法的交換率。但是不能應用在矩陣乘矩陣中,舉例講:A矩陣乘B矩陣 不等于 B矩陣乘A矩陣,如果A矩陣是mxn,B矩陣是nxm,A乘B的到的是mxm的矩陣,B乘A得到的是nxn的矩陣,因此矩陣乘法不符合交換率。
2.矩陣乘法符合結合律。設有矩陣A,B,C,則AxBxC = Ax(BxC)=(AxB)xC
單位矩陣:
一個特殊的矩陣,對角線都是1,其他都是0的矩陣,滿足任何一個矩陣與其所對應維度的單位矩陣相乘,結果是其本身。
求導