卷積核被用于邊緣檢測,也稱作filter。其中卷積核的一個屬性是局部性,即它只關注局部特征,局部的程度取決于卷積核的大小。
在信號處理中,時域卷積對應頻域相乘。此處,原圖像與convolution kernel的卷積,就是對頻域信息進行選擇。比如,圖像中的邊緣和輪廓屬于高頻信息,圖像中某區域強度的綜合考量屬于低配信息。
CNN中的convolution kernel:
cnn的獨特之處:
1. 卷積核中德每個權值可以看成DNN中的w,且與DNN一樣,多一個參數。
2. 一個卷積核在與input不同區域做卷積時,它的參數是固定不變的。就是對同一層layer中的神經元而言,所有神經元的w和b相同,只是所連接的節點在改變。因此在cnn中,這叫做shared weights and biases
3. 在cnn中,卷積核是高維的,比如輸入是m*n*k,那么卷積核是d*d*k,即輸入和卷積核的深度一致。
4. 在cnn中,不需要特意設計卷積核的權值,只需要初始化,再通過GD來優化。初始化格外重要。
5. 通過卷積核后,得到的是原圖的某些特征(如邊緣信息),所以在cnn中,convolution kernel卷積得到的layer稱作feature map.
6. 一般cnn中兩層之間會有多個卷積核,這樣做是為了學習輸入的不同特征值,得到對應的多個feature map.
卷積核后的大小問題:
多少個參數的問題:
總結: