轉置卷積的理解

轉置卷積(Transposed convolution)用在什么地方？

  1. 轉置卷積在圖像的語義分割領域應用很廣，如果說pooling層用于特征降維，那么在多個polling層后，就需要用轉置卷積來進行分辨率的恢復。
  2. 比方說在全卷積神經網絡中，up-sampling采用雙線性插值進行分辨率的提升，而這種提升是非學習的，采用解卷積來完成上采樣的工作，就可以通過學習的方式得到更高的精度。

轉置卷積（解卷積）為什么叫“轉置”？

對于下圖，卷積核C可以表示為：

圖片.png

\left( {\begin{array}{*{20}c} {\begin{array}{*{20}c} {w_{0,0} } & {w_{0,1} } & {w_{0,2} } & {\begin{array}{*{20}c} 0 & {w_{1,0} } & {w_{1,1} } & {\begin{array}{*{20}c} {w_{1,2} } & 0 & {w_{2,0} } & {\begin{array}{*{20}c} {w_{2,1} } & {w_{2,2} } & {\begin{array}{*{20}c} 0 & 0 & 0 & {\begin{array}{*{20}c} 0 & 0 \\ \end{array}} \\ \end{array}} \\ \end{array}} \\ \end{array}} \\ \end{array}} \\ \end{array}} \\ {\begin{array}{*{20}c} {\begin{array}{*{20}c} {\begin{array}{*{20}c} {\begin{array}{*{20}c} 0 & {w_{0,0} } & {w_{0,1} } \\ \end{array}} & {w_{0,2} } & 0 & {w_{1,0} } \\ \end{array}} & {w_{1,1} } & {w_{1,2} } & 0 \\ \end{array}} & {w_{2,0} } & {w_{2,1} } & {\begin{array}{*{20}c} {\begin{array}{*{20}c} {w_{2,2} } & 0 \\ \end{array}} & 0 & 0 & 0 \\ \end{array}} \\ \end{array}} \\ {\begin{array}{*{20}c} 0 & 0 & {\begin{array}{*{20}c} {\begin{array}{*{20}c} 0 & 0 & {w_{0,0} } & {w_{0,1} } \\ \end{array}} & {w_{0,2} } & 0 & {w_{1,0} } \\ \end{array}} & {\begin{array}{*{20}c} {w_{1,1} } & {w_{1,2} } & {\begin{array}{*{20}c} {\begin{array}{*{20}c} 0 & {w_{2,0} } \\ \end{array}} & {w_{2,1} } & {w_{2,2} } & 0 \\ \end{array}} \\ \end{array}} \\ \end{array}} \\ {\begin{array}{*{20}c} 0 & 0 & {\begin{array}{*{20}c} {\begin{array}{*{20}c} {\begin{array}{*{20}c} 0 & 0 & 0 \\ \end{array}} & {w_{0,0} } & {w_{0,1} } & {w_{0,2} } \\ \end{array}} & 0 & {w_{1,0} } & {\begin{array}{*{20}c} {\begin{array}{*{20}c} {w_{1,1} } & {w_{1,2} } \\ \end{array}} & 0 & {w_{2,0} } & {w_{2,1} } \\ \end{array}} \\ \end{array}} & {w_{2,2} } \\ \end{array}} \\ \end{array}} \right)

  • 第一，把輸入的16個維度展開成為一個16維的列向量X；
  • 第二，卷積的過程可以表示為CX=Y ，最終得到一個4維的向量；
  • 第三，再把這個4維的向量變成2\times2的矩陣，得到最終的結果。

所以，如果已經知道Y反過來想求X,
X = C^T Y
所以，才有了"轉置"這種稱呼。

轉置卷積的缺點

  1. 從上文中可以看到，卷積矩陣是稀疏的，因此大量的信息是無用的；
  2. 求卷積矩陣的轉置矩陣是非常耗費計算資源的。
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
平臺聲明：文章內容（如有圖片或視頻亦包括在內）由作者上傳并發(fā)布，文章內容僅代表作者本人觀點，簡書系信息發(fā)布平臺，僅提供信息存儲服務。

推薦閱讀更多精彩內容