[機器學習入門] 李弘毅機器學習筆記-17(Unsupervised Learning: Deep
Auto-encoder;無監督學習:深度自動編碼器)
VIEDO |
---|
Auto-encoder
什么是-encoder呢?
這里寫圖片描述
NN Encoder & NN Decoder 要一起訓練。
Starting from PCA
這里寫圖片描述
the auto-encoder can be deep
Deep Auto-encoder
這里寫圖片描述
PCA&Deep Auto-encoder 比較,明顯后者效果更好。
這里寫圖片描述
當code為二維時,很明顯看到Deep Auto-encoder使數字手寫識別集分類地更好。
這里寫圖片描述
Auto-encoder – Text Retrieval
這里寫圖片描述
Bag-of-word方法將document用向量表示,每一個詞都是平等的,無法考慮語義。
而Auto-encoder可以考慮語義。
這里寫圖片描述
Auto-encoder – Similar Image Search
這里寫圖片描述
但是這樣并不能得到想要的結果,杰克遜和馬蹄鐵都被聚到一起。。。
這里寫圖片描述
所以,可以用Pre-training DNN。
Auto-encoder for CNN
這里寫圖片描述
CNN -Unpooling
這里寫圖片描述
CNN - Deconvolution
Actually, deconvolution is convolution.
這里寫圖片描述
這里寫圖片描述
這里寫圖片描述