發(fā)簡信
IP屬地：臺灣
-
深度學(xué)習(xí)-前向傳播與反向傳播2
不同損失函數(shù)與激活函數(shù)所帶來的訓(xùn)練的不同 ,,，導(dǎo)數(shù) 對比前兩列，最大的不同在,使用交叉熵的模型少乘了一個(gè),而往往是很小的(只在0附近比較大)，...
-
深度學(xué)習(xí)-RNN-循環(huán)神經(jīng)網(wǎng)絡(luò)1，結(jié)構(gòu) 輸入層，它通過一組連接權(quán)重接入狀態(tài)層。變成 隱藏層，它就厲害了。他有兩個(gè)輸入，一是輸入層，二是上一個(gè)自己。再通過激活函數(shù)變成所以，RN...
-
深度學(xué)習(xí)-激活函數(shù)與優(yōu)化器
1，激活函數(shù) 具體激活函數(shù)參見此篇https://www.jiqizhixin.com/articles/2017-10-10-3 激活函數(shù)從圖...
-
NLP-Word Embedding-Attention機(jī)制attention機(jī)制是個(gè)坑。要明白attention機(jī)制，首先要明白seq2seq要明白seq2sql，首先要明白RNN要明白RNN，首先要明...
-
深度學(xué)習(xí)-前向傳播與反向傳播概述 對于全連接的神經(jīng)網(wǎng)絡(luò)(MLP)，其結(jié)構(gòu)看似復(fù)雜， 其實(shí)只是簡單結(jié)構(gòu)的不斷重復(fù)。這里的簡單結(jié)構(gòu)就是sigmoid函數(shù)即LR:對于 有 和 ...
-
推薦系統(tǒng)-重排序-CTR-DCN-CIN-xDeepFM一個(gè)總結(jié)https://www.cnblogs.com/xianbin7/p/10661572.html 特征交叉的 元素級bit-wise V...
-
推薦系統(tǒng)-重排序-CTR-DeepFM等DNN模型概述 關(guān)鍵詞：特征組合LR：缺乏特征組合能力，需人工做特征工程GBDT+LR：特種組合能力不強(qiáng)，對高維的稀疏特征應(yīng)對乏力FM：具有較強(qiáng)的二階特征...
-
推薦系統(tǒng)-重排序-CTR-Wide&Deep模型模型 上圖講得十分清楚：第一層(最下層)黃點(diǎn)和灰點(diǎn)，表示稀疏離散特征。第二層表示對稀疏離散特征embedding后的稠密特征向量。第三層就是深度...
-
推薦系統(tǒng)-重排序-CTR-GBDT+LR概述 GBDT的加入，是為了彌補(bǔ)LR難以實(shí)現(xiàn)特征組合的缺點(diǎn)。 LR LR作為一個(gè)線性模型，以概率形式輸出結(jié)果，在工業(yè)上得到了十分廣泛的應(yīng)用。其具...