深度神經網絡已經是橫行于視覺以及自然語言處理領域，但是為什么在表格數據上卻表現平平呢， 這篇論文——啊 摘要的第一個單詞就看不懂，Heterogeneous 異質性。說白了...
發簡信
IP屬地：重慶
-
Deep Neural Networks and Tabular Data: A Survey 深度神經網絡與表格數據：綜述 2022-04-18 -
Masked Autoencoders Are Scalable Vision Learners 2021-11-13ViT作為Backbone, 用類似BERT的方式進行自監督預訓練，通過隨機遮蓋大部分patch讓encoder更好地“理解”圖片。 重點以及和BEIT的區別 其實把BERT...
-
【Kaggle日記】呼吸機壓力預測 2021-11-09谷歌呼吸機壓力預測比賽[https://www.kaggle.com/c/ventilator-pressure-prediction/overview]參考：數據探索[ht...
-
GBDT 實用向指南，特征工程以及調參 2021-05-02Gradient Boosting Decision Trees 是把1999年的 Gradient Boosting Machine[https://statweb.sta...
-
METRO 掩碼頂點模型人體Mesh重建 2021-07-02視頻版：https://www.bilibili.com/video/BV15B4y1T7Q7[https://www.bilibili.com/video/BV15B4y1...
-
MLP-Mixer, FNet 2021-05-29視覺任務一直是以CNN為主流，2020年出現了基于NLP領域Transformer的模型Vision Transformer，用自注意力機制來替換CNN，而同一團隊今年發表了...
-
RepVGG 結構重參數化 2021-05-17https://arxiv.org/pdf/2101.03697.pdf[https://arxiv.org/pdf/2101.03697.pdf] 今年三月份發布這項工作叫...
-
ViT 對比 swin Transformer 2021-05-18ViT AN IMAGE IS WORTH 16X16 WORDS:TRANSFORMERS FOR IMAGE RECOGNITION AT SCALEhttps://ar...
-
Contrastive Learning, MoCo 對比學習 2021-05-09深度神經網絡有著強大的表征能力一張輸入圖片經過層層變換表達為一個特征向量如果是監督學習，特征的預測結果可以和標簽比對作為損失函數；那如果是無監督學習，沒有label,損失函數...
-
NFNet, 理解BN然后拋棄它 2021-05-15https://arxiv.org/pdf/2102.06171.pdf[https://arxiv.org/pdf/2102.06171.pdf]NFNet這篇論文的內容很...
-
Efficient NetV1V2，MnasNet， 2021-05-13這篇論文探索了卷積神經網路模型在三個維度上的縮放對精度的影響，分別是深度（層數），寬度（通道數）以及分辨率（特征圖的寬度和高度）。 它的主要貢獻就是提出了一種在增加參數量時平...
-
頻率學派 極大似然估計MLE，貝葉斯學派 最大后驗估計MAP 2021-05-11MLE和MAP，如何從數據樣本估計參數？ 其實機器學習包括深度學習的模型都是在學習數據的分布。那么如何根據已有數據，估計影響數據的概率分布的參數（比如均勻分布的最大最小值，正...
-
HRNet/ Lite-HRNet 2021-03-29時間終于來到了2020年！今天來讀一讀這一篇還蠻有新意的高分辨率神經網絡。之前講過的 AlexNet， VGGNet， GoogleNet， ResNet， 他們都和LeNe...
-
你好，最近正在趕論文生死關頭也沒有時間，問問別人看？祝好運！
Inception 系列 2021-03-22
對Inception系列的三篇論文，5個模型進行一個淺顯的總結對比。來看看系列之首的第一個參考文獻——we need to go deeper， 這在這個系列中有兩個意思，從...
-
DenseNet 特征復用 2021-03-222018 https://arxiv.org/pdf/1608.06993.pdf[https://arxiv.org/pdf/1608.06993.pdf]參考博客：ht...
-
Inception 系列 2021-03-22對Inception系列的三篇論文，5個模型進行一個淺顯的總結對比。來看看系列之首的第一個參考文獻——we need to go deeper， 這在這個系列中有兩個意思，從...
-
模型退化 2021-03-23寫一寫我理解的模型退化 矩陣退化 首先來回顧一點線性代數中退化矩陣的知識，退化這個概念應該是類似線性代數中的退化矩陣，也叫奇異矩陣，特點是行列式為0，也就是說矩陣內* 存在線...
-
ResNet 系列 殘差連接 2021-03-05殘差連接是什么 雖然普遍認為神經網絡模型越深，擬合能力越好，但是由于梯度消失/爆炸等問題，在深度到達了一定程度后, 模型的表現會不升反降。2015年的ResNet是針對模型退...