1.引言 為什么要并行 近幾年，依賴大規模標注數據和大量的可學習參數，深度神經網絡才能異軍突起，占得機器學習半壁江山。然而，也是因為這兩點使得深度學習的訓練變得極其困難，尤其...
發簡信
IP屬地：上海
-
GPU卡的底層通信原理 -
閱讀筆記- Spatial DETR: Robust Scalable Transformer-Based 3D Object Detection from Multi-view Camera ...來源：https://markus-enzweiler.de/downloads/publications/ECCV2022-spatial_detr.pdf[https:/...
-
閱讀筆記-Transformer Quality in Linear Time這篇文章的目的是為了解決transformer 處理長序列任務遇到的計算復雜度較高的問題。為了解決這個問題，許多工作聚焦于探索更有效的注意力機制，比如linear atten...
-
閱讀筆記 - The Devil in Linear Transformer來源：https://www.researchgate.net/publication/364419868_The_Devil_in_Linear_Transformer[h...
-
代碼閱讀-deformable DETR （五）
這一篇我們來看一下損失函數的定義。 該類定義前的注釋指出DETR的損失包含兩步： 計算模型輸出和gt之間的二分圖匹配； 對于匹配成功的數據對監督其類別和box 在初始化函數的...
-
SwinTransformer 代碼復現 - 模型搭建
參考swin transformer源碼，我們修改了： 添加了DropPath策略 每一個stage的輸出添加了norm層 每一個PatchMerge層添加了norm層 源碼...
-
閱讀筆記-Swin Transformer: Hierarchical Vision Transformer using Shifted Windows來源： arXiv.21030v1代碼：https:// github.com/microsoft/Swin-Transformer[http://github.com/mi...
-
閱讀筆記-TNT-Transformer in Transformer來源：CVPR2021單位：諾亞方舟、軟件所 我個人真的挺討厭各種夸大宣傳的，有些工作確實有貢獻，但現在的趨勢怎么就成了包裝和宣傳競賽呢。。。 這篇文章宣傳稱致敬Networ...
-
閱讀筆記-Looking beyond two frames: end-to-end multi-object tracking using spatial and temporal trans...來源： arXiv:2103.14829v1 這篇文章的目標是利用transformer實現真正的端到端多目標跟蹤器的訓練，這里的端到端是指給定一段圖像序列，網絡能夠自動的處...
