發簡信
IP屬地：四川
-
Tensor張量的操作
torch.linspace(1, 16, 16).view(4, 4)mask = torch.gt(a, 8)a = torch.tenso...
-
__init__.py基本原理 __init__.py文件的主要作用有： 標識包：告訴Python解釋器這個目錄應該被視為一個Python包。 初始化代碼：可以在這個...
-
markdown常用速查
一、如何顯示# * ＞等符號？1、加" \ "轉義:比如要寫__name__就需要寫成"\_\_name__"2、可以使用反引號" ` "包裹需...
-
__name__=='__main__'
每個py腳本都有自己的名字，姑且起一個叫“code_ex1.py”, python會給每個腳本自動賦予一個全局變量，包括__name__，如果在...
-
模型壓縮和加速——參數共享（Parameter Sharing）及其pytorch實現
一、參數共享含義 參數共享（Parameter Sharing）是模型壓縮與加速中的一種重要技術。通過參數共享，多個神經元或層可以共享相同的權重...
-
模型壓縮和加速——參數量化（Parameter Quantization）及其pytorch實現
參數量化（Parameter Quantization）是一種有效的模型壓縮技術，通過減少模型參數的位寬（例如從32位浮點數減少到8位整數）來減...
-
模型壓縮和加速——低秩分解（Low-rank Decomposition）及其pytorch實現
一、低秩分解的含義 低秩分解本質是一種矩陣分解技術，旨在將一個矩陣分解為兩個或多個矩陣的乘積，從而將高維數據壓縮為低維表示，以減少參數量。在大模...
-
模型壓縮和加速——知識蒸餾（Knowledge Distillation）及pytorch實現一、知識蒸餾的含義 知識蒸餾（Knowledge Distillation）是一種用于模型壓縮和遷移學習的技術，通過將一個復雜模型（稱為教師模型...
-
模型壓縮和加速——網絡剪枝（Network Pruning）及其pytorch實現
一、網絡剪枝的步驟 神經網絡中的一些權重和神經元是可以被剪枝的，這是因為這些權重可能為零或者神經元的輸出大多數時候為零，表明這些權重或神經元是冗...