重點
1.皮層神經元很好地近似于一個深度神經元具有?5-8 層的網絡 (DNN)
2.DNN 的深度來自于 NMDA 之間的交互受體和樹突形態
3.樹突分支可以概念化為一組時空模式檢測器
4.提供了一種統一的方法來評估計算任何神經元類型的復雜性
簡要總結
利用機器學習的最新進展，我們引入了一種系統方法來表征神經元的輸入/輸出 (I/O) 映射復雜性。訓練深度神經網絡 (DNN) 以在毫秒（尖峰）分辨率下忠實地復制皮層神經元的各種生物物理模型的 I/O 功能。需要一個具有五到八層的時間卷積 DNN 來捕獲第 5 層皮質錐體細胞 (L5PC) 的真實模型的 I/O 映射。當在訓練分布范圍之外廣泛呈現輸入時，該 DNN 可以很好地泛化。當 NMDA 受體被移除時，一個更簡單的網絡（具有一個隱藏層的完全連接的神經網絡）足以擬合模型。對 DNN 的權重矩陣的分析表明，樹突分支中的突觸整合可以概念化為來自一組時空模板的模式匹配。這項研究提供了單個神經元計算復雜性的統一表征，并表明皮層網絡因此具有獨特的架構，可能支持其計算能力。
第二節?用于集成和激發 (I&F) 神經元的類似 DNN 模型：方法概述和過濾器解釋
我們的目標是通過類似的 DNN 擬合詳細的生物物理神經元模型的 I/O 關系。該 DNN 接收生物物理模型的相同突觸輸入和相應的軸突輸出作為訓練集。通過使用反向傳播學習算法改變 DNN 的連接強度，DNN 應該復制詳細模型的 I/O 轉換。為了適應神經元的時間方面，我們在整個研究中使用了時間卷積網絡 (TCN)。圖 1 說明了這種范式作為第一個示范步驟的可行性和有用性，從一個眾所周知的神經元模型的 I/O 轉換開始：I&F 神經元 (Burkitt, 2006; Lapicque, 1907)。該神經元接收一系列隨機突觸輸入并產生亞閾值電壓響應以及尖峰輸出（參見 STAR 方法）。雖然這種 I/O 轉換看起來很簡單，但尚不清楚它是否可以通過人工神經網絡使用具有緊湊架構的毫秒時間分辨率的反向傳播算法從數據中學習（這在以前確實沒有被證明過）。如果通過 I&F 模型的簡單 DNN 成功地實現了高精度，它將證明我們的方法，包括我們表示神經元 I/O 數據的特定方式以及隨后在這些數據上擬合 DNN，能夠來緊湊地表示 I&F 神經元模型的功能關系。忠實地捕捉這個最基本的單神經元模型的 I/O 屬性的最簡單的 DNN 是什么？
為了回答這個問題，我們構建了一個由一個隱藏層和一個隱藏單元組成的最小“DNN”（圖 1A），并驗證它確實捕捉到了這個簡單神經元模型的復雜性（圖 1F）。時間軸被劃分為 1 ms 的區間，其中 I&F 神經元模型中只能出現單個尖峰。該網絡的目標是根據直到 t0 的先前輸入尖峰序列（時間窗口歷史）預測 I&F 模型在時間 t0 的二進制尖峰輸出。此輸入使用大小為 Nsyn3T 的二進制矩陣表示，其中 Nsyn 是輸入突觸的數量，T 是所考慮的先前時間箱的數量（圖 1B）。我們使用 Nsyn = 100，并在 7,200 秒的模擬數據上訓練了一個具有單個隱藏單元的 DNN。當使用 T = 80 ms 時，我們實現了非常好的擬合，即具有單個隱藏單元的簡單 DNN，可以以毫秒精度準確預測亞閾值電壓動態以及相應 I&F 神經元模型的尖峰輸出（圖 1C ）。
?圖 1D 將各個 DNN 的單個隱藏單元的權重（“過濾器”）描述為熱圖。 它表明學習過程自動產生了兩類權重（過濾器），一類是正面的，一類是負面的，對應于沖擊 I&F 模型的興奮性和抑制性輸入。 與我們對 I&F 模型的理解一致，興奮性輸入對輸出峰值預測有積極貢獻（紅色），而抑制性輸入對輸出峰值預測有負面影響（藍色）。 早期的輸入，無論是抑制性的還是興奮性的，對這一預測的貢獻較小（藍綠色）。 圖 1E 描繪了這些過濾器的時間橫截面，并揭示了一個指數分布，該分布反映了 I&F 模型中突觸后電位的時間衰減（在反向時間方向上）。
從這些過濾器中，可以恢復 I&F 模型的精確膜時間常數。這兩個時間過濾器（興奮性和抑制性）很容易解釋，因為它們與我們之前對突觸輸入的時間行為的理解一致，這會導致 I&F 模型中的輸出尖峰。圖 1F 使用接收器操作特征 (ROC) 曲線（圖 1F，左；參見 STAR 方法）及其下方的面積（曲線下方的面積 [AUC]）量化了峰值預測方面的模型性能。 I&F 案例的 AUC 為 0.9973，表明非常適合。圖 1F（右）顯示了使用 DNN 預測的尖峰時間精度的額外量化，通過繪制預測尖峰序列和目標 I&F 模擬尖峰序列（“地面實況”）之間的互相關。互相關在 0 ms 處顯示一個尖峰，并具有一個短 (10 ms) 的半寬度，表明 DNN 的時間精度很高。我們還使用標準回歸指標量化了 DNN 在預測亞閾值膜電位方面的性能，并且在圖 1G 中，描繪了預測電壓與真實模擬輸出電壓的散點圖。均方根誤差 (RMSE) 為 1.73 mV（解釋了 79.8% 的方差），表明 I&F 與相應的 DNN 之間的擬合良好。
請注意，二進制尖峰預測和連續體細胞電壓的高精度是一種雙重預測嘗試，僅使用一個執行嚴格瓶頸的隱藏單元即可實現。 這僅是由于 I&F 模型案例中輸出尖峰和體電壓之間的強關系才可能實現的。 總之，作為概念證明，我們已經證明了一個非常簡單的 DNN 可以以高度的時間精度學習 I&F 模型的 I/O 轉換。 重要的是，通過學習過程獲得的權重矩陣（濾波器）是可解釋的，因為它代表了 I&F 模型的已知特征，包括存在兩類輸入（興奮性和抑制性），突觸輸入與 代表被動膜特性（電阻、電容）的指數衰減，以及從閾下膜電位到尖峰輸出的轉換。
