深度人工神經網絡模擬單個皮層神經元1

重點

1.皮層神經元很好地近似于一個深度神經元具有 5-8 層的網絡 (DNN)

2.DNN 的深度來自于 NMDA 之間的交互受體和樹突形態

3.樹突分支可以概念化為一組時空模式檢測器

4.提供了一種統一的方法來評估計算任何神經元類型的復雜性

簡要總結

利用機器學習的最新進展,我們引入了一種系統方法來表征神經元的輸入/輸出 (I/O) 映射復雜性。訓練深度神經網絡 (DNN) 以在毫秒(尖峰)分辨率下忠實地復制皮層神經元的各種生物物理模型的 I/O 功能。需要一個具有五到八層的時間卷積 DNN 來捕獲第 5 層皮質錐體細胞 (L5PC) 的真實模型的 I/O 映射。當在訓練分布范圍之外廣泛呈現輸入時,該 DNN 可以很好地泛化。當 NMDA 受體被移除時,一個更簡單的網絡(具有一個隱藏層的完全連接的神經網絡)足以擬合模型。對 DNN 的權重矩陣的分析表明,樹突分支中的突觸整合可以概念化為來自一組時空模板的模式匹配。這項研究提供了單個神經元計算復雜性的統一表征,并表明皮層網絡因此具有獨特的架構,可能支持其計算能力。


第一節

神經元是大腦的計算構建塊。因此,自 Ramon y Cajal 的“神經元學說”以來,了解它們的輸入/輸出 (I/O) 轉換一直是神經科學的一項主要任務。隨著最近復雜的遺傳、光學和電學技術的發展,很明顯,許多關鍵神經元類型(例如,皮質和海馬錐體神經元、小腦浦肯野細胞)是高度復雜的 I/O 信息處理設備。它們通過精心設計的樹突分支接收到成千上萬的突觸輸入;這些輸入與大量的局部非線性再生過程相互作用,包括反向傳播(Na+ 依賴性)動作電位(Stuart 和 Sakmann,1994)、多個局部樹突狀 NMDA 依賴性尖峰(Schiller 等人,2000;Polsky 等人) al., 2004; Branco et al., 2010; Kastellakis et al., 2015),以及第 5 層 (L5) 皮質錐體神經元頂端樹突處的大而長的 Ca2+ 尖峰(Schiller et al., 1997; Larkum 等人)等人,1999)。

輸入突觸與這些局部非線性樹突特性相互作用,最終在神經元的軸突中產生一系列輸出尖峰,攜帶通過突觸傳遞給數千個其他(突觸后)神經元的信息。事實上,由于其固有的非線性機制,神經元可以實現高度復雜的 I/O 功能(Bar-Ilan 等人,2013;Behabadi 和 Mel,2014;Caze′ 等人,2013;Doron 等人,2017 ;Hausser 和 Mel,2003 歐元;Hawkins 和 Ahmad,2016;Katz 等人,2009;Koch 和 Segev,2014;Koch 等人,1982;London 和 Hausser,2005;Mel,1992;Moldwin 和 Segev,2018; Poirazi 等人,2003b,2003a;Shepherd 等人,1985;Tzilivaki 等人,2019;Zador 等人,1991;參見 Gidon 等人最近關于人類皮層神經元非線性樹突計算的工作,2020)。研究神經元 I/O 關系的經典方法是構建一個簡化模型,省略了它們的許多詳細生物學機制。這些模型對神經元的 I/O 特征進行了高度簡化的現象學抽象(Lapicque,1907;McCulloch 和 Pitts,1943)。

一種這樣的抽象是“感知器”(Rosenblatt,1958),它是迄今為止一些最先進的模式識別技術的核心(LeCun 等人,2015)。然而,感知器的基本功能,即其輸入的線性求和和輸出生成的閾值,忽略了非線性突觸整合過程和輸出的時間特性,這些過程發生在真實的神經元中。最近的一些建模研究已經解決了這一差距(Gutig 和 Sompolinsky,2006;Poirazi 等人,2003a;Polsky 等人,2004;Ujfalussy 等人,2018),但要么沒有考慮完全多樣化的突觸輸入分布在整個非線性樹突樹或不旨在以輸出尖峰的毫秒時間精度捕獲神經元的 I/O 轉換。 Jolivet 等人嘗試預測神經元響應體細胞輸入電流/電導而不是樹突突觸輸入的尖峰活動。 (2008 年)和 Naud 等人。 (2014),并嘗試預測神經元響應自然圖像的尖峰活動可以在 Cadena 等人中找到。 (2019)和濟慈等人。 (2001 年)。研究神經元 I/O 特性的另一種常用方法是通過一組偏微分方程,使用 Rall 引入的電纜和隔室建模方法來模擬神經元的精細電學和解剖學細節(Rall,1959,1964;塞格夫和拉爾,1988 年)。使用這些模型,可以解釋幾乎所有上述實驗現象并探索當前實驗技術無法獲得的條件。雖然這是迄今為止解釋神經元中完整 I/O 轉換的唯一方法,但這種成功是有代價的。隔室模型和電纜模型由耦合非線性微分方程的高維系統組成,眾所周知,這很難理解(Strogatz,2001)。具體來說,從如此詳細的模擬中提取控制數千個突觸輸入轉換為以毫秒精度的脈沖輸出序列的一般原則是一項艱巨的任務(但請參見 Amsalem 等人,2020;Larkum 等人,2009; Magee 和 Johnston,1995;Rapp 等人,1992;Schiller 等人,2000;Spruston 等人,1995;Stuart 和 Sakmann,1994;Stuart 等人,1997;Wybo 等人,2021)。

在這里,我們提出了一種利用機器學習領域的最新進展來研究神經元作為復雜 I/O 信息處理單元的新方法。具體來說,在這種情況下,我們利用深度神經網絡 (DNN) 的能力來學習非常復雜的 I/O 映射,即神經元的映射。為此,我們訓練了具有豐富的空間和時間突觸輸入模式的 DNN,以模仿具有完全復雜性的 L5 皮質錐體神經元模型的 I/O 行為,包括其精細的樹突形態、高度非線性的局部樹突膜特性和轟炸神經元的大量興奮性和抑制性輸入。因此,我們獲得了一個計算效率很高的 DNN 模型,該模型忠實地預測了該神經元在毫秒(尖峰)時間分辨率下的輸出。然后,我們分析了 DNN 的權重矩陣,以深入了解塑造皮層神經元 I/O 功能的機制。通過系統地改變 DNN 大小,這種方法使我們能夠表征單個生物神經元的功能復雜性,確定這種復雜性的基于離子通道和形態學的起源,并檢查所得 DNN 對突觸輸入的普遍性不在訓練集分布范圍內。我們證明了皮質錐體神經元及其形成的網絡在計算上可能比以前假設的更強大和“更深”。



?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,362評論 6 544
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,577評論 3 429
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,486評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,852評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,600評論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,944評論 1 328
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,944評論 3 447
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 43,108評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,652評論 1 336
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,385評論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,616評論 1 374
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,111評論 5 364
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,798評論 3 350
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,205評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,537評論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,334評論 3 400
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,570評論 2 379

推薦閱讀更多精彩內容