神經電子學讓計算機晶片更智慧

受人類神經元啟發的計算機晶片可以用更少的功耗做更多的事情

誇貝納·博阿亨在1982年獲得了他的第一臺電腦,當時他還是個住在阿克拉的青少年。“那真是一個很酷的裝置,”他回憶道。他只需要連線一個盒式播放器用於儲存,一臺電視機用於顯示器,就可以開始編寫程式了。

但當博阿亨發現他的電腦內部是如何工作的時候,他並沒有那麼印象深刻。“我瞭解到中央處理器不斷地來回傳輸資料。我當時想,‘天哪!它真的要像瘋了一樣工作!’”他本能地感覺到,計算機的設計需要更多“非洲”元素,“更分散、更流暢、更少僵化”。

今天,作為加利福尼亞州斯坦福大學的生物工程師,博阿亨是少數試圖透過逆向工程大腦來創造這種計算方式的研究人員之一。


支援科學新聞報道

如果您喜歡這篇文章,請考慮透過以下方式支援我們屢獲殊榮的新聞報道: 訂閱。透過購買訂閱,您正在幫助確保未來能夠繼續講述關於塑造我們當今世界的發現和想法的具有影響力的故事。


大腦非常節能,並且可以執行挑戰世界最大型超級計算機的計算,即使它依賴於明顯不完美的元件:神經元是緩慢、可變、有機的混亂集合。理解語言、進行抽象推理、控制運動——大腦完成所有這些以及更多的事情,而其體積比鞋盒還小,功耗比家用燈泡還低,並且不包含任何類似於中央處理器的東西。

為了在矽晶片中實現類似的壯舉,研究人員正在構建非數字晶片系統,使其儘可能像真實神經元網路一樣工作。就在幾年前,博阿亨完成了一個名為 Neurogrid 的裝置,它可以模擬一百萬個神經元——大約相當於蜜蜂大腦中的神經元數量。現在,經過四分之一世紀的開發,“神經形態技術”的應用終於在望。該技術有望應用於任何需要體積小、功耗低的應用,從智慧手機和機器人到人工眼睛和耳朵。這一前景吸引了許多研究人員在過去五年中進入該領域,並獲得了來自美國和歐洲機構的數億美元研究資金。

蘇黎世神經資訊學研究所 (INI) 的 Giacomo Indiveri 表示,神經形態裝置也為神經科學家提供了強大的研究工具。他說,透過觀察神經功能模型在真實物理系統中是否按預期工作,“你可以深入瞭解大腦為何以這種方式構建”。

博阿亨說,神經形態方法應該有助於規避摩爾定律——計算機晶片製造商設法每兩年左右將給定空間內可容納的電晶體數量增加一倍的長期趨勢——即將到來的限制。這種無情的縮小很快將導致矽電路變得如此微小和緊密,以至於它們不再產生乾淨的訊號:電子將洩漏透過元件,使它們像神經元一樣混亂。一些研究人員正致力於透過軟體修復來解決這個問題,例如,透過使用類似於幫助網際網路平穩執行的統計糾錯技術。但博阿亨認為,最終最有效的解決方案與大腦數百萬年前得出的解決方案相同。

“我的目標是一種新的計算正規化,”博阿亨說,“即使元件太小而無法可靠,它也能進行計算。”

矽細胞
神經形態的想法可以追溯到 20 世紀 80 年代和卡弗·米德:加州理工學院帕薩迪納分校一位世界知名的微晶片設計先驅。他創造了這個術語,並且是最早強調大腦巨大節能優勢的人之一。“這對我來說一直很著迷,”他說,“大腦到底是如何做到它所做的事情的?”

米德回答這個問題策略是用“亞閾值”矽來模仿大腦的低功耗處理:電路在電壓太小而無法將標準計算機位從 0 翻轉到 1 的情況下執行。在這些電壓下,仍然有微小的、不規則的電子涓流流過電晶體——電流的自發漲落,其大小和可變性與離子流過神經元通道所攜帶的電流非常相似。米德認為,透過新增微小的電容器、電阻器和其他元件來控制這些電流,應該有可能製造出表現出與真實神經元相同電學行為的微小電路。它們可以連線到分散的網路中,這些網路的功能很像大腦中的真實神經迴路,通訊線路在元件之間執行,而不是透過中央處理器。


到 20 世紀 90 年代,米德和他的同事已經證明,構建逼真的矽神經元是可能的(參見“生物學靈感”)。該裝置可以透過執行突觸作用的連線點接受外部電輸入,突觸是神經衝動從一個神經元跳到下一個神經元的微小結構。它允許傳入訊號在電路內部積累電壓,就像它們在真實神經元中所做的那樣。如果積累的電壓超過某個閾值,矽神經元就會“放電”,產生一系列電壓尖峰,這些尖峰沿著一根導線傳播,扮演著軸突的角色,即神經元的通訊電纜。雖然這些尖峰在某種意義上是“數字的”,因為它們要麼是“開”要麼是“關”,但矽神經元的主體——像真實神經元一樣——以非數字方式執行,這意味著電壓和電流不像傳統晶片那樣被限制在少數離散值。

這種行為模仿了大腦低功耗使用的一個關鍵:就像它們的生物對應物一樣,矽神經元只是簡單地整合輸入,使用非常少的能量,直到它們放電。相比之下,傳統計算機需要持續的能量流來執行內部時鐘,無論晶片是否在進行任何計算。

米德的小組還展示了分散的神經迴路——最著名的是矽版本的眼睛視網膜。該裝置使用 50x50 的探測器網格捕捉光線。當它們的活動顯示在計算機螢幕上時,這些矽細胞顯示出與真實對應物對光、陰影和運動大致相同的反應。與大腦一樣,該裝置透過僅傳送重要資料來節省能量:視網膜中的大多數細胞在光照水平發生變化之前不會放電。這具有突出移動物體邊緣的效果,同時最大限度地減少了必須傳輸和處理的資料量。

編碼挑戰
博阿亨在 1990 年加入了米德的實驗室,他說,在早期,研究人員忙於掌握諸如矽視網膜等單晶片裝置。但他說,到 20 世紀 90 年代末,“我們想構建一個大腦,為此我們需要大規模通訊”。這是一個巨大的挑戰:晶片到晶片通訊的標準編碼演算法是為精確協調的數字訊號設計的,並且不適用於神經形態系統產生的更隨機的尖峰。直到 21 世紀 00 年代,博阿亨和其他人設計了可以在這種更混亂的系統中工作的電路和演算法,為大規模神經形態系統的蓬勃發展開闢了道路。

最早的應用之一是大型模擬器,為神經科學家提供了一種測試大腦功能模型的簡便方法。例如,在 2006 年 9 月,博阿亨啟動了 Neurogrid 專案:一項模擬一百萬個神經元的努力。這只是人類大腦中 860 億個神經元中的一小部分,但足以模擬幾個被認為構成人類皮層計算單元的密集互連的神經元柱。博阿亨說,神經科學家可以對 Neurogrid 進行程式設計,以模擬幾乎任何皮層模型。然後,他們可以觀察他們的模型以與大腦相同的速度執行——比傳統的數字模擬快數百到數千倍。研究生和研究人員已經使用它來測試工作記憶、決策和視覺注意力等過程的神經功能理論模型。

INI 聯合創始人兼矽神經元共同開發者羅德尼·道格拉斯說:“就真正的效率而言,就對大腦神經元網路的忠實度而言,誇貝納的 Neurogrid 遠遠領先於其他大型神經形態系統。”

但是,正如博阿亨自己很快指出的那樣,沒有哪個系統是完美的。Neurogrid 最大的缺點之一是它的突觸——每個神經元平均有 5,000 個突觸——是簡化的連線,無法單獨修改。這意味著該系統不能用於模擬學習,學習發生在大腦中,當突觸被經驗修改時。考慮到晶片上可用的有限空間,擠入使每個突觸以更逼真的方式表現所需的複雜電路,將需要比目前面積小約一千倍的電路元件——在奈米技術的領域。這目前是不可能的,儘管一種新開發的稱為“憶阻器”的奈米級儲存器件有一天可能會解決這個問題。

另一個問題源於製造過程中不可避免的變化,這意味著每個神經形態晶片的效能略有不同。“這種可變性仍然遠小於在大腦中觀察到的可變性,”博阿亨說——但這確實意味著 Neurogrid 的程式必須允許矽神經元的放電率存在顯著變化。

這個問題導致一些研究人員放棄了米德最初使用亞閾值晶片的想法。相反,他們正在使用更傳統的數字系統,這些系統在模仿單個神經元的電學行為的意義上仍然是神經形態的,但更可預測且更容易程式設計——但代價是使用更多功率。

一個主要的例子是 SpiNNaker 專案,該專案自 2005 年以來由英國曼徹斯特大學的計算機工程師史蒂夫·弗伯領導。該系統使用了一種超低功耗數字晶片版本——弗伯幫助開發了這種晶片——這種晶片在許多智慧手機中都可以找到。SpiNNaker 目前可以模擬多達 500 萬個神經元。弗伯說,這些神經元比 Neurogrid 中的神經元更簡單,並且消耗更多功率,但該系統的目的是相似的:“在生物學即時中執行大型大腦模型”。

另一項努力堅持使用類似神經元的晶片,但提高了它們的速度。Neurogrid 的神經元以與真實神經元完全相同的速率執行。但是由德國海德堡大學前加速器物理學家卡爾海因茨·邁爾領導的歐洲 BrainScaleS 專案正在開發一種神經形態系統,該系統目前可以模擬 40 萬個神經元,其執行速度比即時快 10,000 倍。這意味著它消耗的能量大約是大腦中等效過程的 10,000 倍。但這種速度對一些神經科學研究人員來說是一個福音。“我們可以在 10 秒內模擬一天的神經活動,”邁爾說。

弗伯和邁爾現在有資金推動更大更好的發展。他們共同構成了歐盟為期十年、耗資 10 億歐元(13 億美元)的人腦專案的神經形態部門,該專案已於上個月正式啟動。大約 1 億歐元用於神經形態研究,這將使弗伯的小組能夠將他的系統擴充套件到 5 億個數字神經元;與此同時,邁爾的小組的目標是 400 萬個。

這些以研究為導向的專案的成功幫助激發了人們對在從手機到機器人的裝置中使用神經形態硬體進行實用、超低功耗應用的想法的興趣。直到最近,這還不是計算機行業的優先事項。晶片設計師通常可以透過簡化電路設計,或將計算分散到多個可以並行執行或在不需要時關閉的處理器“核心”上來最大限度地降低功耗。

但這些方法只能取得這麼多成就。自 2008 年以來,美國國防高階研究計劃局已在其 SyNAPSE 專案上花費了超過 1 億美元,以開發緊湊、低功耗的神經形態技術。該專案的主要承包商之一,IBM 在加利福尼亞州阿爾馬登研究中心的認知計算小組,已利用其獲得的資金開發了數字化的 256 神經元晶片,可用作更大規模系統的構建塊。

大腦力量
博阿亨正在追求他自己的實用應用方法——最值得注意的是他在四月份啟動的一項尚未命名的倡議。該專案基於 Spaun:一種大腦計算機模型的設計,其中包括負責視覺、運動和決策的部分。Spaun 依賴於十年前由加拿大安大略省滑鐵盧大學的理論神經科學家克里斯·埃利亞史密斯開發的神經電路程式語言。使用者只需指定所需的神經功能——例如,生成移動手臂的指令——埃利亞史密斯的系統將自動設計一個脈衝神經元網路來執行該功能。

為了看看它是否有效,埃利亞史密斯和他的同事在傳統計算機上模擬了 Spaun。他們表明,透過 250 萬個模擬神經元加上模擬視網膜和手,它可以複製手寫數字、回憶列表中的專案、計算給定序列中的下一個數字以及執行其他幾項認知任務。博阿亨說,這在神經模擬標準下是前所未有的能力範圍。但 Spaun 模擬的執行速度比即時慢約 9,000 倍,模擬 1 秒的行為需要 2.5 小時。

博阿亨聯絡了埃利亞史密斯,提出了一個顯而易見的建議:使用即時神經形態硬體構建 Spaun 的物理版本。“我非常興奮,”埃利亞史密斯說,對他來說,這種匹配似乎是完美的。“你有花生醬,我們有巧克力!”

在美國海軍研究辦公室的資助下,博阿亨和埃利亞史密斯組建了一個團隊,計劃在三年內構建一個小規模原型,並在五年內構建一個全尺寸系統。博阿亨說,對於感官輸入,他們將使用在 INI 開發的神經形態視網膜和耳蝸。對於輸出,他們有一個機械臂。但認知硬體將從頭開始構建。“這不是一個新的 Neurogrid,而是一個全新的架構,”他說。它將犧牲一定的真實性來換取實用性,依靠“非常簡單、非常高效的神經元,以便我們可以擴充套件到數百萬”。

該系統是專門為實際應用而設計的。博阿亨說,在五年時間內,“我們設想構建完全自主的機器人,這些機器人可以以有意義的方式與其環境互動,並在即時操作,同時[它們的大腦]消耗的電力與手機一樣多”。與今天的自主機器人相比,此類裝置將更加靈活和適應性更強,並且功耗將大大降低。

博阿亨補充說,從長遠來看,該專案可以為任何計算機系統(而不僅僅是機器人技術)中的緊湊型、低功耗處理器鋪平道路。如果研究人員真的成功捕捉到了使大腦如此高效、緊湊和強大的基本要素,那麼它可能是即將撞牆的行業的救星,因為晶片變得越來越小。

“但在我們嘗試之前,我們不會確定的,”博阿亨說。

本文經《自然》雜誌許可轉載。該文章於 2013 年 11 月 6 日首次發表。

© .