清華類腦計算成果再登Nature：張悠慧施路平團隊出品，有望打破馮諾依曼瓶頸

賈浩楠 2020-10-15 13:04:46 來源：量子位

賈浩楠 發自 凹非寺
量子位 報道 | 公眾號 QbitAI

清華類腦計算研究成果，再登Nature。

新研究的關鍵詞是：類腦計算、新計算機系統框架、通用人工智能（AGI）。

它的重要性，在于有希望打破如今馮·諾依曼型計算機，對人工智能的普遍限制，完全發揮類腦算法的潛力，使AGI更具可行性。

研究了些什么？

這并不是清華大學類腦計算中心的相關研究成果，第一次登上Nature。

去年8月，清華類腦計算中心施路平團隊自行研發的類腦芯片“天機”，登上了Nature封面。

以這片類腦芯片為基礎，研究團隊實現了高度靈敏，并且能聽懂自然語言指令的自行車。

而最新發表的研究，則是為了解決類腦計算系統的“基礎設施架構”問題。

在名為A system hierarchy for brain-inspired computing的論文中，施路平教授團隊提出了一種全新的、突破性的類腦計算通用系統層次結構。

這項研究中提出的神經形態完備性概念，這是一種更具適應性、更廣泛的類腦計算完備性的定義，它降低了系統對神經形態硬件的完備性要求，提高了不同硬件和軟件設計之間的兼容性。

這意味著這種專門為類腦計算任務設計的計算機結構，具備了和我們熟知的馮·諾依曼結構計算機相同的能力。

即避免系統中軟件和硬件之間的緊密關聯，實現了高效、兼容和獨立的進程。不同的編程語言可通過編譯器處理變為可供機器執行的指令。

這一點是十分重要關鍵的，因為以往，在馮·諾依曼結構計算機上，類腦計算缺乏合適的系統層次結構來支持整體開發，神經形態軟件和硬件之間沒有合適的接口。

一個特定的算法或類腦芯片，需要借助一系列特定的軟件工具才能運行，

這種方法的弊端在于，類腦計算系統（包括應用程序模型、系統軟件和神經形態設備）的各個層被緊密綁定在了一起，影響了軟件和硬件之間的兼容性，降低了類腦計算系統的編程靈活性和開發效率。

解決這個問題的關鍵，是“神經形態完備性”。

神經形態完備的三層結構

這項研究中提出了神經形態完備性的概念。

這是一種類腦計算完備性的定義，與通用的圖靈完備性類似，定義通用機器和語言的要求。

定義提出，如果一個類腦系統能夠以規定的準確度執行一組給定的基本操作，那么它就是神經形態完備的。

這與圖靈完備性有所不同。

在圖靈完備性中，只有當一個系統為一組給定的基本運算提供了一個精確且等價的結果時，才可以將其定義為完備。

而在所提出的神經形態完備框架中的基本運算，包括兩個已知的加權和運算，以及元素-整流線性運算，這使得硬件系統能夠同時支持脈沖和非脈沖人工神經網絡。

新定義降低了系統對神經形態硬件的完備性要求，使得不同硬件和軟件設計之間的兼容性更易實現。

新的層次結構的一個重要特點是，提出了完整的連續性，根據類腦系統能夠執行基本操作的精度，接受不同級別的算法性能。

完整的連續性還允許算法的不同實現路徑在同一硬件上運行。例如，探索如何權衡算法精度與芯片尺寸，以降低功耗。

為滿足神經形態完備性，團隊提出一種全新的系統層次結構，這一結構包括軟件、硬件和編譯三個層次：

其中，軟件層指的是編程語言或框架以及建立在它們之上的算法或模型。在這個層次上，團隊提出了一種統一的、通用的軟件抽象模式——POG 圖（programming operator graph）——以適應各種類腦算法和模型設計。

POG 由統一的描述方法和事件驅動的并行程序執行模型組成，該模型集成了存儲和處理，描述了什么是類腦程序，并定義了如何執行。由于 POG 是圖靈完備的，它最大程度地支持各種應用程序、編程語言和框架。

硬件方面，則包括所有類腦芯片和架構模型。團隊設計了抽象神經形態體系結構（ANA）作為硬件抽象，包括一個 EPG 圖（execution primitive graph），作為上層的接口來描述它可以執行的程序。

EPG 具有控制、流、數據流的混合表示，滿足它對不同硬件的適應性。

編譯層，是將程序轉換為硬件支持的等效形式的中間層。為實現可行性，研究人員提出了一套被主流類腦芯片廣泛支持的基本硬件執行原語（hardware execution primitives）。

類腦計算領域的重要一步

近年來，隨著摩爾定律逐漸失效，馮·諾依曼結構帶來的局限日益明顯，存儲墻、功耗墻、智能提升等問題，讓當前計算機發展面臨重大挑戰。

從人類大腦中汲取靈感的類腦計算或神經形態計算，是一種有潛力打破馮·諾伊曼瓶頸并推動下一波計算機工程的計算模型和架構。

而Nature給這項研究的評語是“a welcome step”。

比較實現相同算法的等效版本的不同硬件平臺，以及在同一硬件上實現的不同算法的比較。

這些都是類腦結構的有效基準測試的關鍵。

新結構的另一個優勢是它可以將類腦算法和相應的硬件開發分流。

類腦算法在不斷實現強大功能的同時，算法的規模和復雜性將需要隨著時間的推移而增加。因此這種分流將有助于研究人員專注于特定方向，避免復雜的端到端解決方案。

這項研究是類腦計算領域的重要一步。

盡管現在，人類大腦本身是否符合“神經形態完備”還有待觀察，但這項研究仍然讓類腦計算實用化，以及可能在此基礎上發展的通用人工智能離我們更近了。

進擊的清華類腦計算中心

清華大學類腦計算中心，由施路平教授2013年3月全職入職清華大學后組建，從基礎理論、類腦計算系統芯片和軟件系統全方位進行類腦計算研究。

去年 8 月，施路平團隊的“天機芯”登上《自然》雜志封面 加鏈接，這是世界上首款異構融合類腦芯片，并通過自動駕駛自行車成功驗證了通用智能的可行性。

團隊很早就著手類腦計算的商業落地，2018年，北京靈汐科技作為清華大學類腦計算中心科技成果轉化項目正式成立，施路平教授是聯合創始人。

參考鏈接
https://www.nature.com/articles/d41586-020-02829-w

論文地址
https://www.nature.com/articles/s41586-020-2782-y