海歸學(xué)者發(fā)起的公益學(xué)術(shù)平臺
分享信息，整合資源
交流學(xué)術(shù)，偶爾風(fēng)月
上周發(fā)表的一項新研究展示了一種新型芯片，該芯片結(jié)合了以神經(jīng)科學(xué)為基礎(chǔ)的類腦計算和基于計算機科學(xué)的機器學(xué)習(xí)算法，而這種融合技術(shù)有望進一步促進通用人工智能的發(fā)展。目前，該芯片已被運用于一個無人自行車系統(tǒng)進行能力試驗。試驗中，無人自行車不僅可以識別語音指令、實現(xiàn)自平衡控制，還能對前方行人進行探測和跟蹤，并自動避障。本研究由清華大學(xué)施路平教授、裴京副研究員及其團隊協(xié)作完成，相關(guān)論文發(fā)表在《自然》雜志上。
通用人工智能（Artificial General Intelligence, AGI）是指一種智力水平與人類不分伯仲的人工智能。原則上，通用人工智能平臺可以執(zhí)行人類能夠完成的所有任務(wù)。目前，通用人工智能有兩種研究路徑：計算機科學(xué)導(dǎo)向和神經(jīng)科學(xué)導(dǎo)向。
神經(jīng)科學(xué)導(dǎo)向的AGI方法追求無限度地模仿人的大腦。這種方法研究觀察了記憶和計算之間的緊密相互作用，運用脈沖進行編碼、制定學(xué)習(xí)規(guī)則。其代表為第三代神經(jīng)網(wǎng)絡(luò)——脈沖神經(jīng)網(wǎng)絡(luò)（Spiking Neural Networks, SNN）。相比之下，面向計算機科學(xué)的方法主要表現(xiàn)為在計算機上執(zhí)行的顯式算法。其代表是非脈沖式的人工神經(jīng)網(wǎng)絡(luò)（ANNs），屬于第二代神經(jīng)網(wǎng)絡(luò)。ANNs在處理特定任務(wù)方面取得了實質(zhì)性進展，如圖像分類、語音識別、語言處理和游戲AI等領(lǐng)域。
雖然這兩種方法都可以解決數(shù)據(jù)豐富的專門任務(wù)，但是要解決與多系統(tǒng)相關(guān)的、信息不完整的復(fù)雜動態(tài)問題，現(xiàn)有的技術(shù)仍然是無能為力。因此，為了進一步發(fā)展出智力可與人類比肩的AGI，目前的大趨勢是將更多由生物學(xué)啟發(fā)而來的模型或算法納入主流人工神經(jīng)網(wǎng)絡(luò)，從而在SNN與ANNs構(gòu)建起橋梁。但由于兩套系統(tǒng)使用的平臺各不相同且互不兼容，因此極大地限制了人工通用智能的發(fā)展。
在本次研究中，研究人員開發(fā)了一種混合式計算芯片，它可以適應(yīng)同時面向計算機科學(xué)和神經(jīng)科學(xué)的神經(jīng)網(wǎng)絡(luò)。設(shè)計出與各種神經(jīng)模型和算法兼容的通用平臺是一項基本挑戰(zhàn)，而這挑戰(zhàn)性在某些方面又尤其突出——比如ANN和SNN之間天然隔離。
ANN和SNN在信息表示、計算原理和記憶組織方面都具有不同的建模范例。而其中最根本的差異是，ANN以精確的多位值進行信息處理，而SNN卻使用二進制脈沖序列。所以，為了在一個平臺上實現(xiàn)兩種模型，脈沖需要表示為數(shù)字序列，以便它們與數(shù)字編號的ANN編碼格式兼容。
ANN計算模型與生物神經(jīng)元計算模型
除此之外，還有幾點差異也十分重要：首先，SNN在時空域中運行，這需要在一定時間內(nèi)記憶歷史膜電位和脈沖樣式，而ANN在過程中累積加權(quán)并周期性地刷新信息。其次，SNN的計算包括膜電位積分、閾值交叉和電位復(fù)位，其由脈沖驅(qū)動。相比之下，ANN主要與密集的乘積累加運算（Multiply Accumulate, MAC）操作和激活變換相關(guān)。最后，SNN中的脈沖信息的處理需要可編程的存儲器及額外的高精度存儲器，而ANN僅需要用于激活存儲和變換的存儲器即可。當(dāng)然，ANN和SNN之間也存在一些相似之處，這為模型實現(xiàn)融合留下了空間。
ANN和SNN實現(xiàn)路徑之間的比較
在對不同系統(tǒng)進行詳細(xì)比對之后，研究人員抽象統(tǒng)一了軸突、突觸、樹突、胞體和感知器等模塊，設(shè)計了一種交叉范式的神經(jīng)元方案。如下圖所示：
在該方案的支持下創(chuàng)建的功能核心，是一種具有“ANN輸入和SNN輸出”或“SNN輸入和ANN輸出”能力的混合網(wǎng)絡(luò)基元。換言之，一種可以充當(dāng)ANN / SNN系統(tǒng)轉(zhuǎn)換器的功能核心誕生了。本次研究發(fā)布的Tianjic芯片即由這種功能核心構(gòu)成。Tianjic芯片由156個功能核心組成，包含大約40,000個神經(jīng)元和1000萬個突觸。芯片采用28-nm處理技術(shù)制造，膜片區(qū)面積為3.8×3.8 平方毫米。Tianjic芯片憑借其分布式片上存儲器和分散式多核架構(gòu)，提供的內(nèi)存帶寬超過了610GB（每秒）。
Tianjic芯片和測試板及其布局視圖
為了證明這種類腦跨范式系統(tǒng)的實用性，研究人員用芯片設(shè)計了一輛無人自行車。通過在一個Tianjic芯片內(nèi)并行部署多個專用網(wǎng)絡(luò)，自行車得以配備多種算法和模型。該無人自行車已能夠執(zhí)行實時物體檢測、跟蹤、語音命令識別、超速減速、避障、平衡控制等任務(wù)。
研究人員認(rèn)為，本次研究將能夠促進AGI的實現(xiàn)進程。施路平教授介紹說：“本次研究事實上包含了多重信息，它是‘腦和電腦’的融合；是計算和存儲的融合，既有分離又有一體化；是時空復(fù)雜性和空間復(fù)雜性的融合；是空間編碼和時間編碼的融合?！痹谡劶氨敬窝芯颗c類腦的關(guān)系時，他表示：“類腦在本次研究中具有風(fēng)向標(biāo)的地位，自然界中唯一的AGI系統(tǒng)就是人腦，所以朝著這一方向進發(fā)，是研究中十分寶貴的方向感?！?/p>
但研究人員也表示，該工作還是十分初步的，還有很大的上升空間，而迭代更新的工作已經(jīng)在著手進行中。據(jù)悉，現(xiàn)在該芯片技術(shù)已經(jīng)在與部分公司進行產(chǎn)業(yè)合作。
學(xué)者介紹
施路平
清華大學(xué)特聘教授。清華大學(xué)類腦計算研究中心主任，清華大學(xué)光盤國家工程研究中心主任。為了克服馮諾依曼體系架構(gòu)的瓶頸和人工通用智能的最終實現(xiàn)，施教授和他的團隊研究類腦計算模型和算法、類腦芯片和類腦計算機，發(fā)展人工通用智能的基礎(chǔ)理論和核心技術(shù)。
裴 京
清華大學(xué)儀器科學(xué)與技術(shù)研究所副研究員。主要從事光、機、電、計算機一體化技術(shù)設(shè)備研究工作，特別是在光存儲技術(shù)、設(shè)備及其應(yīng)用開發(fā)領(lǐng)域有獨到的專長。在光電信號讀??；高密度存儲多元信號識別；精密數(shù)字伺服控制；數(shù)碼調(diào)制解調(diào)；計算機接口；機電一體化等技術(shù)及應(yīng)用領(lǐng)域取得顯著成果。
