8月1日，清華大學(xué)類腦計(jì)算研究中心施路平團(tuán)隊(duì)研發(fā)的“天機(jī)芯”（Tianjic）登上了《自然》（Nature）封面。封面標(biāo)題為《雙重控制》（Dual Control），作為人工通用智能（AGI，Artificial General Intelligence）領(lǐng)域的一個(gè)重磅應(yīng)用案例進(jìn)行了展示。這也實(shí)現(xiàn)了中國(guó)在芯片和人工智能兩大領(lǐng)域《自然》論文零的突破。
（圖源：Nature）
這篇名為《面向人工通用智能的異構(gòu)天機(jī)芯片架構(gòu)》（Towards artificial general intelligence with hybrid Tianjic chip architecture）的論文介紹了一款新型人工智能芯片，它結(jié)合了類腦計(jì)算和基于計(jì)算機(jī)科學(xué)的人工智能，是世界首款異構(gòu)融合類腦芯片。
由于其本身的巨大挑戰(zhàn)性，近年來(lái)不少AI專家認(rèn)為，人工通用智能（AGI）只是一個(gè)牽強(qiáng)附會(huì)的想象，而少數(shù)一些人則在求索不倦的過(guò)程中獲得了靈感。在去年11月舉行的AI Frontiers會(huì)議上，非營(yíng)利性人工智能研究公司——OpenAI創(chuàng)始人兼研究總監(jiān)Ilya Sutskever表示：“我們（OpenAI）在過(guò)去幾年中已經(jīng)回顧了該領(lǐng)域的進(jìn)展。我們的結(jié)論是，近期AGI應(yīng)該被認(rèn)為是一種很大的可能性。”今年7月，微軟才剛剛宣布向OpenAI投資10億美元研發(fā)人工通用智能，可見(jiàn)其看好和支持的態(tài)度。
當(dāng)前，人工智能芯片代表性工作可概括為兩個(gè)主流方向：深度學(xué)習(xí)加速器 (支持人工神經(jīng)網(wǎng)絡(luò)) 和類腦芯片(主要支持脈沖神經(jīng)網(wǎng)絡(luò))。然而，每種方法都需要自己獨(dú)特且不兼容的平臺(tái)，難以發(fā)揮計(jì)算機(jī)和神經(jīng)科學(xué)兩個(gè)領(lǐng)域的交叉優(yōu)勢(shì)，這已經(jīng)阻礙了AGI的總體研究和開發(fā)。
上述兩類模型所使用的語(yǔ)言、計(jì)算原理、編碼方式和應(yīng)用場(chǎng)景都不相同，實(shí)現(xiàn)這兩種模型深度高效的融合，是“天機(jī)芯”設(shè)計(jì)中面臨的最大挑戰(zhàn)。
施路平恰恰認(rèn)為，人工通用智能是一個(gè)必然的趨勢(shì)，而異構(gòu)融合，也就是讓兩種計(jì)算結(jié)合正是這把鑰匙。“天機(jī)芯”處理器正是采用了混合芯片架構(gòu)的人工通用智能，支持異構(gòu)網(wǎng)絡(luò)的混合建模，發(fā)揮它們各自的優(yōu)勢(shì)，既能降低能耗，提高速度，又能保持高準(zhǔn)確度。這種旨在通過(guò)采用通用硬件平臺(tái)來(lái)刺激AGI開發(fā)的“雙重控制”，正是點(diǎn)睛之筆。
（“天機(jī)芯”設(shè)計(jì)原理流程圖，圖源Nature）
清華大學(xué)、北京靈汐科技（Lynxi Technology）、北京師范大學(xué)、新加坡理工大學(xué)和加州大學(xué)圣巴巴拉分校的研究人員著眼于縮小差距，終于推出了“天機(jī)”芯片。2017年，第二代“天機(jī)芯”問(wèn)世。相比IBM的TrueNorth芯片，“天機(jī)芯”密度提升20%，速度提高至少10倍，帶寬提高至少100倍，靈活性和擴(kuò)展性進(jìn)一步改善。
如今，這款革命性的芯片可以采用各種核心架構(gòu)，可重構(gòu)的構(gòu)建模塊等，以適應(yīng)基于計(jì)算機(jī)科學(xué)的機(jī)器學(xué)習(xí)算法和面向神經(jīng)科學(xué)的方案，如腦啟動(dòng)電路。
研究團(tuán)隊(duì)的一項(xiàng)重要?jiǎng)?chuàng)新是“天機(jī)芯”的統(tǒng)一功能核心（FCore），它結(jié)合了人工神經(jīng)網(wǎng)絡(luò)和生物網(wǎng)絡(luò)的基本構(gòu)建模塊——軸突、突觸、樹突和體細(xì)胞塊。這款28nm芯片由156個(gè)FCores組成，在3.8×3.8mm2的區(qū)域內(nèi)包含大約40,000個(gè)神經(jīng)元和1000萬(wàn)個(gè)突觸。
“天機(jī)芯”提供超過(guò)每秒610千兆字節(jié)（GB）的內(nèi)部存儲(chǔ)器帶寬，以及運(yùn)行人工神經(jīng)網(wǎng)絡(luò)的每瓦特每秒1.28 tera操作（TOPS）的峰值性能。在生物啟發(fā)的尖峰神經(jīng)網(wǎng)絡(luò)模式中，天極實(shí)現(xiàn)了每瓦約650千兆每秒突觸操作（GSOPS）的峰值性能。研究團(tuán)隊(duì)還展示了與GPU相比“天鷹”的卓越性能，其中新芯片的吞吐量提高了1.6-100倍，電源效率提高了12-10000倍。
（芯片評(píng)估及建模過(guò)程示意圖，圖源Nature）
研究團(tuán)隊(duì)設(shè)計(jì)了一個(gè)自動(dòng)駕駛自行車實(shí)驗(yàn)，來(lái)評(píng)估芯片整合多模態(tài)信息和做出迅速?zèng)Q策的能力。這款自動(dòng)駕駛自行車，配備了“天機(jī)芯”和IMU傳感器、攝像頭，剎車電機(jī)、轉(zhuǎn)向電機(jī)、驅(qū)動(dòng)電機(jī)等致動(dòng)器，以及控制平臺(tái)、計(jì)算平臺(tái)、天機(jī)板級(jí)系統(tǒng)等處理平臺(tái)等。自行車的任務(wù)是執(zhí)行實(shí)時(shí)物體檢測(cè)、跟蹤、語(yǔ)音命令識(shí)別、騎行減速等功能，還可實(shí)現(xiàn)避障過(guò)障、平衡控制和自主決策。這些任務(wù)中，部分運(yùn)用了模擬大腦的模型，而其他則采用了機(jī)器學(xué)習(xí)算法模型。
（圖源：Nature）
據(jù)悉，在自行車上利用一塊“天機(jī)芯”同時(shí)運(yùn)行了包括CNN，CANN，SNN和MLP網(wǎng)絡(luò)在內(nèi)的5種不同神經(jīng)網(wǎng)絡(luò)，來(lái)完成每項(xiàng)任務(wù)，最終實(shí)現(xiàn)了無(wú)人自行車駕駛。這些模型經(jīng)過(guò)預(yù)先訓(xùn)練并編程到“天機(jī)芯”上，可以并行處理模型，實(shí)現(xiàn)不同模型之間的無(wú)縫片上通信。
異構(gòu)融合的人工智能是一種多模態(tài)系統(tǒng)。駕駛自行車就是一個(gè)多模態(tài)任務(wù)，它需要語(yǔ)音識(shí)別，也需要視覺(jué)識(shí)別和追蹤。而搭載了“天機(jī)芯”的無(wú)人自行車，可以實(shí)時(shí)感知周圍環(huán)境，跟隨前方的試驗(yàn)人員并自動(dòng)進(jìn)行避障的操作，并根據(jù)語(yǔ)音指令、視覺(jué)感知的反饋產(chǎn)生實(shí)時(shí)信號(hào)對(duì)電機(jī)進(jìn)行控制，以達(dá)到保持平衡，改變行進(jìn)狀態(tài)，根據(jù)目標(biāo)對(duì)象完成實(shí)時(shí)追蹤。這整個(gè)驗(yàn)證平臺(tái)的思路和搭建是非常成功的。
在實(shí)驗(yàn)中，由“天機(jī)芯”驅(qū)動(dòng)的自行車順利完成了所有分配的任務(wù)，標(biāo)志著AGI發(fā)展加速的巨大飛躍。這個(gè)芯片不是在試圖復(fù)制人類大腦，而是在模仿人類的思維方式，如注意力、記憶力和預(yù)測(cè)能力。
研究小組還指出，“通過(guò)隨機(jī)將新變量實(shí)時(shí)引入環(huán)境中，可以產(chǎn)生高時(shí)空復(fù)雜性，例如不同的道路條件、噪聲、天氣因素，多種語(yǔ)言，更多人群對(duì)象等等。通過(guò)探索允許適應(yīng)這些環(huán)境變化的解決方案，可以檢查對(duì)AGI至關(guān)重要的問(wèn)題——例如概括、穩(wěn)健性和自主學(xué)習(xí)。
據(jù)悉，團(tuán)隊(duì)已經(jīng)開始研究下一代芯片，有望在明年初完成研發(fā)。研究團(tuán)隊(duì)透露，他們預(yù)計(jì)“天機(jī)”未來(lái)將部署在自動(dòng)駕駛汽車和智能機(jī)器人中。未來(lái)，“天機(jī)芯”或還將在其他任務(wù)中證明其通用人工智能的能力，如操縱物體、玩游戲或進(jìn)行對(duì)話。施路平教授表示，人工通用智能是一項(xiàng)非常具有挑戰(zhàn)性的工作。目前還處于起步階段，而他和團(tuán)隊(duì)的研究愿景則是——“發(fā)展類腦計(jì)算，支撐人工通用智能，賦能各行各業(yè)。”
版權(quán)說(shuō)明：文章轉(zhuǎn)載自前瞻網(wǎng)，作者 Evelyn Zhang。
1989.09 -1992.12 德國(guó)科隆大學(xué)結(jié)晶學(xué)研究所,博士
1985.09 -1988.07 山東大學(xué)晶體所,碩士
1978.01 -1981.12 山東大學(xué)物理系畢業(yè)
2014.09 -至今 清華大學(xué)類腦計(jì)算研究中心,主任
2013.03 -至今 清華大學(xué)光盤國(guó)家工程研究中心,主任，特聘教授
1996.08 -2013.03 新加坡科技局?jǐn)?shù)據(jù)存儲(chǔ)研究院期間歷任：人工認(rèn)知存儲(chǔ)器實(shí)驗(yàn)室主任；光學(xué)材料和系統(tǒng)實(shí)驗(yàn)室主任；非易失性存儲(chǔ)器實(shí)驗(yàn)室主任；
光學(xué)媒體實(shí)驗(yàn)室主任；資深科學(xué)家III， II，I；科學(xué)家；首席研究工程師；高級(jí)研究工程師
1994.02 -1996.07 香港城市大學(xué)光電子中心,博士后研究員
1993.01-1993.12 德國(guó)Frauhofer 應(yīng)用光學(xué)和精密儀器研究所,博士后研究員
1988.08 -1989.08 山東大學(xué),國(guó)家晶體材料重點(diǎn)實(shí)驗(yàn)室,講師
1981.02 -1985.07 山東大學(xué)實(shí)驗(yàn)中心,助理工程師
類腦計(jì)算、信息存儲(chǔ)、集成光電子、智能系統(tǒng)和儀器
2013年施教授加入清華大學(xué)，2014年創(chuàng)建類腦計(jì)算研究中心，中心從基礎(chǔ)理論、神經(jīng)形態(tài)器件、類腦芯片、類腦軟件、系統(tǒng)和應(yīng)用對(duì)類腦計(jì)算進(jìn)行全面研究。
為了克服馮諾依曼體系架構(gòu)的瓶頸和人工通用智能的最終實(shí)現(xiàn)，施教授和他的團(tuán)隊(duì)研究類腦計(jì)算模型和算法、類腦芯片和類腦計(jì)算機(jī)，發(fā)展人工通用智能的基礎(chǔ)理論和核心技術(shù)。
2015年11月成功研制成功首款跨模態(tài)異構(gòu)融合神經(jīng)形態(tài)類腦計(jì)算芯片，命名為tianjic ?，此芯片可進(jìn)行大規(guī)模神經(jīng)元網(wǎng)絡(luò)的模擬，具有超高速、實(shí)時(shí)、低功耗等特點(diǎn)，相關(guān)結(jié)果發(fā)表在2016.12 science智能機(jī)器人特刊上。
2017年10月成功研制了天機(jī)2代神經(jīng)形態(tài)芯片。該芯片基于先進(jìn)的28納米半導(dǎo)體技術(shù)，集成了千萬(wàn)突觸和約4萬(wàn)個(gè)神經(jīng)元能力；同時(shí)支持脈沖神經(jīng)網(wǎng)絡(luò)算法和人工神經(jīng)網(wǎng)絡(luò)算法，包括CNN，MLP，LSTM等網(wǎng)絡(luò)架構(gòu)。與同等工藝制程的神經(jīng)形態(tài)芯片-IBM“真北”芯片-相比，從芯片密、速度和帶寬都有大幅度提升。
2017年施教授及其團(tuán)隊(duì)還開發(fā)了面向類腦芯片的軟件工具鏈，支持神經(jīng)網(wǎng)絡(luò)算法Tensorflow 、Caffe等平臺(tái)的自動(dòng)映射和編譯到天機(jī)芯片。此外團(tuán)隊(duì)還搭建了國(guó)內(nèi)首個(gè)類腦計(jì)算演示平臺(tái)。
2018年施教授及其團(tuán)隊(duì)提出了一種同時(shí)支持訓(xùn)練和推理的離散化架構(gòu)WAGE，將網(wǎng)絡(luò)權(quán)重、激活值、反向誤差、權(quán)重梯度用低精度整形數(shù)表達(dá)，成為類腦低能耗芯片在線學(xué)習(xí)的模型。
2018年施教授及其團(tuán)隊(duì)利用脈沖神經(jīng)網(wǎng)絡(luò)的時(shí)空特性，實(shí)現(xiàn)了在時(shí)空域的SNN誤差反向傳播算法。同時(shí)，解決了函數(shù)逼近的方法處理脈沖發(fā)放時(shí)刻不可導(dǎo)問(wèn)題，建立了SNN全連接及卷積神經(jīng)網(wǎng)絡(luò)新算法。
聯(lián)系客服
