作者：聞菲
AI芯片的戰(zhàn)場更加熱鬧了。4月18日，F(xiàn)acebook宣布招聘ASIC和FPGA設(shè)計工程師，向設(shè)計自己的AI芯片邁出了第一步。
4月19日，國內(nèi)巨頭阿里巴巴宣布正在自主研發(fā)AI芯片。這款由阿里巴巴達(dá)摩院研發(fā)的AI芯片是一款神經(jīng)網(wǎng)絡(luò)芯片，名叫Ali-NPU，將用于圖像和視頻分析、云計算等商業(yè)場景的AI推理運算問題。
Facebook和阿里巴巴的入局，表明互聯(lián)網(wǎng)巨頭自主研發(fā)AI芯片已是大勢所趨。在此之前，谷歌、蘋果、微軟、亞馬遜等公司，都紛紛自研AI芯片。
谷歌從2012年左右開始研發(fā)名為張量處理器（TPU）的專用AI芯片，現(xiàn)在已經(jīng)公布到第二代，既能推理也能訓(xùn)練，針對谷歌的深度學(xué)習(xí)框架TensorFlow做了優(yōu)化；2017年谷歌開放Cloud TPU云服務(wù)，任何人都能通過谷歌云租借TPU。此外，谷歌還自研了圖像專用芯片Pixel Visual Core，用于谷歌的智能手機Pixel 2，今年下半年發(fā)布的Google Pixel 3也采用自主研發(fā)的SoC芯片。
蘋果公司則為iPhone設(shè)計芯片，并在去年隨著iPhone 8和iPhone X的發(fā)布，公布了神經(jīng)引擎（Neural Engine），作為其A11仿生芯片的一部分。微軟早前投注FPGA，這已經(jīng)成為微軟Azure云計算系統(tǒng)的基礎(chǔ)，提供比GPU更靈活的架構(gòu)和更低的功耗；微軟也在為下一代HoloLens混合現(xiàn)實頭戴設(shè)備研發(fā)專門的AI芯片。至于亞馬遜，則是在今年初宣布為智能音箱Echo/Alexa打造專用AI芯片，同時也有外媒報道，亞馬遜可能正在為其云計算部門AWS開發(fā)AI處理器。芯片支撐未來發(fā)展，但如今似乎軟件定義硬件的趨勢愈加明顯。
芯片是支撐AI的基礎(chǔ)。而由于AI芯片受算法和模型影響非常大，因此掌握算法和模型，自己做軟件和服務(wù)的公司，如果精確地了解自己要什么，比如谷歌，比如最新加入戰(zhàn)局的Facebook和阿里，與其等待英特爾和英偉達(dá)等傳統(tǒng)硬件商，自己出手造芯反而能更快更準(zhǔn)，更能滿足自己特定的需求。
同時，像谷歌這樣，將TPU與谷歌云和TensorFlow綁定——TensorFlow在TPU上會有更好的運行效果，而谷歌也將TPU實現(xiàn)的AI計算優(yōu)勢通過谷歌云提供，為自己構(gòu)建起生態(tài)閉環(huán)。
所有這些，無疑都對傳統(tǒng)的硬件制造商，提出了更大的挑戰(zhàn)。在AI芯片戰(zhàn)火更旺的當(dāng)下，CPU巨頭英特爾通過收購Nervana Systems（神經(jīng)網(wǎng)絡(luò)專用加速器NNP）、Mobileye（自動駕駛）、Movidius（視覺處理芯片）、Altera（FPGA）等公司，在AI芯片領(lǐng)域構(gòu)建起從云到端各種應(yīng)用比較完善的布局。然而，收購這一行為本身，從一定程度上反映了自主研發(fā)的滯后。
在谷歌、阿里等巨頭紛紛進軍AI芯片，眾多AI芯片初創(chuàng)公司涌現(xiàn)的當(dāng)下，英特爾如何應(yīng)對？
日前，英特爾人工智能事業(yè)部副總裁、人工智能實驗室和軟件總經(jīng)理Arjun Bansal博士接受了新智元的專訪，對AI芯片局勢以及AI技術(shù)的發(fā)展做了分析。
英特爾人工智能事業(yè)部副總裁、人工智能實驗室和軟件總經(jīng)理Arjun Bansal。在2016年8月英特爾收購Nervana System之前，他是Nervana的聯(lián)合創(chuàng)始人兼算法副總裁，領(lǐng)導(dǎo)機器學(xué)習(xí)軟件與數(shù)據(jù)科學(xué)部。他的研究領(lǐng)域包括神經(jīng)生理學(xué)和大規(guī)模機器學(xué)習(xí)。Arjun在加州理工大學(xué)獲得了計算機科學(xué)學(xué)士學(xué)位，在布朗大學(xué)獲得了神經(jīng)科學(xué)博士學(xué)位，并在波士頓兒童醫(yī)院和哈佛醫(yī)學(xué)院完成了博士后研究。
Bansal博士是Nervana的聯(lián)合創(chuàng)始人之一，他表示英特爾的優(yōu)勢在于從芯片設(shè)計、制造到銷售一整套流程和生態(tài)的強大。作為曾經(jīng)的AI芯片初創(chuàng)公司的一份子，他十分了解初創(chuàng)芯片公司面臨的挑戰(zhàn)。要真正實現(xiàn)原型的量產(chǎn)，有很多具體的細(xì)節(jié)需要去考慮，包括市場和銷售。“英特爾的優(yōu)勢并不是只在芯片本身，而是結(jié)合了產(chǎn)品、技術(shù)、生態(tài)系統(tǒng)的一個合力?！盉ansal博士說。
或許這也是在眾多公司進軍AI芯片，眾多初創(chuàng)公司喊出在速度或性能上超越CPU多少多少倍，而英特爾Nervana神經(jīng)網(wǎng)絡(luò)專用處理器延遲發(fā)布，英特爾仍然游刃有余的一個原因。
同時，這也再次印證了AI芯片創(chuàng)業(yè)和市場開拓的艱難。中國的眾多AI芯片初創(chuàng)公司，即使擁有很好的產(chǎn)品，前路也似乎依然坎坷。
采訪中的另一個重點，是英特爾的定位——Bansal博士在介紹英特爾智能醫(yī)療布局時表示，英特爾要做的，是成為對客戶和合作伙伴來說，能夠?qū)崿F(xiàn)選擇最大化的一家公司。
“我們英特爾主要還是根據(jù)不同客戶的需求，在全棧的不同層級上都有相應(yīng)的能力匹配，英特爾并不認(rèn)為可以一刀切?！?/p>
這一點也體現(xiàn)在英特爾的AI處理器——英特爾Nervana神經(jīng)網(wǎng)絡(luò)處理器（NNP）上面。英特爾Nervana NNP是專為深度學(xué)習(xí)設(shè)計的架構(gòu)。這種新架構(gòu)的目標(biāo)是提供深度學(xué)習(xí)所需的靈活性，以支持所有深度學(xué)習(xí)元語（primitives），同時使核心硬件組件盡可能高效。
Nervana從2016年前開始規(guī)劃神經(jīng)網(wǎng)絡(luò)處理器（也即現(xiàn)在英特爾Nervana NNP），Bansal博士說，如今AI的發(fā)展符合他們的預(yù)期，雖然市面上出現(xiàn)了眾多AI芯片，但他們?nèi)匀挥凶孕臢NP能滿足當(dāng)前以及未來深度學(xué)習(xí)所需。
與谷歌、亞馬遜專門為了自己的軟件和應(yīng)用而設(shè)計的AI芯片相比，英特爾Nervana NNP可以稱得上是“大家的AI處理器”。
PC時代X86架構(gòu)一統(tǒng)天下的時代已經(jīng)過去，未來也不大可能出現(xiàn)一款A(yù)I芯片統(tǒng)領(lǐng)一切。然而，還是會有勝利者，在各個不同的垂直領(lǐng)域，分得更大的蛋糕。
以下為整理后的采訪錄音文字片。
深度學(xué)習(xí)發(fā)展保持穩(wěn)定，軟件整合是痛點
新智元：對于計算機體系結(jié)構(gòu)來說現(xiàn)在是一個令人激動的新時代。得益于深度學(xué)習(xí)，AI芯片領(lǐng)域出現(xiàn)了很多新的架構(gòu)，在這些眾多新架構(gòu)里面，有英特爾沒有考慮過的嗎？考慮過但沒有繼續(xù)深入的原因是什么？
Arjun Bansal：的確現(xiàn)在有很多新的面向深度學(xué)習(xí)的架構(gòu)，英特爾在這方面有自己的Nervana神經(jīng)網(wǎng)絡(luò)處理器（NNP），NNP專為加速神經(jīng)網(wǎng)絡(luò)設(shè)計，采用標(biāo)準(zhǔn)緩存層次結(jié)構(gòu)，在片上片下都有大量存儲，并使用軟件來管理片上內(nèi)存，連接也使用大的帶寬，從而為深度學(xué)習(xí)模型實現(xiàn)更快的訓(xùn)練時間。另外比如說Movidius架構(gòu)，用于要求低功耗和邊緣計算應(yīng)用，它和X86非常不一樣，能夠用在AR相機或無人機上進行視頻分析。英特爾還收購了Mobileye公司，它的能力主要是在汽車領(lǐng)域。還有FPGA，很靈活，實際上有很多自動駕駛公司使用FPGA，因為算法和模型在不斷演變。還有一種是集成GPU，很多產(chǎn)品比如筆記本，都已經(jīng)使用，可以用于語音識別、圖像識別等任務(wù)?，F(xiàn)在市面上有很多新的想法，英特爾不會輕易追隨，但是我們會仔細(xì)地觀察每一個新的想法。
新智元：設(shè)計芯片需要對技術(shù)的發(fā)展進行預(yù)判。Nervana在2016年之前就考慮做神經(jīng)網(wǎng)絡(luò)加速器，現(xiàn)在看AI技術(shù)發(fā)展是否符合你們當(dāng)初的預(yù)期？
Arjun Bansal：設(shè)計處理器的目的是優(yōu)化深度學(xué)習(xí)的元語（primitives），而我們看深度學(xué)習(xí)中進行的計算，主要是卷積、密集矩陣乘積、elementwise operations、非線性等等，過去三四年里，這些primitives基本保持穩(wěn)定，沒有超出我們當(dāng)時的預(yù)期，未來三到四年也將繼續(xù)如此。因此，我們?nèi)匀缓苡心芰M足當(dāng)前和今后神經(jīng)網(wǎng)絡(luò)計算所需。在編譯器方面，我們有nGraph，能夠讓開發(fā)人員比較簡單易行地從事相關(guān)的開發(fā)，可以運行在英特爾至強可擴展處理器上。
新智元：剛才您提到nGraph，去年Facebook、亞馬遜等聯(lián)合發(fā)布了ONNX，同樣作為深度學(xué)習(xí)的中間表示，現(xiàn)在已經(jīng)獲得相當(dāng)大的受眾和競爭力。nGraph如何與ONNX以及其他類似的IR競爭？您如何看未來深度學(xué)習(xí)軟件整合的發(fā)展？
Arjun Bansal：我們與ONNX并不是直接競爭關(guān)系，英特爾也是ONNX聯(lián)盟的一分子，也參與一些標(biāo)準(zhǔn)界定工作，nGraph也支持ONNX中間表示（IR），nGraph有編譯器和執(zhí)行器，可以在CPU上實現(xiàn)，可以在NNP上實現(xiàn)，也可以在GPU上實現(xiàn)，支持不同的框架。目前nGraph的IR只支持推理，因此很顯然我們還需要能夠支持訓(xùn)練的。
目前ONNX在做的和nGraph在做的更多是互補，我們還需要繼續(xù)工作，確保一個API或者一個中間表示能夠適用于不同的框架，這樣數(shù)據(jù)科學(xué)家就可以無縫的“開箱即用”。nGraph和ONNX都是開源的項目，我們也邀請其他感興趣的方面可以一起參與到我們的合作中。我們的重點就在于把研究開發(fā)的成果盡早、盡快的體現(xiàn)在具體的產(chǎn)品當(dāng)中。目前的一個技術(shù)難點是在模型研究、數(shù)據(jù)中心部署、邊緣計算方面有很多不同的方法，但是這些方法之間彼此切換并不容易，這是英特爾想要解決的一個痛點。
單靠芯片并不能贏得市場，創(chuàng)業(yè)公司難以撬動既有生態(tài)
新智元：英特爾Nervana神經(jīng)網(wǎng)絡(luò)處理器是業(yè)界非常關(guān)注的一款處理器產(chǎn)品，但一直沒有發(fā)布。與此同時，以谷歌TPU為代表，各種AI芯片產(chǎn)品問世，今年很多AI芯片創(chuàng)業(yè)公司也都發(fā)布產(chǎn)品，沖擊市場。這種情況下您是否感到有壓力？
Arjun Bansal：我不會用“壓力”這個詞，我覺得現(xiàn)在正是進入市場一個非常有趣的時間點。把一個產(chǎn)品帶入市場是非常復(fù)雜的過程，我們的信心來自于英特爾在制造的能力、算法和模型的能力，并且和客戶已有的pipeline、工具鏈進行集成的能力。英特爾有自己專業(yè)的技術(shù)，但更重要的是我們和現(xiàn)有的整個生態(tài)系統(tǒng)的配合非常好，比如不同的用戶對于功耗、對于尺寸、對于形態(tài)都會有自己的想法和考慮，英特爾在這方面有很豐富和專業(yè)的經(jīng)驗。
作為Nervana的聯(lián)合創(chuàng)始人之一，我非常了解初創(chuàng)芯片公司面臨的挑戰(zhàn)。要真正實現(xiàn)原型的量產(chǎn)，實際上是有很多具體的細(xì)節(jié)需要去考慮，包括市場和銷售?，F(xiàn)在加入英特爾，我們能有效利用英特爾和整個生態(tài)系統(tǒng)不同的相關(guān)方之間的關(guān)系。我們的優(yōu)勢并不是只在芯片本身，而是結(jié)合了產(chǎn)品、技術(shù)、生態(tài)系統(tǒng)的一個合力。
新智元：基礎(chǔ)算法發(fā)展會給行業(yè)帶來很多不確定性，五年以后可能算法全都變了，英特爾為此做了哪些準(zhǔn)備？
Arjun Bansal：我們做了大量的研究工作，密切關(guān)注追蹤這些趨勢的發(fā)展。英特爾有自己的研究院，還有專門的AI部門，也在做大量工作。我們會關(guān)注業(yè)界最新發(fā)布的成果，我們和學(xué)界，包括面向整個產(chǎn)業(yè)，服務(wù)于整個產(chǎn)業(yè)的研究機構(gòu)之間都有配合，看看能夠怎么比較好的把研究成果和我們的硬件匹配起來。在研究和硬件開發(fā)之間我們有非常緊密的配合，不會說市場突然出現(xiàn)一個東西，忽然讓我們大吃一驚，這種情況不會出現(xiàn)。
未來四五年的重點是將AI能力變?yōu)楫a(chǎn)品原型
新智元：您怎么看未來算法的發(fā)展？有什么值得關(guān)注的趨勢？
Arjun Bansal：現(xiàn)在推動AI發(fā)展的主導(dǎo)力量是監(jiān)督學(xué)習(xí)，需要大量帶標(biāo)簽的數(shù)據(jù)集。未來值得關(guān)注的方向是無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、強化學(xué)習(xí)，其中有的會不需要那么多數(shù)據(jù)但需要更多計算，還有的則需要在模擬和計算之間有新的動態(tài)，從硬件的角度看，這些都是值得關(guān)注的趨勢。從AI研究的角度，則是如何讓AI技術(shù)賦能產(chǎn)品。所以未來四五年的重點，是將這些AI能力變?yōu)楫a(chǎn)品原型，比如將語音識別或圖像識別模型融入pipeline，為各行各業(yè)帶來能力。再遠(yuǎn)一點，則是構(gòu)建能夠綜合語音、圖像等能力的系統(tǒng)，結(jié)合強化學(xué)習(xí)，甚至類腦計算系統(tǒng)，得到更加有常識的機器。
新智元：硬件團隊最該過硬的是軟件部門。作為軟件部門負(fù)責(zé)人，你們在招收人才時有怎樣的標(biāo)準(zhǔn)？如何吸引人才？
Arjun Bansal：對外界來說“軟件”只是一個詞，實際上軟件可以細(xì)分到四五個層級，在比較低的層級上，比如說驅(qū)動、固件、系統(tǒng)級的軟件，在此之上是優(yōu)化層，這里面可以用到NNP，這之上是編譯器，比如NGraph，還要確保它們能夠在框架當(dāng)中正常運行，各家都有自己的框架，比如TensorFlow、BigDL，在系統(tǒng)編譯器方面我們能夠為數(shù)據(jù)科學(xué)家提供他們所需要的編譯器。在上述幾個領(lǐng)域我們都要招募人才。
英特爾對產(chǎn)業(yè)有很大影響力，基本上你走到世界上任何一個屋子里都能找到一個用到英特爾的東西，從這一點上說，我們對人才還是很有吸引力的。在AI方面，實際上英特爾做了很多工作，也有很多的部署，雖然并不是家喻戶曉，但從事這一行的人還是知道的，英特爾對于AI的影響還是非常大。所以我們能夠吸引到人才。
新智元：那這些人都從哪里來？
Arjun Bansal：各方各面都有。在數(shù)據(jù)科學(xué)家方面，我們關(guān)注Kaggle專業(yè)類競賽，也會招收神經(jīng)科學(xué)、物理學(xué)博士，在硬件還有系統(tǒng)級方面，英特爾現(xiàn)有人才已經(jīng)非常豐富了。
英特爾的定位：實現(xiàn)選擇最大化
新智元：英特爾與許多醫(yī)療相關(guān)的企業(yè)和研究機構(gòu)合作，在選擇合作伙伴和項目方面的標(biāo)準(zhǔn)是什么？
Arjun Bansal：英特爾在智能醫(yī)療領(lǐng)域的合作伙伴，比如說生物技術(shù)公司、醫(yī)院還有醫(yī)藥公司，很多都是我們既有的客戶，他們已經(jīng)大量使用英特爾的計算和存儲產(chǎn)品。我們和這些既有的合作伙伴一起，在新的AI領(lǐng)域當(dāng)中合作。有一些合作方可能沒有自己的數(shù)據(jù)科學(xué)家資源，我們會為他們提供相應(yīng)的能力，有一些合作方有自己的數(shù)據(jù)科學(xué)家資源，我們英特爾幫他們做的主要是對模型進一步優(yōu)化，比如軟件或者芯片。因為我們能夠提供全棧式解決方案，所以具體的合作取決于合作方的需求和他們內(nèi)部的能力，比如需要獲得診斷能力的醫(yī)院，我們會按照他們需要的方式，將技術(shù)或者原型投入到主流的實際產(chǎn)品當(dāng)中去。
新智元：英特爾對于精準(zhǔn)醫(yī)療的生態(tài)有怎樣的設(shè)想和布局？最先落地的或者說目前成果最多的是哪方面的應(yīng)用？
Arjun Bansal：我們密切關(guān)注著這個市場的變化，精準(zhǔn)醫(yī)療需要大量的技術(shù)支撐，所以算法和模型會很關(guān)鍵。我們有和數(shù)據(jù)收集和分析有關(guān)的項目，也有針對個人用戶的核磁共振和CT掃描的解決方案，還有對系統(tǒng)收集和觀察到的東西進行分析的能力。我們在智能醫(yī)療上大力投入，但我們的工作目標(biāo)并不是生產(chǎn)面向最終消費者的產(chǎn)品，而是與合作伙伴，包括獨立軟件開發(fā)商共同合作。英特爾擁有端到端的、業(yè)界領(lǐng)先的人工智能全棧解決方案，我們會與合作方配合，針對不同的使用目的，提供特定的解決方案。
我認(rèn)為落地比較快的是CPU方面的成果。從數(shù)據(jù)科學(xué)家角度來說，第一步還是從CPU開始的。再下一步要看具體的情況，比如說對于計算能力的要求、對于數(shù)據(jù)分析能力的要求、對于延時的要求、對于速度的要求、對于內(nèi)存規(guī)模的要求，不同的要求會有不同的解決方案，這取決于最終的用途到底是什么。所以，英特爾的優(yōu)勢是在于我們提供選擇的空間，你可以根據(jù)自己的實際需要來選擇，是使用FPGA還是CPU還是NNP（神經(jīng)網(wǎng)絡(luò)處理器）。
至于應(yīng)用，在輔助醫(yī)生閱片方面，我們與浙江醫(yī)院合作，已經(jīng)有實際部署，病人已經(jīng)在使用了。算法有一定的能力，準(zhǔn)確度也在不斷提高，但是仍然處在將原型帶到這個市場變成實際產(chǎn)品的過程當(dāng)中。在這個過程當(dāng)中，還是要針對不同的用途，面向不同的挑戰(zhàn)來進行處理。比如說有一些我們的合作方或者客戶，它面臨的是政府監(jiān)管的挑戰(zhàn)，還有一些是社會認(rèn)知上的誤解，覺得這些新技術(shù)的采用會讓很多人失去飯碗。還有一些人比較關(guān)注個人隱私，數(shù)據(jù)會不會被泄露。所以還是要看不同用途、不同挑戰(zhàn)，根據(jù)合作伙伴的實際需要相應(yīng)的加以處理。在中國和印度這種人口很多，但相對來說醫(yī)生數(shù)量又不夠的國家，相應(yīng)的部署速度還是非?？斓摹?/p>
新智元：現(xiàn)在醫(yī)療領(lǐng)域很大一部分?jǐn)?shù)據(jù)是圖像數(shù)據(jù)，而說到影像處理，GPU有天然的優(yōu)勢，英偉達(dá)也在智能醫(yī)療領(lǐng)域大量投入，建立了生態(tài)。與之相比，英特爾的特點和優(yōu)勢在哪里？
Arjun Bansal：前面我提到英特爾與浙江醫(yī)院的合作，甲狀腺檢測，就是處理醫(yī)療影像。另外我們與GE醫(yī)療合作，主要是做CT掃描，還有合作方做核磁共振，以及做腫瘤檢測、人體器官掃描分析，這些都涉及圖像處理。實際上現(xiàn)在在醫(yī)學(xué)影像方面，我們做得還是不錯的，也有實際客戶在使用。醫(yī)學(xué)影像一個很大的挑戰(zhàn)，就是需要在內(nèi)存里面放大量的數(shù)據(jù)組，這意味著要實現(xiàn)深度學(xué)習(xí)的能力，需要占用很大的字節(jié)空間，而CPU在處理大量數(shù)據(jù)的時候，精度是比GPU更高的。在自然語言處理和字節(jié)空間上我們有一定的技術(shù)優(yōu)勢，這也是我們接下來繼續(xù)努力的方向，就是如何把大規(guī)模的數(shù)據(jù)放在內(nèi)存里面。然后在此基礎(chǔ)上，還要有空間去訓(xùn)練模型，這也是英特爾可以做的。
總之，對客戶也好、對供應(yīng)商也好、對伙伴也好，我們是可以實現(xiàn)選擇最大化的那一家公司。
