編者按：隨著低垂的果實(shí)被摘走，越來(lái)越多的人拋出疑問(wèn)“人工智能是否會(huì)再次進(jìn)入寒潮？”但很少有人知道寒潮的真實(shí)情況，人工智能經(jīng)過(guò)60多年的發(fā)展究竟在哪些方面已發(fā)生了變化，制約它發(fā)展的因素會(huì)有哪些，它會(huì)朝著什么方向演進(jìn)？面對(duì)種種制約條件，我們可以做出哪些努力?
文章通過(guò)與美國(guó)四院院士（全美在世僅3位）、深度學(xué)習(xí)的先驅(qū)及奠基人、《深度學(xué)習(xí)：智能時(shí)代的核心驅(qū)動(dòng)力量》一書(shū)作者特倫斯的深度交流，希望解開(kāi)上述問(wèn)題。
“深度學(xué)習(xí)只是通用人工智能的第一步。它基于我們的大腦皮層結(jié)構(gòu)，但我們的大腦還有許多其他區(qū)域可用于開(kāi)發(fā)通用智能，我們需要對(duì)這點(diǎn)加深理解?！?/div>
問(wèn)：你在AI的第一波浪潮時(shí)就參與研究，至今AI發(fā)生了哪些變化？
特倫斯：在20世紀(jì)80年代，計(jì)算機(jī)速度慢且價(jià)格昂貴，因此必須對(duì)它進(jìn)行邏輯化編程，但今天計(jì)算機(jī)的速度比過(guò)去要快一百萬(wàn)倍，并且通過(guò)深度學(xué)習(xí)，AI可以通過(guò)實(shí)例進(jìn)行自我編程。比如，當(dāng)我開(kāi)始研究AI時(shí)，我們只能解決小問(wèn)題，但今天可以通過(guò)更大的深度學(xué)習(xí)網(wǎng)絡(luò)解決難題。
問(wèn)：深度學(xué)習(xí)的本質(zhì)究竟是什么？
特倫斯：深度學(xué)習(xí)的成功基于在非常高維度的參數(shù)空間中，學(xué)習(xí)高度復(fù)雜的統(tǒng)計(jì)模型。這使它能夠解決現(xiàn)實(shí)世界中的統(tǒng)計(jì)問(wèn)題，例如語(yǔ)音識(shí)別和自然語(yǔ)言翻譯，這些問(wèn)題難度也是非常高的。
問(wèn)：你認(rèn)為公眾對(duì)深度學(xué)習(xí)的主要誤解有哪些？
特倫斯：人們擔(dān)心深度學(xué)習(xí)會(huì)奪走人類工作。相反，對(duì)人類而言，無(wú)論你是辦公室的白領(lǐng)或是醫(yī)生，深度學(xué)習(xí)都會(huì)使你變得更聰明。一些工作會(huì)徹底改變，但新的工作也會(huì)產(chǎn)生。
其實(shí)每當(dāng)一項(xiàng)新技術(shù)產(chǎn)生時(shí)，都會(huì)有一個(gè)調(diào)整過(guò)渡期，在此期間會(huì)有意想不到的結(jié)果發(fā)生。目前人們正在測(cè)試自動(dòng)駕駛汽車，但正如我在《深度學(xué)習(xí)》一書(shū)中描述的那樣，人類社會(huì)需要幾十年才能適應(yīng)這項(xiàng)新技術(shù)。
問(wèn)：最終深度學(xué)習(xí)會(huì)發(fā)展到什么水平？
特倫斯：深度學(xué)習(xí)只是通用人工智能的第一步。它基于我們的大腦皮層結(jié)構(gòu)，但我們的大腦還有許多其他區(qū)域可用于開(kāi)發(fā)通用智能，我們需要對(duì)這點(diǎn)加深理解。
問(wèn)：深度學(xué)習(xí)可以解決哪些領(lǐng)域的問(wèn)題？中國(guó)AI領(lǐng)域大概有20個(gè)獨(dú)角獸、30個(gè)準(zhǔn)獨(dú)角獸企業(yè)，這當(dāng)中近80%都與圖像識(shí)別或語(yǔ)音識(shí)別有關(guān)系，美國(guó)的AI企業(yè)是什么情況？
特倫斯：深度學(xué)習(xí)打開(kāi)了一扇門，讓人工智能通過(guò)語(yǔ)音、語(yǔ)言和視覺(jué)與人交流，而基于編寫(xiě)程序的AI無(wú)法做到這一點(diǎn)，因?yàn)閱?wèn)題各不相同導(dǎo)致編寫(xiě)的程序極大且復(fù)雜。
深度學(xué)習(xí)可以應(yīng)用于有足夠數(shù)據(jù)量的許多問(wèn)題，它還對(duì)許多其他問(wèn)題產(chǎn)生重大影響，例如：在醫(yī)學(xué)領(lǐng)域，深度學(xué)習(xí)對(duì)許多疾病的醫(yī)療診斷都好過(guò)或與最棒的醫(yī)生匹敵。深度學(xué)習(xí)在許多科學(xué)領(lǐng)域也非常有效，例如天文學(xué)和細(xì)胞生物學(xué)。
美國(guó)有數(shù)百家小型AI初創(chuàng)公司，有許多打造專用機(jī)器學(xué)習(xí)芯片的硬件初創(chuàng)公司。
問(wèn)：為什么美國(guó)會(huì)有那么多生產(chǎn)專用機(jī)器學(xué)習(xí)芯片的硬件公司？
特倫斯：計(jì)算能源成本是人工智能的終極限制。人類大腦中有1000億個(gè)神經(jīng)元，每個(gè)神經(jīng)元都與其他數(shù)千個(gè)神經(jīng)元相連，總計(jì)達(dá)千萬(wàn)億個(gè)突觸連接。大腦運(yùn)轉(zhuǎn)所需的功耗是20瓦，但一臺(tái)遠(yuǎn)不如大腦強(qiáng)大的千萬(wàn)億次級(jí)超級(jí)計(jì)算機(jī)，功耗卻為5兆瓦，是大腦功耗的25萬(wàn)倍。
目前最大的深度學(xué)習(xí)網(wǎng)絡(luò)只剛好嵌入像米粒大小的大腦部分，隨著學(xué)習(xí)系統(tǒng)的擴(kuò)展，發(fā)展AI必須制造出更節(jié)能的專用芯片，我們需要比現(xiàn)在強(qiáng)大一百萬(wàn)倍的硬件。如今我們才剛剛開(kāi)始：谷歌、微軟和亞馬遜等大型科技公司正在打造更節(jié)能的專用機(jī)器學(xué)習(xí)芯片。
問(wèn)：數(shù)據(jù)也是制約AI發(fā)展的重要原因，當(dāng)前大部分?jǐn)?shù)據(jù)都被集中在各國(guó)的科技巨頭手中，形成數(shù)據(jù)孤島。如果不保證數(shù)據(jù)具有完備性（多樣性、充足）的情況下，AI有可能做出錯(cuò)誤的決策，區(qū)塊鏈?zhǔn)欠袷瞧渲幸粋€(gè)解決方案？
特倫斯：區(qū)塊鏈技術(shù)有可能幫助我們解決數(shù)據(jù)訪問(wèn)問(wèn)題，這是世界各地正在探索的眾多解決方案之一。
二、AI的國(guó)界與治理
“因?yàn)槲覀儎?chuàng)造了AI，所以與管控人類自己相比，我們應(yīng)該能更好地管控AI，人類自身是更糟糕的麻煩制造者。”
問(wèn)：你認(rèn)為中美兩國(guó)在發(fā)展AI上誰(shuí)將更有優(yōu)勢(shì)？可以想象AI會(huì)對(duì)世界格局產(chǎn)生影響，那么政府在其中應(yīng)扮演什么樣的角色？
特倫斯：AI在全世界都在覺(jué)醒，任何國(guó)家都沒(méi)有壟斷地位。在20世紀(jì)80年代，只有少數(shù)大學(xué)擁有足夠的計(jì)算機(jī)能力來(lái)進(jìn)行AI研究。今天，任何擁有筆記本電腦的個(gè)人都可以做出重要的發(fā)現(xiàn)：AI已經(jīng)變得民主化，這意味著沒(méi)有人能預(yù)測(cè)下一項(xiàng)重大進(jìn)步將來(lái)自哪里。政府不應(yīng)對(duì)此阻撓，而應(yīng)加強(qiáng)國(guó)際合作促進(jìn)這一進(jìn)程。
問(wèn)：你在《深度學(xué)習(xí)》一書(shū)中也提及中國(guó)擁有更多的數(shù)據(jù)，但是否意味著更多的數(shù)據(jù)和更多的工程師，這種規(guī)模上的優(yōu)勢(shì)能倒推帶來(lái)基礎(chǔ)研究層面的突破或者決定技術(shù)的路線？
特倫斯：我在書(shū)中的評(píng)論是基于將當(dāng)前的AI技術(shù)應(yīng)用于AI可以解決的問(wèn)題，并且可以提供許多解決方案。但有些問(wèn)題可能需要一個(gè)新的突破，沒(méi)有人知道該突破發(fā)生的時(shí)間和地點(diǎn)。
問(wèn)：如今AI的應(yīng)用有明顯的邊界，要發(fā)揮人工智能的作用需要具備哪些條件？有人認(rèn)為脫離了五個(gè)條件（數(shù)據(jù)充足、確定性、完全的信息、靜態(tài)、特定領(lǐng)域的單任務(wù)）后，AI就很難發(fā)揮余地，你如何看？
特倫斯：當(dāng)前的這些限制最終將被克服。深度學(xué)習(xí)已經(jīng)與強(qiáng)化學(xué)習(xí)相結(jié)合，達(dá)到了圍棋世界冠軍水平。我們?cè)诖竽X中發(fā)現(xiàn)了許多其他類型的學(xué)習(xí)算法，這些算法將在未來(lái)大大增強(qiáng)AI的功能。
問(wèn)：的確，深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)結(jié)合，推動(dòng)了算法的自進(jìn)化。如果我們按照人的思維去推進(jìn)AI的發(fā)展，是否會(huì)使得AI的發(fā)展陷入困境中？如果AI的發(fā)展不在人們思維所預(yù)料之內(nèi)，是否未來(lái)會(huì)變得不可控？
特倫斯：所有技術(shù)都可以用于善惡目的。與我們共同存在的有些技術(shù)甚至比AI更具存在風(fēng)險(xiǎn)，如核武器和生物戰(zhàn)。到目前為止，我們通過(guò)識(shí)別并減輕風(fēng)險(xiǎn)已幸存下來(lái)。自然進(jìn)化賦予我們的智能幫助我們?cè)诓淮_定的環(huán)境中生存，而我們需要自救，從而在更加不確定的環(huán)境中生存。
問(wèn)：這似乎讓AI的治理已經(jīng)被迫提上了行程。
特倫斯：因?yàn)槲覀儎?chuàng)造了AI，所以與管控人類自己相比，我們應(yīng)該能更好地管控AI，人類自身是更糟糕的麻煩制造者。AI將有很多用途，我們現(xiàn)在甚至無(wú)法想象。我們必須應(yīng)對(duì)每項(xiàng)新的應(yīng)用，以確保它得到適當(dāng)?shù)谋O(jiān)管。
三、AI的進(jìn)化與破局
“當(dāng)前神經(jīng)科學(xué)領(lǐng)域正在發(fā)生一場(chǎng)革命，這將引發(fā)人們對(duì)大腦創(chuàng)造智能的新見(jiàn)解，但它還需要幾十年才能將這些發(fā)現(xiàn)轉(zhuǎn)化為下一代AI。”
問(wèn)：AI的系統(tǒng)如今還都非常脆弱容易受攻擊、欺騙，需要大量的數(shù)據(jù)，而且不可解釋，之所以造成這樣的缺陷的原因是什么？美國(guó)物理學(xué)家Freeman Dyson認(rèn)為目前AI方向有非常多大的噪音，整個(gè)圈子建立在了錯(cuò)誤的想法之上。因?yàn)榇竽X是模擬的，而機(jī)器是數(shù)字的，大腦被用來(lái)比較圖像和模式，機(jī)器可以做但靈活性很差。他認(rèn)為除非我們能做出模擬的模型，而非數(shù)字模型，我們才可能對(duì)大腦有更多的認(rèn)識(shí)，而很少人在朝這個(gè)方向努力。
特倫斯：我們不了解人類大腦的工作原理，但即使它并不完美，也并不能阻止我們對(duì)其使用。我們對(duì)神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)理解正在取得重大進(jìn)展，并且可以修復(fù)缺陷，但這需要很多年。我想Freeman Dyson可能沒(méi)有意識(shí)到這些進(jìn)步。
問(wèn)：我們對(duì)神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)理解加深，對(duì)AI的發(fā)展有什么重大的意義？
特倫斯：對(duì)一項(xiàng)技術(shù)有理論上的理解有助于對(duì)該技術(shù)做出重大改進(jìn)，但這會(huì)是一個(gè)漫長(zhǎng)的過(guò)程。例如，我們經(jīng)歷了從1903年萊特兄弟的第一次載人飛行發(fā)展到今天的大型噴氣式飛機(jī)。
問(wèn)：當(dāng)然也有人提出反問(wèn)：誰(shuí)規(guī)定AI必須按照人的智能來(lái)發(fā)展的？
特倫斯：大自然讓人類大腦進(jìn)化以解決許多問(wèn)題，我們可以從大自然中學(xué)到很多東西。大自然解決了這些問(wèn)題，這證明解決方案是可能的。直到最近，我們對(duì)大腦的工作原理還不太了解，但在21世紀(jì)已經(jīng)取得了很大進(jìn)展，對(duì)大腦的逆向工程才剛剛開(kāi)始。
問(wèn)：大自然的進(jìn)化的確讓我們認(rèn)識(shí)到AI現(xiàn)階段的問(wèn)題，未來(lái)也會(huì)有解決方案。但對(duì)進(jìn)化的理解是否也會(huì)限制AI的發(fā)展？商業(yè)公司在利用進(jìn)化帶給我們的直覺(jué)、感受對(duì)我們實(shí)現(xiàn)控制，比如利用進(jìn)化中人體對(duì)糖的需求從而向人們推銷甜食，但環(huán)境已經(jīng)發(fā)生了變化（原始社會(huì)中水果便是最甜的食物）。
特倫斯：人類在規(guī)范商業(yè)世界方面做得還不夠好。你在指出人類智能的缺陷，這可能不是AI的最佳目標(biāo)。
問(wèn)：那AI的最佳目標(biāo)是什么？
特倫斯：每個(gè)人都有自己的目標(biāo)。我認(rèn)為AI的最終目標(biāo)是讓人類更好地了解自己，并將天平向更好的方向傾斜——同舟共濟(jì)符合我們所有人的利益。
問(wèn)：這意味著未來(lái)我們將與機(jī)器共生。
特倫斯：“共生”很好地描述了人類和AI的合作方式，AI不會(huì)取代我們，反而會(huì)讓我們更聰明地做事。如今“共生”現(xiàn)象已在醫(yī)學(xué)和生物學(xué)領(lǐng)域發(fā)生。
問(wèn)：這讓我聯(lián)想到很多科幻電影里人與機(jī)器共存的場(chǎng)景。著名機(jī)器人制造專家Rodney Brooks認(rèn)為，要讓機(jī)器人完成日常任務(wù)，他們較高的認(rèn)知能力應(yīng)該基于感官運(yùn)動(dòng)與環(huán)境的相互作用，而不是抽象推理。你也提到復(fù)制身體反而比復(fù)制大腦更復(fù)雜。
特倫斯：我完全同意Rodney Brooks的觀點(diǎn)，即我們需要更好地了解我們的身體如何幫助我們解決問(wèn)題。自1956年AI出現(xiàn)以來(lái)，我們認(rèn)識(shí)到，我們認(rèn)為容易的問(wèn)題，如視覺(jué)、言語(yǔ)和運(yùn)動(dòng)控制，比我們想象得要困難得多，相比之下抽象推理要簡(jiǎn)單得多。
問(wèn)：雖然我們的大腦不是完全基于邏輯的，但不妨礙你的設(shè)想“如果大腦是基于邏輯的，那么它應(yīng)該是跨領(lǐng)域的通用智能”。AI是基于概率的統(tǒng)計(jì)，屬于數(shù)學(xué)范疇是基于邏輯的，那么是否證明AI實(shí)現(xiàn)通用是必然的？
特倫斯：AGI是一個(gè)系統(tǒng)級(jí)問(wèn)題，而我們還在解決外圍問(wèn)題。我們需要更多時(shí)間探索如何整合深度學(xué)習(xí)所能實(shí)現(xiàn)的所有功能。如今，Deep Mind振奮人心的研究正在引領(lǐng)潮流。
問(wèn)：當(dāng)前推動(dòng)AI發(fā)展的動(dòng)力是什么，接下來(lái)的新動(dòng)力又是什么？
特倫斯：從AI開(kāi)發(fā)到其轉(zhuǎn)化為大眾市場(chǎng)產(chǎn)品的時(shí)間約為50年。今天推動(dòng)AI發(fā)展的基本發(fā)現(xiàn)來(lái)自20世紀(jì)80年代。在已取得進(jìn)展的基礎(chǔ)上，當(dāng)前技術(shù)還需要幾十年的時(shí)間才能趨向成熟。
當(dāng)前神經(jīng)科學(xué)領(lǐng)域正在發(fā)生一場(chǎng)革命，這將引發(fā)人們對(duì)大腦創(chuàng)造智能的新見(jiàn)解，但它還需要幾十年才能將這些發(fā)現(xiàn)轉(zhuǎn)化為下一代AI。
問(wèn)：你認(rèn)為未來(lái)3年AI將會(huì)有哪些變化？
特倫斯：在現(xiàn)有技術(shù)的基礎(chǔ)上，短期內(nèi)的進(jìn)步將是漸進(jìn)的，而無(wú)法預(yù)測(cè)的主要進(jìn)步將在25年內(nèi)發(fā)生。
