日韩视频精品在线,亚洲精品美女久久久aaa

大數(shù)據(jù)文摘出品

來源：theverge

編譯：lin、木槿、夏雅薇

衡量AI的智能程度是計(jì)算機(jī)科學(xué)領(lǐng)域中最為棘手和最重要的問題之一，如果你不知道自己建造的機(jī)器是否比昨天更聰明，那如何知道自己正在取得進(jìn)展呢？

乍一看，這似乎不是一個(gè)問題。有人會(huì)說顯然人工智能正在變得更加智能，你只需要看該領(lǐng)域涌入的金錢和人才。歷史里程碑上記錄著人工智能在圍棋上擊敗人類，現(xiàn)如今滿大街都是可以解決十年前問題的應(yīng)用程序，比如圖像識(shí)別。這難道不是進(jìn)步嗎？

智能對(duì)于AI到底意味著什么？

還有人說這些成就并不是衡量智能化程度的好標(biāo)準(zhǔn)，在國際象棋和圍棋上擊敗人類確實(shí)令人印象深刻，但是如果最聰明的計(jì)算機(jī)只會(huì)解決小孩或者老鼠能解決的問題，這樣的成就又有什么意義呢？

這是一位叫做Fran?ois Chollet的AI研究人員提出的批評(píng)意見，他是谷歌的軟件工程師和機(jī)器學(xué)習(xí)社區(qū)中的知名人士，他創(chuàng)建了Keras，Keras是一種廣泛使用的程序，可用于開發(fā)神經(jīng)網(wǎng)絡(luò)（當(dāng)代AI的精髓）。他還撰寫了許多有關(guān)機(jī)器學(xué)習(xí)的教科書，并維護(hù)了一個(gè)受歡迎的Twitter供稿，在其中分享他在該領(lǐng)域的觀點(diǎn)。

他在最近發(fā)表一篇題為“關(guān)于智能的度量”論文中提出一個(gè)觀點(diǎn)，人工智能領(lǐng)域需要重新關(guān)注什么是智能，什么不是智能；如果想在通用人工智能方面取得進(jìn)步，研究人員需要分析諸如電玩游戲和棋盤游戲流行的原因，并且開始思考到底什么技能使人類變得更聰明，例如概括和適應(yīng)能力。

論文鏈接：

https://arxiv.org/abs/1911.01547

在接受The Verge的電子郵件采訪時(shí)，他闡述了對(duì)這個(gè)主題的看法，并解釋為什么他堅(jiān)信人工智能的成就被歪曲了，我們未來應(yīng)該如何衡量智能以及為什么諸如馬斯克等人講述的超級(jí)智能AI的恐怖故事對(duì)公眾的影響力如此之大。

為了方便閱讀，我們對(duì)這次的采訪進(jìn)行了不改變原意的編輯，和文摘菌一起來看看吧~

在你的論文中，你描述了兩種塑造AI領(lǐng)域的不同智能概念，第一種將智能表示為在各種任務(wù)中表現(xiàn)出色；另一種智能則將適應(yīng)性和概括性作為優(yōu)先特質(zhì)，這可以提升AI應(yīng)對(duì)新挑戰(zhàn)的能力。哪種概念是目前的主流，對(duì)應(yīng)的影響是什么？

人工智能領(lǐng)域的前三十年中，最有影響力的是前者，將智能作為一組靜態(tài)程序和明確的知識(shí)庫。目前，智能的概念已經(jīng)有偏向后者的趨勢，在AI社區(qū)中智能概念化的主導(dǎo)方式是“白板”，一個(gè)更加貼切的比喻是“新初始化的深度神經(jīng)網(wǎng)絡(luò)”。這個(gè)框架幾乎沒有受到挑戰(zhàn)，甚至沒受到審查。這些問題有大概30年的學(xué)術(shù)歷史，而我對(duì)這個(gè)領(lǐng)域的了解也不是很多，大多數(shù)人都是在2016年以后才進(jìn)入深度學(xué)習(xí)領(lǐng)域的。

擁有這樣的知識(shí)壟斷絕對(duì)不是一件好事，特別是對(duì)于沒有很好解決的科學(xué)問題。它限制了大家對(duì)這個(gè)問題的想象空間。研究人員現(xiàn)在才開始意識(shí)到這個(gè)問題。

在你的論文中，你還提到一個(gè)案例，在這個(gè)案例里，需要對(duì)智能更完善的定義，AI才能提升表現(xiàn)，研究人員專注于研究諸如電玩游戲和棋盤游戲的靜態(tài)測試中的性能好壞。為什么你覺得這種衡量方法不夠智能？

關(guān)鍵在于，你一旦選擇了一個(gè)衡量標(biāo)準(zhǔn)，你就會(huì)使用一切可以使用的捷徑。比如說你選擇下棋作為智力的衡量標(biāo)準(zhǔn)（從70年代到90年代都是這樣做的），那么最終你得到的是一個(gè)會(huì)下棋的系統(tǒng)。這對(duì)其他事情就沒什么幫助，你最終會(huì)進(jìn)行樹搜索和極大極小化，但是這并不能說明你對(duì)人工智能有多了解了。如今，在諸如dota或StarCraft之類的電玩游戲中，將游戲技能作為智能程度的指標(biāo)也陷入了同樣的誤區(qū)。

對(duì)人類而言技能和智力是密切相關(guān)的。人腦可以利用智力來獲取特定任務(wù)的技能，一個(gè)真正擅長下國際象棋的人會(huì)被認(rèn)為非常聰明，因?yàn)槲覀兌技僭O(shè)他們是從零開始，必須利用他們的智力來學(xué)習(xí)下棋。他們不是天生就會(huì)下棋，所以我們知道他們可以將這種普遍的智能引導(dǎo)到其他任務(wù)上，并且同樣高效地完成其他任務(wù)，這就是一般性的意義。

機(jī)器沒有人的這種限制，機(jī)器完全可以被設(shè)計(jì)成專門用來下棋的。因此，我們對(duì)人類所做的推論（可以下棋，就是聰明的）就被推翻了，我們的擬人化假設(shè)不再適用。通常智能可以生成特定任務(wù)的技能，但是沒有從特殊到普遍的反向路徑。因此，在機(jī)器中技能與智能相互獨(dú)立，只要你獲取足夠和任務(wù)相關(guān)的數(shù)據(jù)或者足夠的工程資源就可以獲得處理任何任務(wù)的技能，但是這不會(huì)讓機(jī)器更接近一般智能。

所以問題的關(guān)鍵在于沒有任何一項(xiàng)任務(wù)可以使高技能成為智能的標(biāo)志，除非該任務(wù)實(shí)際是一個(gè)元任務(wù)，這樣它就涉及到在處理相關(guān)未知問題時(shí)獲取新的技能，這正是我提出的智能衡量標(biāo)準(zhǔn)。

當(dāng)前的這些衡量標(biāo)準(zhǔn)無法幫助我們開發(fā)更通用、靈活的AI，那為什么它們還如此受歡迎？

毫無疑問，在特定的知名電子游戲中擊敗人類冠軍的成就主要是這些項(xiàng)目背后的新聞報(bào)道推動(dòng)的。如果公眾對(duì)這些令人影響深刻的里程碑不感興趣，那么研究人員也就不會(huì)花這么多時(shí)間在這些事上。

新聞報(bào)道讓我們關(guān)注電玩游戲中的AI。我對(duì)此表示悲哀，因?yàn)檠芯繎?yīng)該解決開放的科學(xué)問題，而不是過度關(guān)注公關(guān)。如果我打算使用深度學(xué)習(xí)以非常高的水平玩好魔獸爭霸Ⅲ，那么可以肯定的是，只要我有足夠的人才和計(jì)算能力就可以實(shí)現(xiàn)，類似的任務(wù)大約花費(fèi)幾千萬美元。

但是一旦完成，我將學(xué)到什么有關(guān)于智力或泛化的知識(shí)嘛？沒有，什么都沒有，充其量我會(huì)掌握有關(guān)拓展深度學(xué)習(xí)的工程知識(shí)。因此，我不會(huì)把這看作科學(xué)研究，因?yàn)樗粫?huì)教給我們新知識(shí)，也沒有回答尚未解決的問題。如果問題是“我們可以以超人的水平玩X嗎？”，答案是肯定的，只要可以生成足夠密集的訓(xùn)練樣本并將其輸入到具有足夠計(jì)算力的深度學(xué)習(xí)模型中就可以，這是我們早就知道的事實(shí)（實(shí)際上，在Dota2和StarcraftⅡ比賽中，AI尚未奪冠的時(shí)候我就說過）。

你認(rèn)為這些項(xiàng)目的實(shí)際成就是什么？項(xiàng)目成果多大程度被誤解或歪曲？

我看到的一個(gè)明顯的錯(cuò)誤表述是，這些高技能的游戲系統(tǒng)代表著AI系統(tǒng)的真正進(jìn)步，可以處理現(xiàn)實(shí)世界的復(fù)雜性和不確定性”問題，比如OpenAI在其Dota2機(jī)器人玩家OpenAI Five的新聞稿中聲稱的那樣。

事實(shí)上他們做不到，如果他們做到了，那將是一個(gè)非常有價(jià)值的研究領(lǐng)域。以O(shè)penAI Five為例：它一開始就無法處理Dota 2的復(fù)雜性，因?yàn)樗槐挥?xùn)練了16個(gè)角色，無法覆蓋擁有超過100個(gè)角色的游戲。它被訓(xùn)練了超過45,000個(gè)游戲年，其次請(qǐng)注意訓(xùn)練數(shù)據(jù)需求是如何與任務(wù)復(fù)雜性相結(jié)合而增長-然而最終的模型卻非常脆弱：在AI對(duì)公眾開放之后的幾天內(nèi)，非頂級(jí)真人玩家就能夠找到了戰(zhàn)勝它的策略。

如果你希望有朝一日能夠處理現(xiàn)實(shí)世界的復(fù)雜性和不確定性，你需要開始問一些問題，例如什么是泛化？我們?nèi)绾魏饬亢妥畲蠡瘜W(xué)習(xí)系統(tǒng)的泛化能力？這與在大型神經(jīng)網(wǎng)絡(luò)中投入10倍以上的數(shù)據(jù)和計(jì)算才可以將其能力提高一點(diǎn)點(diǎn)完全呈正交性。那么什么方式可以更有效地衡量AI的智能程度呢？

簡而言之，我們需要停止對(duì)事先已知的任務(wù)（如國際象棋，Dota或《星際爭霸》）進(jìn)行技能評(píng)估，而應(yīng)開始評(píng)估技能習(xí)得能力。這意味著僅給機(jī)器未知的新任務(wù)，測量其相關(guān)領(lǐng)域的知識(shí)水平，并測量系統(tǒng)的采樣效率（即學(xué)會(huì)這個(gè)任務(wù)需要多少數(shù)據(jù)）。為了達(dá)到給定的技能水平，所需的信息（先驗(yàn)知識(shí)和經(jīng)驗(yàn)）越少，系統(tǒng)就越智能。如今的AI系統(tǒng)實(shí)際上根本不那么智能。

另外，我認(rèn)為我們對(duì)機(jī)器智能的測度應(yīng)該更加明確它與人類智能的相似性，因?yàn)榭赡艽嬖诓煌愋偷闹悄?，而?dāng)我們談?wù)撘话阒悄軙r(shí)，我們實(shí)際上就是在隱含地談?wù)擃惾说闹悄?。這涉及試圖了解人類天生具有哪些先驗(yàn)知識(shí)。人類擁有著無與倫比的學(xué)習(xí)效率-只需要很少的經(jīng)驗(yàn)就能掌握新技能-但人類不是從零開始學(xué)的。除了一生積累的技能和知識(shí)，他們還利用先天先驗(yàn)知識(shí)。

我最近的論文提出了一個(gè)新的基準(zhǔn)數(shù)據(jù)集ARC，它看起來很像IQ測試。ARC是一組推理任務(wù)，其中每個(gè)任務(wù)都是通過一小段演示序列（通常是三個(gè)）來解釋的，你應(yīng)該從這幾個(gè)演示中學(xué)習(xí)如何完成任務(wù)。ARC的立場是，系統(tǒng)用于評(píng)估的每個(gè)任務(wù)都應(yīng)該是全新的，并且只包含與人類先驗(yàn)知識(shí)相適應(yīng)的知識(shí)。例如，它不應(yīng)使用語言。目前，ARC對(duì)于人來講是完全可解的，無需任何口頭解釋或事先培訓(xùn)，但迄今為止我們嘗試過的任何AI技術(shù)都無法達(dá)成。這是一個(gè)明顯的信號(hào)，我們需要新的想法。

如果繼續(xù)在問題上投入更多算力，你覺得人工智能還有發(fā)展嗎？有人認(rèn)為，從歷史上看，這是提高性能的最好方法。而其他人則認(rèn)為，如果我們沿著這條路走下去，很快會(huì)看到收益遞減。

如果要執(zhí)行某個(gè)特定任務(wù)，算力這條路絕對(duì)是正確的。在垂直任務(wù)上投入更多的訓(xùn)練數(shù)據(jù)和計(jì)算能力將提高機(jī)器解決該任務(wù)的性能。但它不會(huì)對(duì)如何實(shí)現(xiàn)人工智能的通用性有任何貢獻(xiàn)。

如果你有足夠大的深度學(xué)習(xí)模型，并且在任務(wù)的輸入-輸出跨空間的密集采樣中對(duì)其進(jìn)行訓(xùn)練，它將學(xué)會(huì)解決任務(wù)的方法-無論是Dota也好，或者StarCraft，你可以為其取名。這非常有價(jià)值。在機(jī)器感知問題中幾乎具有無限的應(yīng)用。唯一的問題是，所需的訓(xùn)練數(shù)據(jù)量是任務(wù)復(fù)雜度的組合函數(shù)，因此，即使是略微復(fù)雜的任務(wù)也可能變得非常昂貴。

以自動(dòng)駕駛汽車為例。數(shù)以百萬計(jì)的訓(xùn)練情況不足以使端到端深度學(xué)習(xí)模型學(xué)會(huì)安全駕駛汽車。這就是為什么還沒有L5自動(dòng)駕駛的原因。其次，最先進(jìn)的自動(dòng)駕駛系統(tǒng)主要是使用深度學(xué)習(xí)將這些人工設(shè)計(jì)的模型與傳感器數(shù)據(jù)相連接的符號(hào)模型。如果深度學(xué)習(xí)可以泛化，我們也許會(huì)在2016年就可以有L5自動(dòng)駕駛，它會(huì)采用大型神經(jīng)網(wǎng)絡(luò)的形式。

最后，考慮到當(dāng)前AI系統(tǒng)的局限性，似乎值得問一下有關(guān)超級(jí)智能的概念，有人擔(dān)心功能強(qiáng)大的AI可能在不久的將來對(duì)人類造成極大傷害的恐懼。你認(rèn)為這種恐慌是合理的嗎？

我不覺得超級(jí)智能的敘述是有根據(jù)的。我們從未創(chuàng)建過一個(gè)自主的智能系統(tǒng)。也絕對(duì)沒有跡象表明我們可以在可預(yù)見的未來創(chuàng)建一個(gè)。（這不是當(dāng)前AI的發(fā)展方向。）而且，即使我們最終在不久的將來創(chuàng)造出了一個(gè)，我們也無法推測它可能具有什么特征。打個(gè)比方，這有點(diǎn)像在1600年問：“彈道學(xué)發(fā)展這么快！如果我們擁有能消滅整個(gè)城市的大炮該怎么辦？我們?nèi)绾未_保它只會(huì)殺死壞人？” 這個(gè)問題本身就有問題，在缺乏對(duì)該系統(tǒng)基本了解的情況下討論這個(gè)問題，充其量只是哲學(xué)探討。

這些對(duì)于超級(jí)智能的恐懼，掩蓋了AI有可能在當(dāng)今變得非常危險(xiǎn)的事實(shí)。普通的人工智能已經(jīng)有很多隱患了。我寫過關(guān)于使用AI來實(shí)現(xiàn)算法推廣系統(tǒng)的文章。其他人寫過算法偏差的危害，以及在武器系統(tǒng)中使用AI或?qū)I作為極權(quán)主義控制工具。

有一個(gè)關(guān)于1453年君士坦丁堡被圍困的故事。這座城市在與奧斯曼帝國軍隊(duì)作戰(zhàn)時(shí)，其學(xué)者和統(tǒng)治者卻在爭論天使的性別。好吧，我們花越多的精力專注討論天使的性別或假設(shè)的超級(jí)智能AI的價(jià)值取向，我們用來處理當(dāng)今AI技術(shù)所面臨的緊迫問題的精力就越少。一位著名的技術(shù)領(lǐng)導(dǎo)者喜歡將超智能AI描述為對(duì)人類的生存威脅。好吧，這些想法會(huì)成為頭條新聞，但你卻不討論因部署不夠準(zhǔn)確，自動(dòng)駕駛系統(tǒng)引起的撞車和人員傷亡等道德問題。

如果真像你所說的目前尚無科學(xué)依據(jù)支持這些言論，那為什么超級(jí)智能的說法這么受歡迎？

我認(rèn)為這是一個(gè)好故事，人們?nèi)菀妆缓霉适挛?。它與末世論的宗教故事相似并非偶然，因?yàn)榻?jīng)年累月的不斷發(fā)展和選擇淘汰，宗教故事已經(jīng)可以引起人們的強(qiáng)烈共鳴并形成有效傳播。出于同樣的原因，你也可以在科幻電影和小說中找到這種敘述。它被用在小說中的原因，類似于宗教敘事的原因，也可以用來解釋為什么這變成了AI的一種流行解讀：因?yàn)檫@是一個(gè)好故事。人們需要故事來理解世界。對(duì)此類故事的需求遠(yuǎn)比了解智能的本質(zhì)需求或了解什么推動(dòng)技術(shù)進(jìn)步的需求強(qiáng)得多。

本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊舉報(bào)。

免费视频淫片aa毛片_日韩高清在线亚洲专区vr_日韩大片免费观看视频播放_亚洲欧美国产精品完整版