AI會(huì)變成新物種嗎？AI會(huì)毀滅人類嗎？科幻電影里的場(chǎng)景真的會(huì)發(fā)生嗎？
這個(gè)話題在科技圈不斷發(fā)酵，越來(lái)愈多的前沿科學(xué)家和企業(yè)家參與到這場(chǎng)辯論里。今天AI自媒體量子位針對(duì)這個(gè)話題對(duì)我做了專訪，我把文章分享給大家。
如果你有觀點(diǎn)和問(wèn)題想要和我分享，歡迎在文末留言。我會(huì)精選一些留言，集中回復(fù)。
十天前，硅谷鋼鐵俠、特斯拉CEO伊隆·馬斯克在幾十位美國(guó)州長(zhǎng)面前，聲稱AI是對(duì)人類存在的最大威脅，并且呼吁加強(qiáng)對(duì)AI的監(jiān)管。
雖然馬斯克鼓吹這一論調(diào)已經(jīng)多年，但這次整個(gè)AI界似乎都站到了他的對(duì)面，對(duì)他的批評(píng)聲不絕于耳，直到Facebook創(chuàng)始人扎克伯格出手，事件到達(dá)了高潮。
“我認(rèn)為那些對(duì)AI持否定態(tài)度或者鼓吹末日論的人，其實(shí)根本沒(méi)理解什么是AI。他們的看法太消極了，甚至有些不負(fù)責(zé)任”，扎克伯格談到馬斯克時(shí)如是說(shuō)。他還補(bǔ)充道“未來(lái)5-10年內(nèi)，AI將大幅提高我們的生活質(zhì)量?！?/span>
這很快成為搶眼的新聞標(biāo)題，而馬斯克也通過(guò)推特給予了回?fù)簦骸拔腋≡倪^(guò)了。他對(duì)這事兒（AI）的理解有限”。
不負(fù)責(zé)任vs理解有限。
應(yīng)該如何正確看待馬斯克和扎克伯格這次關(guān)于AI的隔空交手？AI是個(gè)末日威脅么？量子位就這個(gè)問(wèn)題，請(qǐng)教了李開(kāi)復(fù)博士。
他的核心觀點(diǎn)：
1、Facebook有世界頂尖AI團(tuán)隊(duì)，扎克伯格在這個(gè)問(wèn)題上肯定不會(huì)“理解有限”。
2、明確反對(duì)馬斯克“AI終將滅絕人類”的悲觀論調(diào)。AI現(xiàn)在僅僅是人類的工具，離擁有意識(shí)的“超級(jí)智能（Superintelligence）”還非常遙遠(yuǎn)，更別提滅絕人類了。
3、過(guò)去幾個(gè)月，國(guó)內(nèi)外AI專家、圖靈獎(jiǎng)國(guó)際得主就這個(gè)話題也有過(guò)不少交流，大家基本都同意扎克伯格、李開(kāi)復(fù)的觀點(diǎn)。
4、馬斯克如此高調(diào)頻繁地宣揚(yáng)AI帶來(lái)的威脅，可能會(huì)讓大眾忽視AI正在帶來(lái)的巨大機(jī)遇，也會(huì)讓更多更緊迫的AI問(wèn)題沒(méi)有得到關(guān)注，這只會(huì)撿了芝麻丟了西瓜。
以下為李開(kāi)復(fù)專訪文章
量子位問(wèn)我關(guān)于這次馬斯克和扎克伯格辯論AI未來(lái)的看法。
坦白講，我不太認(rèn)同伊隆·馬斯克“AI滅絕人類”的觀點(diǎn)，對(duì)于當(dāng)前AI的發(fā)展看法，我有5個(gè)方面的具體觀點(diǎn)：
1、AI只是工具，離超級(jí)智能還很遠(yuǎn)；基于我投入AI領(lǐng)域的科研、開(kāi)發(fā)、投資相關(guān)工作37年的經(jīng)驗(yàn)，“超級(jí)智能”、“滅絕人類”這類聳人聽(tīng)聞的說(shuō)法，根本沒(méi)有切實(shí)的工程基礎(chǔ)。
2、智庫(kù)、科學(xué)家應(yīng)該討論AI安全問(wèn)題、AI對(duì)社會(huì)的改變，但是科技圈的意見(jiàn)領(lǐng)袖不應(yīng)該在這時(shí)誤導(dǎo)大眾AI要控制人類，讓人類滅亡，這確實(shí)是不負(fù)責(zé)的說(shuō)法。大部分的人已經(jīng)對(duì)AI所知有限，這會(huì)造成更為錯(cuò)誤不實(shí)的群眾恐慌。
3、AI可以為人類創(chuàng)造大量財(cái)富，甚至逐漸解決人類溫飽問(wèn)題；我們每個(gè)人也將獲得更多的時(shí)間和自由，來(lái)做我們愛(ài)做的事情。
4、AI真實(shí)會(huì)帶來(lái)的問(wèn)題是人類的失業(yè)，失業(yè)后可能的抑郁和喪志問(wèn)題，還有貧富不均問(wèn)題，人類社會(huì)目前所習(xí)慣的職業(yè)結(jié)構(gòu)確實(shí)會(huì)發(fā)生顯著的改變。
5、AI會(huì)帶給我們100%確定性的巨大機(jī)會(huì)，隨著改變也會(huì)產(chǎn)生些必然的問(wèn)題。此時(shí)去用概率極低甚至是零可能性的“超級(jí)智能”，誤導(dǎo)大眾恐懼AI，甚至約束AI，反而不去擁抱機(jī)會(huì)、解決問(wèn)題，是沒(méi)有道理的。
AI大咖們?cè)趺纯矗?/span>
這其中有我的看法，也有一些已是業(yè)內(nèi)不少專家的共識(shí)。如果我們?nèi)?wèn)頂尖AI專家，絕大多數(shù)是同意扎克伯格和我的看法的，比如說(shuō)圖靈獎(jiǎng)得主Rodney Brooks。
Rodney Brooks的觀點(diǎn)是：“有很多人都聲稱AI是人類存在的威脅：斯蒂芬·霍金、馬丁·里斯爵士……在沒(méi)有親身在AI領(lǐng)域工作的情況下，這樣的想法很普遍。我們能夠理解，對(duì)于那些不在AI領(lǐng)域工作的人，要通過(guò)產(chǎn)品級(jí)別的東西來(lái)弄明白一些問(wèn)題有多么困難。他們會(huì)根據(jù)一個(gè)領(lǐng)域的一個(gè)AI成果，就一概而論地認(rèn)為AI會(huì)在多領(lǐng)域超過(guò)人類。但是其實(shí)今天的AI，只是在某一個(gè)狹窄領(lǐng)域基于大數(shù)據(jù)優(yōu)化，只能說(shuō)是個(gè)很厲害的模式識(shí)別引擎。要做到通用的、無(wú)所不能的AI根本不知從何開(kāi)始?！?/span>
另外，Rodney Brooks也提到，馬斯克想要立法管理AI，但是需要管理的通用AI都不存在，如何立法？
實(shí)際上，今年五月在上海的ACM圖靈獎(jiǎng)五十周年大會(huì)論壇討論上，我和三位圖靈獎(jiǎng)獲得者討論時(shí)，基本也是類似觀點(diǎn)，描述了人類今天并不知道如何做出“超級(jí)智能”，也否定了量子計(jì)算取代大腦的一說(shuō)。
當(dāng)然，持“AI末日論”觀點(diǎn)的除了馬斯克，另一知名的人是斯蒂芬·霍金，霍金是杰出的物理學(xué)教授，但并不意味著他在AI方面的觀點(diǎn)也同樣令人認(rèn)同。
著名的AI研究專家Michael Jordan就直言不諱地說(shuō)過(guò)，如果你有物理學(xué)方面的問(wèn)題，可以向霍金求教，但如果是AI方面的問(wèn)題，可能更合適的人選是自己。
吳恩達(dá)聽(tīng)到霍金馬斯克等關(guān)于“超級(jí)人工智能”的觀點(diǎn)時(shí)，他直接忍不住地用手蓋住了臉。
吳恩達(dá)說(shuō)：作為真的做AI產(chǎn)品的人，我看不到今天的AI可能發(fā)展為邪惡力量的任何可能性。
甚至在聽(tīng)到“奇點(diǎn)理論”之類的觀點(diǎn)時(shí)，吳恩達(dá)索性翻白眼，他甚至說(shuō)：聽(tīng)到奇點(diǎn)，我的眼睛就會(huì)自動(dòng)翻白。
另一位知名的AI大咖Geoff Hinton也明確表示，未來(lái)50年內(nèi)，我不對(duì)什么“超級(jí)人工智能”的實(shí)際進(jìn)展抱有希望。
所以，我認(rèn)識(shí)的業(yè)界真正做過(guò)突破性計(jì)算機(jī)和AI科研工作的人，都是更支持扎克伯格的看法的。
實(shí)際上，許多硅谷主流的企業(yè)家、圖領(lǐng)獎(jiǎng)的科學(xué)家，已經(jīng)私下對(duì)馬斯克和霍金的言論不認(rèn)可有段時(shí)間了。我之前在《紐約時(shí)報(bào)》和《連線》的專欄文章中，其實(shí)也表達(dá)了這種“不認(rèn)可”，只是并沒(méi)有那么直白地針對(duì)馬斯克或霍金教授說(shuō)出來(lái)。
我在《連線》的專欄文章中說(shuō)：“一些自稱未來(lái)學(xué)家的人開(kāi)始對(duì)人工智能做出各種預(yù)言，他們談?wù)撝?jí)智能’、’奇點(diǎn)’、’人機(jī)結(jié)合’，甚至毫無(wú)根據(jù)地聲稱’我們其實(shí)就生活在電子游戲當(dāng)中’。這些反烏托邦的警告令人惴惴不安，這些言論大多出自世界級(jí)的科技大拿之口，又透過(guò)科幻小說(shuō)中那些大家所熟悉的橋段和場(chǎng)景而深植人心?！?/span>
實(shí)際上就是針對(duì)馬斯克一系列的言論觀點(diǎn)，希望提醒大家，區(qū)分“科幻”和“科學(xué)”的不同。
更加直白來(lái)說(shuō)，我認(rèn)為那些聳人聽(tīng)聞的預(yù)言并沒(méi)有切實(shí)的工程基礎(chǔ)?？啤盎谩毙≌f(shuō)主要是幻想，而不是“科”學(xué)。我們目前面臨的真正危機(jī)并不在于擔(dān)憂這樣的情況在遙遠(yuǎn)的未來(lái)可能會(huì)發(fā)生，而是解決即將到來(lái)的職業(yè)取代問(wèn)題。
但這一次扎克伯格這樣直白地反對(duì)和批評(píng)馬斯克，我覺(jué)得或許是真的認(rèn)為馬斯克的言論實(shí)在過(guò)激了，特別是面對(duì)美國(guó)重要的政治人物演講時(shí)，如此言之鑿鑿地談AI毀滅人類。
更早之前，Michael Jordan也明確批評(píng)過(guò)，他說(shuō)：AI科學(xué)家必須絕對(duì)誠(chéng)實(shí)，無(wú)論是對(duì)你的出資者、贊助商、員工、同行、同事、公眾，還有面對(duì)你自己。當(dāng)我們誠(chéng)實(shí)地面對(duì)AI時(shí)，有不誠(chéng)實(shí)或妄想者做出瘋狂的AI預(yù)言（而影響了公眾輿論甚至政府政策），這些人讓我們這些務(wù)實(shí)又誠(chéng)實(shí)的科學(xué)家活得很艱難。
機(jī)器人將會(huì)處理一切工作？不認(rèn)同
我也不認(rèn)同馬斯克“機(jī)器人將會(huì)處理一切工作”的看法，這有點(diǎn)以偏概全了。一方面，我同意AI將取代簡(jiǎn)單的、重復(fù)性的工作，但另一方面是我們完全可以給人類創(chuàng)造新的工作，而且是AI做不了的工作。
AI做不了的工作是什么呢？我們會(huì)發(fā)現(xiàn)主要是創(chuàng)造力和社交相關(guān)的能力，那么最多10%的工作屬于創(chuàng)造性部分，而90%就必須進(jìn)入社交為核心的服務(wù)型工作。
（詳見(jiàn)牛津2013文章http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf）
所以，我們要鼓勵(lì)更多年輕人走向創(chuàng)造的路線，無(wú)論是理工科學(xué)的發(fā)明，或者是人文藝術(shù)的創(chuàng)意。AI只能夠優(yōu)化，只有人才能夠創(chuàng)造。
另外，服務(wù)業(yè)會(huì)有很多的機(jī)會(huì)，尤其是社交屬性較強(qiáng)，“有愛(ài)”的服務(wù)業(yè)。這包括了已有的行業(yè)：熱情的導(dǎo)游、細(xì)心的禮賓、風(fēng)趣的調(diào)酒師、有感染力的美發(fā)師、饒富創(chuàng)意的壽司師傅。我們也會(huì)創(chuàng)造新的行業(yè)：可以上門服務(wù)的營(yíng)養(yǎng)廚師、能夠按照季節(jié)更替來(lái)上門服務(wù)的居家換季師、帶你年邁的父母去醫(yī)院的銀發(fā)關(guān)愛(ài)專家。甚至包括了一些志愿者型的工作：血庫(kù)的助工、孤兒院的老師、夏令營(yíng)的輔導(dǎo)員、誡癮互助會(huì)的發(fā)起人。
我們需要改變社會(huì)思想和教育，讓做服務(wù)業(yè)的人能夠從中得到滿足。如果服務(wù)業(yè)能夠盡量幫助他人，關(guān)懷他人，解決他人問(wèn)題或苦惱，讓他人開(kāi)心，這樣不就解決自我實(shí)現(xiàn)的問(wèn)題了嗎？（當(dāng)你做到這幾點(diǎn)的時(shí)候，是不是很開(kāi)心，很自豪呢？）
即便不是90%的人都從事這樣服務(wù)型的工作，假設(shè)只有50%做到，還有少數(shù)提早退休，專注自己的嗜好，或在網(wǎng)上消磨時(shí)間，只有極少數(shù)可能有抑郁或其它問(wèn)題。
這樣社會(huì)也穩(wěn)定下來(lái)了，不是嗎？
馬斯克應(yīng)該多聽(tīng)聽(tīng)AI專家的意見(jiàn)
最后，坦白講，我并不認(rèn)為通過(guò)這次辯論可以馬上改變馬斯克的觀點(diǎn)，畢竟他對(duì)“超級(jí)人工智能”如此堅(jiān)信而著迷——甚至影響他的那個(gè)作家改變主意了，他也看起來(lái)不準(zhǔn)備改變。馬斯克被OpenAI研究超級(jí)人工智能的科學(xué)家圍繞著，所以他們必然彼此影響鼓吹著末日論。就如扎克伯格被務(wù)實(shí)的Yann LeCun（Facebook AI研究院院長(zhǎng)）和創(chuàng)造商業(yè)價(jià)值的人工智能專家圍繞著，所以也一定彼此影響對(duì)AI保持樂(lè)觀。
雖然伊隆·馬斯克過(guò)去展現(xiàn)出的遠(yuǎn)見(jiàn)和戰(zhàn)略思維令人敬佩，對(duì)他啟動(dòng)OpenAI的初衷——開(kāi)放AI作為約束AI的一種方法，我也深感認(rèn)可，但對(duì)于馬斯克一直以來(lái)對(duì)于AI過(guò)于悲觀和具有毀滅性的論調(diào)，我卻非常不認(rèn)同。
相對(duì)來(lái)說(shuō)，我認(rèn)為在“AI和人類未來(lái)”這個(gè)話題上，我們應(yīng)該更多聽(tīng)取扎克伯格的看法，扎克伯格的團(tuán)隊(duì)是真實(shí)用了AI，解決了問(wèn)題，創(chuàng)造了價(jià)值。他麾下有Yann LeCun帶領(lǐng)的一流AI研究人才，他們很清楚目前AI能做什么、不能做什么，以及可預(yù)見(jiàn)的將來(lái)能做什么。
而且據(jù)說(shuō)馬斯克關(guān)于“超級(jí)人工智能”的觀點(diǎn)，受到牛津大學(xué)人類未來(lái)研究院院長(zhǎng)、《超級(jí)智能》的作者Nick Bostrom（尼克·波斯特洛姆）的啟發(fā)，但最近這個(gè)影響了馬斯克論點(diǎn)的人，也公開(kāi)表示“反水”了，他認(rèn)為自己書中所寫的超級(jí)人工智能帶來(lái)的悲慘情況，并不意味著有可能發(fā)生。
更早之前還有人告訴我，說(shuō)馬斯克之所以如此篤定超級(jí)人工智能的威脅，是因?yàn)镈eepMind當(dāng)年在尋求收購(gòu)時(shí)，曾表達(dá)了超級(jí)人工智能威脅之類的觀點(diǎn)，所以還要求收購(gòu)了他公司的人，要設(shè)立一個(gè)道德委員會(huì)去約束DeepMind未來(lái)的所作所為，免得毀滅人類。當(dāng)時(shí)的潛在收購(gòu)者之一馬斯克深受影響。
但DeepMind創(chuàng)始人哈薩比斯的要求，可能其實(shí)是在收購(gòu)案過(guò)程中開(kāi)的一個(gè)“策略”，讓他的團(tuán)隊(duì)看起來(lái)更強(qiáng)大。AlphaGo很強(qiáng)，但離“超級(jí)智能”還很遠(yuǎn)。并且哈薩比斯后來(lái)自己也承認(rèn)了，AI威脅人類的事情，還太過(guò)遙遠(yuǎn)。
所以對(duì)于AI和人類的關(guān)系，我認(rèn)為馬斯克應(yīng)該多聽(tīng)聽(tīng)真正的每天把AI當(dāng)做工作的人的看法。我認(rèn)為他也可以去和最頂尖的AI專家和圖靈獎(jiǎng)得主交流，看看為什么這些專家都不認(rèn)可他的“超級(jí)智能”和“末日觀”。
馬斯克這么多年確實(shí)有不少偉大的創(chuàng)新創(chuàng)作，而且基本沒(méi)有失敗過(guò)，但并不意味著他不需要在“超級(jí)智能”這個(gè)問(wèn)題上三思而后“談”。
（以上。小標(biāo)題為量子位添加）
聯(lián)系客服
