的，人是從因果模式進(jìn)化而來的。我們?cè)撊绾蜗胂笞寵C(jī)器去進(jìn)化出這些東西？所以侯世達(dá)很懷疑現(xiàn)在的人工智能。雖然如今人工智能很火，而且在社會(huì)上應(yīng)用得很廣泛，但我想說，那種應(yīng)用不是真正意義上的人工智能，而是大數(shù)據(jù)應(yīng)用的一些方式。在我看來，‘人工智能’這個(gè)名字名不副實(shí)。侯世達(dá)想要做‘真正的人工智能’，因此他必須自覺地與現(xiàn)在做人工智能的人保持距離。這是因?yàn)樗麄儗?duì)自我的理解、對(duì)人的理解是非常不一樣。人不是一個(gè)算法，這是侯世達(dá)一個(gè)很核心的觀點(diǎn)?！?梅劍華說。
自我是不是一種幻覺？自由意志存在不存在？意識(shí)是什么？如果人只是一個(gè)純粹物理性的存在，那所有的道德、情感、倫理和美該如何解釋？想要做出侯世達(dá)眼里“真正的人工智能”，即一個(gè)跟人類一樣的人工智能，就必須要解釋以上的難題。在“人工智能威脅論”甚囂塵上的今天，這種反思顯得非常必要。我們?cè)谠O(shè)計(jì)人工智能的過程中，也是一個(gè)不斷發(fā)現(xiàn)和認(rèn)清自我的過程。
1月6日，曾寫過 “神書”《哥德爾、埃舍爾、巴赫——集異璧之大成》的作者侯世達(dá)的新書《我是個(gè)怪圈》，在中信書店芳草地店舉行了新書發(fā)布會(huì)。在會(huì)上，首都師范大學(xué)哲學(xué)系教授梅劍華、果殼網(wǎng)的聯(lián)合創(chuàng)始人小莊和中科創(chuàng)南的CTO、高級(jí)副總裁鄒鵬程一起談了談作者侯世達(dá)、人工智能與生命和人類意識(shí)的秘密。
《我是個(gè)怪圈》，作者：侯世達(dá)，譯者：修佳明，中信出版集團(tuán) | 湖岸，2019年1月
“現(xiàn)在的人工智能走在一個(gè)錯(cuò)誤的道路上”
梅劍華認(rèn)為，侯世達(dá)不能算一個(gè)嚴(yán)格意義上的哲學(xué)家，但是他的著作在哲學(xué)家中激起了強(qiáng)烈的反響。他的作品融匯了科學(xué)和哲學(xué)。他經(jīng)常談到哥德爾定理。假如要簡(jiǎn)單地用一句話去概述什么叫哥德爾定理，那就是“可證的不完全，完全的不可證”，即如果一個(gè)系統(tǒng)是可證的話，那么這個(gè)系統(tǒng)就不是完全的，肯定有漏掉的真理不能被定理表述出來；反過來說，如果這個(gè)系統(tǒng)是完全的，那么這里面起碼有一個(gè)真理我們是證明不了的。
在梅劍華看來，這就是侯世達(dá)遠(yuǎn)離當(dāng)下的人工智能研究的原因。侯世達(dá)認(rèn)為，我們現(xiàn)在談?wù)摰娜斯ぶ悄芎汀罢嬲娜斯ぶ悄堋庇泻艽髤^(qū)別。人可以發(fā)現(xiàn)一個(gè)形式系統(tǒng)里面不能證的東西，然后可以判定這個(gè)系統(tǒng)是不完全的，但是計(jì)算機(jī)卻發(fā)現(xiàn)不了。侯世達(dá)認(rèn)為，現(xiàn)在的人工智能走在一個(gè)錯(cuò)誤的道路上。
侯世達(dá)
所以，侯世達(dá)并不是一個(gè)人工智能研究者，而是一個(gè)認(rèn)知科學(xué)家。他在漫長(zhǎng)的研究中發(fā)現(xiàn)，大家現(xiàn)在做的人工智能，不論是機(jī)器學(xué)習(xí)還是深度學(xué)習(xí)，都是數(shù)據(jù)整合，在根本就是算法。而我們的大腦是不能被算法所窮盡的。不能被窮盡的東西有很多。比如說，我們的意識(shí)，我們的感受，都不能被窮盡。說得更根本一點(diǎn)，算法連我們的因果評(píng)判能力都不能窮盡，連再弱的意識(shí)都不行。這樣如何讓機(jī)器學(xué)習(xí)做因果推斷？這是不可能的。但小孩就能很快學(xué)會(huì)。比如說，小孩偶然間碰到火會(huì)“燙”，那下次他自然而然就不會(huì)去碰火。這是因?yàn)槿擞幸蚬Ｊ剑⒉皇撬惴ā?/p>
自我是一個(gè)幻覺？
那么，侯世達(dá)是如何理解意識(shí)和人的呢？我們通常認(rèn)為人有兩個(gè)部分——身體和心靈，或者更古老的說法叫靈魂。我們稱之為身心二元論。這個(gè)立場(chǎng)也是哲學(xué)界的主流立場(chǎng)，無論是中國(guó)古代還是西方都有這種兩分法，比如說，我們的靈魂最終會(huì)升向天空，或者是靈魂轉(zhuǎn)世。但是，如果我們接受科學(xué)訓(xùn)練，或去讀一些當(dāng)代自然主義的作品，或當(dāng)代的心理學(xué)、神經(jīng)科學(xué)的作品，我們可能會(huì)得到一個(gè)相反的觀念：人就是一個(gè)物理的存在，一個(gè)功能體，除此之外什么都不是。你所有的道德、情感、倫理、美都是源自這個(gè)東西，沒有一個(gè)獨(dú)立的心靈去為它承擔(dān)解釋。
當(dāng)然，知道這個(gè)真相是很殘酷的，所以很多人要守護(hù)我們的心靈，給人類留下最后的空間。梅劍華提到，昨天下午他剛在中國(guó)人民大學(xué)就這個(gè)問題爭(zhēng)論過一次，他系里的同事葉峰老師是一個(gè)很強(qiáng)硬的物理主義者，和侯世達(dá)的觀點(diǎn)非常一致。他說這個(gè)世界上唯一存在的就只是物理系統(tǒng)，其他所有東西都是派生的?！皩?shí)質(zhì)上成為一個(gè)物理主義者，或者是一個(gè)沒有自我感覺的人的日常生活是非常平靜的。葉峰老師就徹底無我，他把他所有關(guān)于項(xiàng)目的經(jīng)費(fèi)全都捐給我們?nèi)プ龊芏鄬W(xué)術(shù)活動(dòng)了。他真的永遠(yuǎn)沒有情緒，只有理性?！泵穭θA調(diào)侃道。
所以，按照侯世達(dá)和葉峰的理解，自我是一個(gè)幻覺，實(shí)際上沒有大家所認(rèn)為的自我。這個(gè)觀點(diǎn)其實(shí)比較像佛教，佛教最后也是要去掉“我執(zhí)”。所以，當(dāng)代心理學(xué)、心靈哲學(xué)和印度哲學(xué)，佛教有很多接軌的地方。很多人會(huì)討厭這種說法，假若自我是一種幻覺，人實(shí)際上是沒有自由意志的，這聽起來很難受。但這就是哲學(xué)家的“求真強(qiáng)迫癥”，他們想要向世界揭示這樣的真相。
《哥德爾、艾舍爾、巴赫——集異璧之大成》，作者：侯世達(dá)，譯者：嚴(yán)勇、劉皓明、莫大偉，出版社：商務(wù)印書館，1997年5月
如果說自我是一個(gè)幻覺，那么活著的意義何處安放？如果說自我是一個(gè)幻覺，那我們的道德、倫理從哪里來呢？我們除了大腦里幾億個(gè)神經(jīng)元的活動(dòng)之外，實(shí)際上沒有更多的東西，那么我們的選擇和決定不就可能被預(yù)測(cè)和把握了？
梅劍華認(rèn)為，可能有很多人因此會(huì)認(rèn)為，自我是我們不能放棄的最后一個(gè)精神領(lǐng)地。但事實(shí)上，自我實(shí)際上是我們自己建構(gòu)起來的幻覺，我們當(dāng)然可以去把玩這種幻覺，只是這種幻覺對(duì)我們的生存來說有好多用處。
但梅劍華要補(bǔ)充的是，“自我是一種幻覺”絕不是心靈哲學(xué)的主流。實(shí)際上，有很多觀點(diǎn)是反對(duì)它的。其中侯世達(dá)的學(xué)生大衛(wèi)·查爾默斯就堅(jiān)定地反對(duì)這種觀點(diǎn)。他是一個(gè)反物理主義者，他要為意識(shí)和感受留一個(gè)余地。他不認(rèn)為我們的心靈或所有的意識(shí)必須依附在物理上，因?yàn)槲覀儾]有“最終的科學(xué)”。神經(jīng)科學(xué)、大腦科學(xué)，遠(yuǎn)遠(yuǎn)沒有到我們能夠搞清這個(gè)問題的地步。
其次，查爾默斯為自己說法提供了一個(gè)論證，這個(gè)論證就是所謂的“僵尸實(shí)驗(yàn)”。我們通常會(huì)認(rèn)為我們的心靈和物理之間是沒有隔閡的，它們的關(guān)聯(lián)是本質(zhì)的、必然的，永遠(yuǎn)拆散不了的。但我們可以設(shè)想，完全可能存在著一些“哲學(xué)僵尸”，它和人類在外形和行為上一模一樣，我們可以通過給它植入芯片來植入記憶。但是，這樣的僵尸會(huì)有“內(nèi)在層面”嗎？比如說，我們現(xiàn)在在說話，我們能感覺到自己坐在這說話，因?yàn)槲覀冇幸粋€(gè)“內(nèi)在層面”，可是僵尸沒有。若是這種僵尸可能存在的話，那么這就表明心靈層面和物理層面是可以互相分離的，這也就表明，侯世達(dá)和葉峰等人都是錯(cuò)的。這就是查爾默斯的觀點(diǎn)。
在理解心靈的問題上，還存在著很多截然不同的立場(chǎng)。比如“泛心論”。什么叫“泛心論”？有些人會(huì)認(rèn)為天地萬物都有“心”。他們認(rèn)為，從人到植物，從低級(jí)動(dòng)物到高級(jí)動(dòng)物，心是一種程度，并不是說“有心”或“沒心”，而是它們有百分之多少的“心”。
還有一種觀點(diǎn)更簡(jiǎn)單，我們稱之為“唯心論”。從極端“唯心論”到“泛心論”到身心二元論到物理主義，我們會(huì)發(fā)現(xiàn)關(guān)于心靈的看法很多。但在當(dāng)代的討論里，侯世達(dá)和查爾默斯所代表的兩派是比較主流的看法。
只有把人類大腦的圖景畫出來，我們才能去建立類人的人工智能
梅劍華一直強(qiáng)調(diào)算法是有問題的，不完備的，但小莊認(rèn)為，我們除算法也別無選擇。我們確實(shí)沒有完美地理解“我”是從哪里產(chǎn)生的，或意識(shí)是如何建立的。我們要認(rèn)清自我是一個(gè)很漫長(zhǎng)的過程。這當(dāng)中很多觀點(diǎn)和想法，都是這個(gè)大廈建設(shè)當(dāng)中的某個(gè)部分，或是某個(gè)形成關(guān)鍵突破很重要的部分。
我們?cè)撊绾卫斫馊祟惔竽X中上千億的神經(jīng)元？如果我們能把這樣一幅圖景畫出來，我們才能去建立類人的人工智能。但這項(xiàng)工作特別難。人類基因組計(jì)劃耗費(fèi)了全世界科學(xué)家十年的努力才完成。他們要面對(duì)的只是三十億個(gè)堿基對(duì)，而研究大腦要面對(duì)上千億個(gè)神經(jīng)元，他們的互相連接是指數(shù)級(jí)的。所以我們需要等待。
但是，像自我是什么這樣的話題，始終可以被拿出來討論，時(shí)代和科技的進(jìn)步是討論的基礎(chǔ)。像自由意志，自我這樣的話題，從物理的角度被認(rèn)真的探討應(yīng)該可以追溯到1943年的《生命是什么》。雖然這本書沒有什么新知識(shí)，但是它把一些基本的框架都提了出來，包括統(tǒng)計(jì)學(xué)如何在生命中起作用。為什么這個(gè)世界需要那么多的原子和粒子才能構(gòu)成物體，為什么這么復(fù)雜？其實(shí)很好理解。只有在這么巨大的數(shù)量下，統(tǒng)計(jì)學(xué)才能起作用。如我們所看到的磁體的現(xiàn)象，如果我們放大去看，我們會(huì)發(fā)現(xiàn)，磁鐵里并不是所有的原子都按照磁極分布的，在南極的一部分的原子可能是朝北的。但是在整個(gè)大的層面上，南極是朝南的，整個(gè)磁體才會(huì)呈現(xiàn)出這樣的磁性。
《生命是什么》，作者：埃爾溫·薛定諤，譯者：張卜天，出版社：商務(wù)印書館，2014年12月
人的思維會(huì)不斷地跳躍，這是人和人工智能最大的區(qū)別
鄒鵬程認(rèn)為，人工智能并沒有那么復(fù)雜，它和計(jì)算器一樣只是工具，能放大他的智能，但它不會(huì)取代他的大腦。
侯世達(dá)認(rèn)為人類思維中類比是很重要的。鄒鵬程覺得，類比這個(gè)詞有點(diǎn)淡，可以換成聯(lián)想。因?yàn)槁?lián)想有許多層次，它的特征是跳躍的。人的思維不斷地跳躍，是人和人工智能最大的區(qū)別，這也是我們不用特別擔(dān)心人工智能的原因。
梅劍華也表示贊同。在生活當(dāng)中，類比論證可能比邏輯論證更重要。比如說，我們?nèi)绾沃澜裉斓淖约汉兔魈斓淖约菏峭粋€(gè)人呢？最早討論這個(gè)問題就來自于類比論證： “忒修斯之船”——請(qǐng)想象一下，一艘海上航行的船，其船身的木板逐步被新的木板替換，直至最后被完全替換，那么現(xiàn)在這艘船還是原來的那艘嗎？這個(gè)例子跟侯世達(dá)講的 “意識(shí)上傳”的例子是類似的：如果把你的所有數(shù)據(jù)都上傳到云端，那么云端的那個(gè)你是不是原來的那個(gè)你呢？
梅劍華認(rèn)為，我們現(xiàn)在經(jīng)常區(qū)分強(qiáng)人工智能和弱人工智能，其實(shí)我們根本無法模仿人的意識(shí)或情緒。有人認(rèn)為，強(qiáng)人工智能我們是達(dá)不到的，但弱人工智能可以實(shí)現(xiàn)，但哥德爾就會(huì)說不可能。而Judea Pearl則會(huì)說，人跟機(jī)器如果有關(guān)鍵性區(qū)別的話，那就是人有一種因果性推理的能力。因此他曾嘗試為因果推理建立了一個(gè)數(shù)學(xué)模型，但谷歌現(xiàn)在不給他投錢了，這使得這項(xiàng)研究面臨著許多困難。
而除了因果之外，類比也是人理解世界和與人交往的一個(gè)基本方式。有時(shí)候在禪宗里面，經(jīng)常會(huì)有所謂的“一句禪”，我們從中悟出些什么。這里面就有類比和因果的聯(lián)系，我們的思維在當(dāng)中進(jìn)行跳躍。在科學(xué)哲學(xué)里面，類比也是一個(gè)很重要的話題，甚至在心理學(xué)里面，比如聯(lián)想作為類比的一種，被分為圖像式的聯(lián)想、概念式的聯(lián)想或者結(jié)構(gòu)式的聯(lián)想，都是很重要的議題。
因此，雖然梅劍華對(duì)人工智能的未來是樂觀的，但從理論的層面來看，梅劍華對(duì)人工智能是悲觀的。因?yàn)檎軐W(xué)家所定義的類人的人工智能是無法實(shí)現(xiàn)的：不僅是因?yàn)榧夹g(shù)原因。即使技術(shù)水平達(dá)到了，人也會(huì)為自己保留一定的特權(quán)。不過，梅劍華覺得這種悲觀的態(tài)度也無所謂，因?yàn)樗臀覀儸F(xiàn)在做的人工智能關(guān)系不大。
機(jī)器沒有意識(shí)，是因?yàn)樗鼪]有生物基礎(chǔ)，這會(huì)不會(huì)過于人類中心主義？
梅劍華提到，有一種觀點(diǎn)認(rèn)為，機(jī)器是沒有意識(shí)的，因?yàn)樗鼪]有生物基礎(chǔ)。從另一方面來想，這樣會(huì)不會(huì)過于人類中心主義了呢？機(jī)器沒有生物基礎(chǔ)，但是它們也有可能用另一種方式在理解著我們。在語言哲學(xué)里，什么是理解的條件？其中一個(gè)條件就是，我要把你所說的話當(dāng)作真，否則我無法跟你交流。此外，我還需要一個(gè)條件，就是“寬容原則”
（the principle of charity）
，即你所說的話不僅要前后一致，還得有所論斷，無論是肯定還是否定，這樣我才能理解你。其實(shí)機(jī)器也能做到這些。
小孩子學(xué)語言，究竟怎么樣才算是掌握了一門語言呢？這個(gè)問題現(xiàn)在依然沒有定論。在語言理解最淺顯的層面來說，人和機(jī)器其實(shí)沒有什么差別。哲學(xué)家約翰·塞爾有一個(gè)非常有名的“中文屋”思想實(shí)驗(yàn)：你一覺醒來發(fā)現(xiàn)自己所在的房間里堆滿了簍子，簍子里都是中文符號(hào)，還有一本使用手冊(cè)。你雖然看不懂中文，但可以看懂使用手冊(cè)。突然間，有人從門縫遞進(jìn)來一張字條，上面寫著一個(gè)中文符號(hào)，你翻看使用手冊(cè)時(shí)，發(fā)現(xiàn)里面寫道：“當(dāng)你收到這個(gè)中文符號(hào)，就把另一個(gè)特定的中文符號(hào)遞出去。”于是，你就照做了。很快，你就把整本使用手冊(cè)都背了下來，不管接到哪個(gè)中文符號(hào)，都可以很快地把對(duì)應(yīng)的符號(hào)再遞出去。這樣一來，雖然你并不懂中文，但你所做的事情和懂中文的人沒有兩樣，因此房間外面的人也會(huì)相信你是懂中文的。同樣的，如果你就是一臺(tái)機(jī)器，那么你就通過了圖靈測(cè)試。但是，我們依然會(huì)認(rèn)為，機(jī)器確實(shí)是不懂中文的。梅劍華認(rèn)為，這就是人類的“我執(zhí)”。
哲學(xué)家約翰·塞爾
隨著人和人工智能接觸越來越多，人反而會(huì)不會(huì)變得像人工智能？
現(xiàn)場(chǎng)有觀眾提問，我們都在討論怎么樣把人工智能做得像人，但隨著人和人工智能接觸得越多，人會(huì)不會(huì)變得更像人工智能？人類的自我會(huì)不會(huì)漸漸消失？
鄒鵬程作為工程師，因此對(duì)這個(gè)問題相對(duì)樂觀。他認(rèn)為，人工智能所暴露出來的問題，最終還是要依靠人去解決，甚至要依靠哲學(xué)家，要依靠文明和法律解決。所以他不擔(dān)心人會(huì)因?yàn)槿斯ぶ悄芏淖儯驗(yàn)槲覀儾粫?huì)像機(jī)器一樣四處亂學(xué)，而會(huì)有一個(gè)方向性。這是因?yàn)槿祟愇拿餮永m(xù)下來的倫理。
梅劍華認(rèn)為，我們會(huì)發(fā)現(xiàn)，我們待人方式和我們的孩子輩就不太一樣。因?yàn)樗麄兏?dú)立，更愿意和機(jī)器打交道；機(jī)器也開始變得像人，這個(gè)鴻溝只會(huì)越來越小。1998年，查爾默斯和另外一個(gè)認(rèn)知科學(xué)家安迪·克拉克合寫了一篇論文，叫“Extended Mind”
（《延展心靈》）
，里面說，我們的心靈不是在大腦里面，我們的心靈延展到環(huán)境，其中手機(jī)就是延展的一個(gè)重要的部分。我們的認(rèn)知不光靠大腦，還要和環(huán)境互動(dòng)。
而關(guān)于我們的自我是否會(huì)逐漸消失，梅劍華的想法是不會(huì)的。他認(rèn)為，我們塑造自我的方式只會(huì)變得不同。新的時(shí)代有新的自我。我們和機(jī)器人接觸，會(huì)多一種塑造自我的方式。比如說，以后人和機(jī)器人有可能談戀愛，這也是一種塑造自我經(jīng)驗(yàn)的方式。即使你對(duì)機(jī)器人的愛不會(huì)完全像對(duì)人一樣，但梅劍華認(rèn)為這只是量的變化而不是質(zhì)的變化。
自我是在不斷流變的，我們很難劃出自我的邊界在哪。我們的手機(jī)讓我很有自我感，但沒有了它我們也能活下來；甚至于沒了手或腿我們也能活下來，所以我們很難劃出自我的界限。但是我們有自我感，我們根據(jù)這種自我感去籌劃我們的人生。這在任何時(shí)代都是一樣的。因此，我們并不會(huì)因?yàn)槿斯ぶ悄艿牡絹矶鴨适ё晕摇?/p>
聯(lián)系客服
