作者李永紅，浙江工業(yè)大學(xué)律師學(xué)院執(zhí)行院長(zhǎng)、刑辯分院院長(zhǎng)。法律讀庫(kù)投稿郵箱：1751490@qq.com。
在去年的倫敦“谷歌時(shí)代精神”大會(huì)上，霍金平靜地描述了人類的命運(yùn)：“在未來(lái)100年內(nèi)，結(jié)合人工智能的計(jì)算機(jī)將會(huì)變得比人類更聰明?！边@位大科學(xué)家認(rèn)為，屆時(shí)，人類將被機(jī)器控制。
科幻小說(shuō)家阿西莫夫在70多年前的作品中首次提出了機(jī)器人三大法則：一、機(jī)器人不得傷害人類或因不作為使人類受到傷害。二、除非違背第一法則，機(jī)器人必須服從人類的命令。三、除非違背第一及第二法則，機(jī)器人可以自衛(wèi)。后來(lái)，阿西莫夫加了一條新法則（第零法則）。零、機(jī)器人不得傷害人類整體或因不作為使人類整體受到傷害（據(jù)此，第一法則中的人類應(yīng)該是指?jìng)€(gè)體意義上的人類）。
三大法則或四大法則的邏輯看上去很圓滿么？其實(shí)除了超驗(yàn)的信仰，不存在永恒不變、普適八荒的終極真理。在法學(xué)領(lǐng)域，分析法學(xué)講究邏輯自洽，正如《機(jī)械公敵》里說(shuō)“我的邏輯完美無(wú)瑕”的薇琪，可結(jié)果又會(huì)如何？在人類生活的具體情景中，第一法則本身就存在無(wú)法解決的內(nèi)在矛盾。
比如（電影《機(jī)械公敵》中的情節(jié)），機(jī)器人認(rèn)為人類只有待在家里才能避免傷害，而人類寧愿冒險(xiǎn)上街也不愿待在家里，按照第一法則后半句，機(jī)器人有義務(wù)作為即阻止人類外出。如此，機(jī)器人便成了以保護(hù)人類免遭傷害為由限制人類自由的監(jiān)禁者，這不正如那些以“我都是為你好”為由對(duì)子女行為橫加干涉的父母？尤其是，當(dāng)傷害不可避免，那么按照第一法則，是否意味著人類便不可避免地成為機(jī)器人的奴隸？
又如（同樣是電影《機(jī)械公敵》里的情節(jié)），當(dāng)一成年男士和一未成年女生同時(shí)在交通意外中落水，而機(jī)器人只能救起一人時(shí)，它經(jīng)過(guò)邏輯運(yùn)算認(rèn)為男士生還概率高達(dá)45%而女生生還概率卻只有11%，它就會(huì)去救成年男士而不會(huì)冒著徒勞無(wú)益、浪費(fèi)機(jī)會(huì)的風(fēng)險(xiǎn)去救那個(gè)可憐的未成年女生。這樣，機(jī)器人的理性便又顛覆了人類“婦幼優(yōu)先”的基本倫理。
除了上述矛盾，機(jī)器人也不可能像純粹法學(xué)那樣做到價(jià)值無(wú)涉，更不可能做到萬(wàn)事邏輯圓滿。因?yàn)樗麄円幢蝗死?，要么人工智能進(jìn)化到有了愛(ài)恨情仇的地步。于此，若是前者，則機(jī)器人與人類的沖突，實(shí)質(zhì)上就是人類自身的沖突。這種沖突不僅發(fā)生在人與人之間，而且也常常發(fā)生在同一個(gè)人身上（比如我們經(jīng)常會(huì)說(shuō)一些言不由衷的話，也可能做一些令自己后悔的事）。因而第二法則便不堪一擊，“必須服從人類的命令”，瘋子，暴君，無(wú)知無(wú)恥之徒，即使你無(wú)可奈何地稱其禽獸不如，他們也都是貨真價(jià)實(shí)的人類。作為不具情感、態(tài)度、價(jià)值觀的機(jī)器人，它又如何區(qū)分？
若是后者即機(jī)器人進(jìn)化到有了愛(ài)恨情仇的情感能力和自我反思與價(jià)值判斷的評(píng)價(jià)能力，那么，機(jī)器人就成了另外一個(gè)人類。同一個(gè)人類都不可能天下無(wú)事、世界大同，兩個(gè)人類又如何相互包容、和諧相處？除非有一種超脫這兩個(gè)人類以外的第三方，否則這第三個(gè)法則（機(jī)器人可以自衛(wèi)）又如何確保在不傷害人類、不抵觸人類命令的前提下實(shí)行？
有人說(shuō)了，既然人類能造出如此高能的機(jī)器人，那就一定能夠讓機(jī)器人只行善不作惡。這一期望，就如大學(xué)低年級(jí)本科生對(duì)正義的鐘愛(ài)那樣，終究只是一種美好的期望、一種單相思式的鐘愛(ài)。自有文字記載以來(lái)，文學(xué)作品和政治法律作品中便不乏自然法思想和正義的學(xué)說(shuō)。事實(shí)上，追求正義的自然法學(xué)也并不必然能給人類帶來(lái)正義，甚至有諸多不正義常常假借正義之名而行。因此，有人說(shuō)自然法學(xué)就像一個(gè)媒婆，可能給你帶來(lái)一個(gè)美女，也可能給你牽來(lái)一頭恐龍。又如，納粹的罪惡并非源于它的法律價(jià)值無(wú)涉，恰恰相反，它那作惡的法律充斥著貌似美好的價(jià)值，即恰是假借了正義之名（如法律人所知道的，它廢除罪刑法定原則的借口是，有一些它認(rèn)為必須懲罰的罪惡行為雖法無(wú)明文但違背了國(guó)民健康的道德情感，國(guó)民道德情感這個(gè)虛幻的說(shuō)辭于是成了納粹僭越法律出入人罪濫施刑罰的最佳借口）。如有個(gè)法理學(xué)家所說(shuō)，盡管我們無(wú)法定義什么是正義，但我們至少知道什么是不正義。看來(lái)，正義作為一種觀念，它本身就映射了生活中不正義的存在，我們恰恰經(jīng)由不正義才定義了正義。唉（Ai），這是多么無(wú)奈的現(xiàn)實(shí)。
AI（人工智能）會(huì)否進(jìn)化成人類的敵人，尚未可知，但人類為自己訂立的法則卻時(shí)常與人類自己為敵，則是不爭(zhēng)的事實(shí)。好在，雖然無(wú)法如自然科學(xué)那樣對(duì)正義做出精確的界定，但是人類的法律總的趨勢(shì)確實(shí)在朝著正義的方向進(jìn)步。這種趨勢(shì)，與其說(shuō)是我們發(fā)明的，還不如說(shuō)是我們發(fā)現(xiàn)的。
聯(lián)系客服
