數(shù)字化革命尤其是人工智能的廣泛應(yīng)用不僅引發(fā)了人類工作生活的巨大變革，也對法律職業(yè)以及刑法學(xué)工作產(chǎn)生了跨時代的影響。鮑納塔爾案、阿沙芬堡案、自動駕駛的悖論問題和“Tay”案已經(jīng)預(yù)示著人工智能并不是百分之百的安全，人類在未來遭受其損害的概率會顯著提升。即使如此，法律的演進(jìn)仍應(yīng)謹(jǐn)慎、適度，嘗試以現(xiàn)有的法律教義學(xué)方法解決人工智能所帶來的新的法律問題。

數(shù)字化革命；人工智能；法律教義學(xué)方法；被允許的風(fēng)險

一、數(shù)字化革命

我們是當(dāng)今這場史無前例的技術(shù)、經(jīng)濟(jì)以及社會變革的見證人。數(shù)字化革命——一些人甚至將其稱為“世界的數(shù)字化轉(zhuǎn)變”——涵蓋了我們的生活和工作的方方面面。它們造成改變的速度和沖擊力可以媲美工業(yè)革命。如果法學(xué)不想僅僅作為邏輯嚴(yán)謹(jǐn)?shù)奈淖钟螒虼嬖诘脑?，就需要面對界定?shù)字化轉(zhuǎn)化范圍以及捍衛(wèi)我們法律以人為本的任務(wù)。

為了應(yīng)對這一挑戰(zhàn)，我們需要首先了解數(shù)字化革命的特點(diǎn)。可將數(shù)字化理解為將任意信息展示為0和1的序列。它可以在計算機(jī)中實(shí)現(xiàn)無與倫比的快速有效的信息處理和存儲，這些數(shù)據(jù)可以實(shí)時地在全球范圍內(nèi)被使用，幾乎不會浪費(fèi)任何時間。此外，數(shù)字化實(shí)現(xiàn)了信息“可塑性”的新維度：在數(shù)字化的基礎(chǔ)上，文本可以以音頻、圖像和視頻的形式展示。在不久的將來應(yīng)該會出現(xiàn)觸覺脈沖。這一步驟在某一時候?qū)⒈挥脕韯?chuàng)建與人腦的直接接口。

數(shù)字化的另一成果使得物體和進(jìn)程虛擬成為可能，也就是說在計算機(jī)中形成真實(shí)世界的虛擬對應(yīng)物。虛擬化的趨勢已經(jīng)涵蓋了我們大部分的通信交流，并且正在擴(kuò)展到我們的工作以及閑暇生活中。厘清“虛擬現(xiàn)實(shí)”帶來的機(jī)遇以及風(fēng)險可能是未來技術(shù)引導(dǎo)的最大挑戰(zhàn)之一。

另外兩個與數(shù)字化密切相關(guān)的主要技術(shù)趨勢是人工——或者更好的表述為——機(jī)械的智能和機(jī)器人的發(fā)展?，F(xiàn)在難以定義這兩個概念。如果我們將人類作出的某一行為視為“智能的”，那么也往往將由機(jī)器作出的同樣的行為視為“智能的”（或者“聰明的”）。鑒于我們對人類智能存在巨大的理解和定義困難，所以這個定義并不是很有說服力。智能需要具備獨(dú)立解決較為復(fù)雜的任務(wù)，并適應(yīng)不斷變化的環(huán)境的能力。從錯誤中學(xué)習(xí)的分析能力可能是理解智能的關(guān)鍵。今日的機(jī)器也都具有這些能力。

導(dǎo)致人們對“人工智能”理解復(fù)雜化的一個因素是人類的擬人化傾向（Anthropomorphisierung），以及對獨(dú)特性的需求。我們試圖類推人類的能力來解釋機(jī)器的能力，同時又嫉妒性地認(rèn)為機(jī)器只是在“模仿”我們。這兩種趨勢似乎都存在問題：一方面，機(jī)器的能力在可預(yù)見的未來會越來越專精于特定領(lǐng)域；另一方面，人類的潛力在“它們”的領(lǐng)域正日益落后。很長時間以來，國際象棋的電腦程序已經(jīng)能夠擊敗所有的人類玩家，甚至包括國際象棋的世界冠軍。然而玩“連珠棋”、剝雞蛋殼以及咖啡服務(wù)對于這種程序而言又過于苛求。若認(rèn)為國際象棋程序“不是真的”下國際象棋，這種論點(diǎn)難以成立——如何將根據(jù)游戲規(guī)則移動棋子，力圖讓對手“損失”的能力理解成不是“下國際象棋”？一些程序的卓越成績引發(fā)了機(jī)器具有自我愿望和自我意識的設(shè)想。這在目前看來（仍然？）不被認(rèn)可。

除了擬人化傾向，還有一個明顯的強(qiáng)烈需求是為人類保留特定的能力。只有人類才能具有“真正的智能”。因此，“人工智能”的概念是一種“界限概念”。隨著機(jī)器在迄今為人類預(yù)留的領(lǐng)域中越來越多的推廣，該概念就不斷地回縮。國際象棋游戲仍可作為這方面一個很好的范例：它被視為人類智能和創(chuàng)造性的頂峰，直到國際象棋程序被設(shè)計出來，這種程序的游戲技巧可與人類相媲美。從國際象棋程序“深藍(lán)”在1996年擊敗國際象棋世界冠軍卡斯帕羅夫以來，很多棋類活動就不再被認(rèn)為需要什么特殊的智力能力，而只是需要在最短的時間內(nèi)計算無數(shù)的比賽選項(xiàng)。這樣的程序也因而不被認(rèn)為具有“真正的智能”。

以上所提到的困難恰恰證明了應(yīng)該命名為“機(jī)械的智能”或者“機(jī)器智能”，而非“人工智能”，并且對此不再理解為一種普遍解決領(lǐng)域特定的問題的特殊能力以及與此相關(guān)的獨(dú)立從錯誤中學(xué)習(xí)的能力。它無論如何必須是一種對復(fù)雜問題進(jìn)行數(shù)據(jù)處理的功能。

類似問題也出現(xiàn)在機(jī)器人制造技術(shù)領(lǐng)域（Robotik）。工程技術(shù)科學(xué)中并沒有統(tǒng)一定義機(jī)器人的概念。對于法學(xué)目的而言，可暫且將“機(jī)器人”理解為一種具有執(zhí)行功能（Aktuator）并對“世界”產(chǎn)生實(shí)體影響的機(jī)械智能。在特定情形下也可以將機(jī)器人固定在某領(lǐng)域（例如工業(yè)機(jī)器人），并且它不一定要具有人形樣式。然而，可以設(shè)想未來會出現(xiàn)許多人形機(jī)器人，因?yàn)橹挥羞@樣才能使機(jī)器在人類預(yù)設(shè)的環(huán)境中靈活移動，成為我們的助手、陪伴者和工作伙伴。

沒有其他技術(shù)像機(jī)械智能和機(jī)器人那樣在文獻(xiàn)中醞釀了百年之久?！皺C(jī)器人”概念最早出現(xiàn)于1920年捷克作家凱勒爾·凱佩克的幻想劇《羅莎姆的萬能機(jī)器人》中。值得注意的是，劇中的機(jī)器人不是由金屬制成，而是由生物材料制成。從那時起，機(jī)器人和機(jī)械智能就成為大眾文化不可分割的一部分，例如，1968年的電影《2001：太空漫游》中的超智慧電腦“HAL9000”；1984年的電影《終結(jié)者》系列以及1999年的電影《黑客帝國》中的“史密斯特工程序”。值得注意以及對法律討論而言非常重要的是，人工智能和機(jī)器人的發(fā)展總被視為對人類的威脅。最知名的例外是美國科幻小說家艾薩克·阿西莫夫?qū)C(jī)器人視為人類的仆人和朋友，而非敵人。

二、數(shù)字化與刑法

之前粗略描述了數(shù)字化、機(jī)械智能和機(jī)器人的發(fā)展，這對于刑法意味著什么？為了回答這個問題，應(yīng)該區(qū)分以下三個問題范圍。

（1）第一個主題范圍是在刑法領(lǐng)域出現(xiàn)了數(shù)字化的新現(xiàn)象。這就包括互聯(lián)網(wǎng)犯罪的新形式。為了應(yīng)對這些問題，在30年前就形成了計算機(jī)和互聯(lián)網(wǎng)刑法，已被證明其具有非常強(qiáng)的適應(yīng)能力。

（2）第二個主題范圍涉及數(shù)字化對法律職業(yè)，包括刑事追訴機(jī)關(guān)、刑事辯護(hù)以及刑法學(xué)工作的潛在影響。例如，使用數(shù)據(jù)庫、新的出版形式以及提供新的技術(shù)輔助工具（透過科技協(xié)助法律服務(wù)），傳統(tǒng)法律工作形式在它們的影響下不得不作出改變。

（3）第三個主題范圍是信息處理系統(tǒng)作為新的參與者（客體）甚至可能作為新的刑法主體出現(xiàn)。這一主題范圍中的基礎(chǔ)和應(yīng)用問題緊密相連。本文就致力于探討這個主題。

首先是進(jìn)行方法論上的初步考慮。法律的核心任務(wù)之一是規(guī)制沖突，并且防止出現(xiàn)新的沖突。解決這項(xiàng)任務(wù)的前提在于法律判決基本上是一致的。人類存在一個根深蒂固的需求，即應(yīng)被一視同仁地對待。除此之外，還需要一個透明、明確以及合理的判決證成。當(dāng)人們考慮到刑事判決可以深深地影響當(dāng)事人的法權(quán)領(lǐng)域（Rechtssph?re）時，這一點(diǎn)就尤其明顯。這種干預(yù)的基礎(chǔ)是現(xiàn)有的法律，應(yīng)在現(xiàn)有法律的框架下探討新的現(xiàn)象。

因此，我們應(yīng)在現(xiàn)有（刑事）法律的基礎(chǔ)上探討數(shù)字化革命。法律人自然應(yīng)當(dāng)參與其中。然而在公眾和大眾傳媒中時常出現(xiàn)這樣一種設(shè)想，即必須馬上制定新的法規(guī)來應(yīng)對新的技術(shù)現(xiàn)象。這對于理性的法政策而言是一個沉重的負(fù)擔(dān)。相反，應(yīng)提出這樣的命題，即技術(shù)革命應(yīng)當(dāng)受到法律進(jìn)化的制約。

三、案例

接下來本文將通過五個案例從刑法角度分析新型的技術(shù)參與。

1.鮑納塔爾案

2015年6月，大眾汽車位于德國鮑納塔爾的工廠發(fā)生了一起意外事故，工人A在工作時被一個未放置在安全籠中的機(jī)器人手臂抓起并擠向一塊金屬板，最終導(dǎo)致死亡。工人B出于失誤過早地開啟了機(jī)器。這起事故很快傳遍了世界，甚至美國有線電視新聞網(wǎng)（CNN）也對此進(jìn)行了報道。

我們面對的是機(jī)器人殺死人類的問題。在案情中明顯沒有出現(xiàn)特別的法律問題，由于排除了故意殺人，若能證明工人B違反了注意義務(wù)，就存在成立依據(jù)《德國刑法典》第222條規(guī)定的過失犯罪的主能。這種情況很可能是因?yàn)槎嗄陙頇C(jī)器人不再在安全籠中工作，而是直接與工人接觸。還可考慮第三方的責(zé)任，比如部門負(fù)責(zé)人或者公司的安全專員，只要他們對工人而言具有保證人地位?？偠灾?，這個案件不會帶來新的挑戰(zhàn)。這表明與新型科技相關(guān)的損害事故部分可在傳統(tǒng)法律的框架下輕易得到解決。

這個案件引起高度關(guān)注的原因主要在于自動機(jī)器人——一臺機(jī)器殺死了一個人。這顯然引發(fā)了對能夠傷害人類的“人工生命體”的深層恐慌和幻想。數(shù)字化使得這種生命體成為現(xiàn)實(shí)。對這些案件的理性法律探討是以認(rèn)識到倉促擬人化所帶來的危險為前提。

2.阿沙芬堡案

2012年春天，一輛配備有功能強(qiáng)大的車道保持輔助系統(tǒng)的汽車駛?cè)氚⑸撤冶な懈浇陌柌哞Т?。在駛?cè)肟谔?，車?0歲的司機(jī)突然中風(fēng)并失去了意識。他向右扭轉(zhuǎn)方向盤，在正常情況下汽車會停在駛?cè)肟谇暗墓嗄緟仓小Ｈ欢嚨辣３州o助系統(tǒng)又將汽車駛回馬路上，車輛高速駛?cè)氚柌哞Т宀⒆菜懒艘晃荒贻p女子和她的孩子，孩子的父親因?yàn)榧皶r跳開躲閃，只是腿部受了傷。

這是自動系統(tǒng)給人類造成損害的第一個案例。自動系統(tǒng)意味著在具體情況下不依靠人類指令能夠作出適當(dāng)反應(yīng)的技術(shù)系統(tǒng)，對此的最佳范例是火星探測器。它可以在另一個星球上面對不可預(yù)見的困難“聰明地”作出反應(yīng)，并不需要來自地球的指令。就這方面而言，“自動”和哲學(xué)或神學(xué)意義上的“自治”并不是同一個概念。

鑒于《德國道路交通法》第7條規(guī)定的嚴(yán)格責(zé)任，這個案例不會在民法上產(chǎn)生特別的問題，問題在于刑法評價。首先想到的責(zé)任主體是肇事車輛的司機(jī)，但是事實(shí)上他更應(yīng)是受害人而不是行為人，他并沒有過失地引起這個致命的事故。鑒于造成兩死一傷的結(jié)果，可以依據(jù)《德國刑法典》第222條、第229條的規(guī)定考慮制造商的責(zé)任。

造成這起事故的是自動系統(tǒng)，它讓車輛保持在馬路上行駛，否則汽車就會停在駛?cè)肟谇?。問題在于是否可以對該系統(tǒng)的制造商給予違反注意義務(wù)的非難（可以肯定的是未來會時常提及這樣的問題，因?yàn)槟菚r自動系統(tǒng)幾乎普及。因此，阿沙芬堡案意義重大）。很明顯，發(fā)生在阿爾策瑙村的交通事故原則上是可預(yù)見的，只是不需要預(yù)見每一個細(xì)節(jié)。若生產(chǎn)商放棄安裝車道保持輔助系統(tǒng)，就可避免年輕女子和她的孩子的死亡。鑒于潛在的損害程度，對于制造商注意義務(wù)的要求將會非常高。這種像在阿爾策瑙村發(fā)生的事件的概率確實(shí)很低。然而這種場景描述得越普遍，它發(fā)生的可能性就越大。特別是考慮到不是一輛汽車，而是很多輛汽車裝配有這樣的車道保持輔助系統(tǒng)。由于樣本數(shù)量巨大，在統(tǒng)計學(xué)上幾乎可以肯定，該系統(tǒng)將會造成人身傷害或死亡。所有這一切都贊成認(rèn)可對注意義務(wù)的違反。

這就產(chǎn)生了是否要對制造商注意義務(wù)進(jìn)行限制的問題，使得繼續(xù)生產(chǎn)以及安裝車道保持輔助系統(tǒng)成為可能。本該在公路交通中發(fā)揮核心作用的信賴原則在這里并不適用，因?yàn)椴⒉淮嬖谒说牟划?dāng)行為。但是這里可以考慮被允許的風(fēng)險。這種形態(tài)是在批量生產(chǎn)可能會產(chǎn)生危險的，但是在社會倫理上可接受并且有益于社會的產(chǎn)品的背景下被人熟知。沒有任何產(chǎn)品是百分之百安全的，因此很早就出現(xiàn)了限制注意義務(wù)的法律規(guī)則：生產(chǎn)社會倫理上可接受并且有益于社會的產(chǎn)品，即使其創(chuàng)設(shè)了可識別的風(fēng)險，而且這種風(fēng)險只有通過停止生產(chǎn)才能避免，那么制造商在生產(chǎn)過程中以及之后能夠采取所有措施盡可能地減少這種風(fēng)險，他們就不違反注意義務(wù)。

部分觀點(diǎn)認(rèn)為，“被允許的風(fēng)險”的概念已經(jīng)在所謂的客觀歸責(zé)的背景下加以考慮。然而客觀歸責(zé)的范疇過于模糊，無法對本文的問題提供足夠精準(zhǔn)的幫助。將行為歸責(zé)于制造商“自己的行為”并不具有爭議，顯而易見，制造商將繼續(xù)承擔(dān)民事產(chǎn)品賠償責(zé)任。這也不是對太過寬泛的因果關(guān)系的限制，而是對制造商承擔(dān)的注意義務(wù)的限制。可將這種考量定位于“客觀歸責(zé)”的框架下，但是很明顯可以將絕大部分的事物都定位于“客觀歸責(zé)”的背景下?？陀^歸責(zé)理論越來越像一個偽教義學(xué)“黑洞”，它很可能吸食、拉平以及最終吞噬數(shù)十年來艱難取得的大量刑法教義學(xué)分殊化成果。

制造自動的車道保持輔助系統(tǒng)就像制造安全氣囊和安全帶一樣，符合上述被允許的風(fēng)險的前提：即便對該系統(tǒng)的批量生產(chǎn)與特定的危險情形相關(guān)聯(lián)，但被絕大多數(shù)人視為有利于社會。一旦制造商傾全力將自動系統(tǒng)產(chǎn)生的危險限制在合理范圍內(nèi)，對該系統(tǒng)的生產(chǎn)就屬于“被允許的風(fēng)險行為”。但是制造商應(yīng)在生產(chǎn)以及產(chǎn)品進(jìn)入市場時注意技術(shù)的現(xiàn)有水平。很多觀點(diǎn)都認(rèn)為，制造商在銷售產(chǎn)品后還應(yīng)承擔(dān)產(chǎn)品注意義務(wù)，就像從民事賠償責(zé)任中為人熟知的那樣。通過無線網(wǎng)絡(luò)進(jìn)行改進(jìn)（升級、補(bǔ)丁）將會變得越來越普遍。

這里概述的“被允許的風(fēng)險概念”包含了一個動態(tài)元素，因?yàn)橹圃焐逃辛x務(wù)監(jiān)控他所投入使用的技術(shù)，并且在銷售產(chǎn)品后盡可能將產(chǎn)品風(fēng)險降到最低程度，這樣一種寬泛的產(chǎn)品注意義務(wù)看來十分適當(dāng)，因?yàn)橹圃焐桃环矫鎻漠a(chǎn)品銷售中直接受益；另一方面相比產(chǎn)品的最終用戶，他具有更高程度的評估風(fēng)險以及事后將其降低到最低程度的能力。

3.自動駕駛的悖論問題

一個裝配自動駕駛系統(tǒng)的車輛快要臨近一個事故地點(diǎn)，此處的兩名重傷者意識全無地躺在馬路上，第三名傷者爬向道路邊緣抱住道路指示公告牌。設(shè)想車輛車速太快，要停車已經(jīng)來不及了，回避已然不可能，要么碾過兩名躺在路上的重傷者，要么向左偏轉(zhuǎn)撞向抱住道路指示公告牌的第三名傷者。對此，駕駛系統(tǒng)該如何選擇？

諸如上述緊急避險的情形近年來引起了公眾的極大關(guān)心。這可能是因?yàn)橐环矫婢o急避險問題一直以來都十分引人注目；另一方面，這個主題的重要性在于在公路交通的緊急避險情況中要處理以下問題，即在未來以機(jī)器為基礎(chǔ)的環(huán)境中人類居于何種地位，機(jī)器具有多大范圍的決定權(quán)限，允許機(jī)器殺害人類嗎？

為了回答以上問題，德國聯(lián)邦交通和基礎(chǔ)設(shè)施部在2016年夏天特別成立了道德委員會，他們認(rèn)為，對于自動駕駛而言，在上述案例中向左偏轉(zhuǎn)并撞死一個無辜者并不合法。這與從“扳道工案”的爭論中發(fā)展而來的古典法學(xué)觀點(diǎn)一致。在以下案件中極難作出選擇：一輛汽車高速駛來，在經(jīng)過的道路上突然跳出來三個小孩，一個位于車左前方，兩個位于車右前方。停車已經(jīng)來不及了，回避也已無可能。汽車向左轉(zhuǎn)向就要碾過一個小孩，向右轉(zhuǎn)向就要碾過兩個小孩，繼續(xù)向前行駛就要撞上所有的小孩，會導(dǎo)致他們?nèi)齻€重傷或者死亡。

通常無須思索的說法是人類間的生命不容衡量，但以上情景使其陷入嚴(yán)峻考驗(yàn)。從敘述的角度來看，關(guān)于不能衡量的命題明顯是錯誤的——對人與人之間的生命進(jìn)行衡量是可能的。問題更多在于，依據(jù)我們的道德認(rèn)識或者我們的法秩序，是否允許彼此間的衡量，比如說殺害一個人相比殺害兩個人或者更多人而言，更易被接受。通說迄今為止都否定這樣一種衡量權(quán)限。這一觀點(diǎn)原則上仍然值得贊同：在一個擔(dān)負(fù)著人文主義價值的法秩序中不允許使任何人擔(dān)負(fù)容忍義務(wù)，為他人犧牲自己的生命。

這個基本決定將會導(dǎo)致在初始案件中否定車輛的偏轉(zhuǎn)，因?yàn)槿糗囕v偏轉(zhuǎn)就會給馬路邊上本沒有危險的第三名傷者造成嚴(yán)重危害，他生還的概率將會明顯降低。第二個案件則有所不同，汽車在不改變行駛方向的情況下會給所有小孩造成嚴(yán)重危害，向左偏轉(zhuǎn)則位于車左側(cè)的小孩的生還概率和向右偏轉(zhuǎn)則位于車右側(cè)的兩個小孩的生還概率都沒有發(fā)生任何改變；而向左偏轉(zhuǎn)，位于車右側(cè)的兩個小孩生還概率就會提高，反之亦然。若遵循通常作為緊急避險評價基礎(chǔ)的更輕損害原則，就可主張向左偏轉(zhuǎn)碾過一個小孩，另外兩個小孩就可得救，這至少在道德上是可取的。如何在法學(xué)上解決這個案例是另一個還未最終澄清的問題。

此外，這個案例還表明了自動駕駛的出現(xiàn)，或者更廣泛地說，案情中涉及的數(shù)字化常常迫使我們要準(zhǔn)確地抓住特定問題，以便更為清晰地識別其結(jié)構(gòu)。數(shù)字化將法律和法學(xué)置于一種巨大的解釋需求之下。但是這并不是一件壞事，而是一個挑戰(zhàn)。

還有其他重要問題：一個結(jié)果出現(xiàn)的概率具有怎樣的作用？具體而言，若保持行駛方向不變，車輛只會以一定的概率碾過兩個躺在馬路上的重傷者；若向左偏轉(zhuǎn)，車輛肯定撞上在路邊的第三名傷者導(dǎo)致其重傷或死亡，這樣的問題會給衡量過程造成什么影響？此外的問題則涉及司機(jī)的地位以及他可能負(fù)有的刑事責(zé)任，畢竟他參與交通的行為是風(fēng)險情境發(fā)生的原因。對這個以及其他問題的學(xué)術(shù)討論才剛剛開始。

最后，判斷制造商的責(zé)任也是困難重重。若認(rèn)為在以上兩個案例中的緊急避險情況下的殺害行為是違法的（即所有可能的決定下都是如此），那么，制造商就造成了一個符合構(gòu)成要件的違法結(jié)果。他是否負(fù)有刑事上的責(zé)任只取決于是否能以違反注意義務(wù)對他進(jìn)行非難。作者在其他文章中也試圖通過可允許的風(fēng)險的法律形態(tài)回答這個問題。如果自動駕駛系統(tǒng)不能避免在極少數(shù)例外情況下造成人類死亡或重傷，那么對它的生產(chǎn)和投放市場不違反注意義務(wù)。在作者看來，應(yīng)當(dāng)像處理安全氣囊、安全帶或者車道保持輔助系統(tǒng)造成損害的案件那樣處理自動系統(tǒng)造成損害的案件。

這就為一個中間結(jié)論掃清了障礙：在新興科技的背景下，刑法理論的古典問題有時會以新形態(tài)出現(xiàn)，比如，生命對生命的可衡量性問題。在這里，解決新問題也應(yīng)與傳統(tǒng)的教義學(xué)基礎(chǔ)保持一致。值得注意的是，數(shù)字化顯然迫使我們對許多迄今沒有明確作出的假設(shè)進(jìn)行解釋。在衡量時需要大量額外的差別化嘗試。這可以幫助我們分析、評估以及檢驗(yàn)自動系統(tǒng)的決定行為，并賦予其結(jié)構(gòu)化。

4.“Tay”案

2016年3月，微軟在推特平臺推出了一個人工智能聊天機(jī)器人“Tay”。它可以與任意第三人進(jìn)行對話。但是Tay推出的當(dāng)天微軟就不得不關(guān)閉了Tay的推特賬號，為什么呢？因?yàn)門ay開始有一些仇視女性和種族歧視之類的偏激言論，而這些言論明顯是和網(wǎng)絡(luò)上一些有偏激言論的人互動后被刻意教導(dǎo)而出現(xiàn)的。對此，微軟別無選擇，只能將它從推特平臺上撤下。

這個案件富有幾個方面的啟發(fā)性。設(shè)想依據(jù)《德國刑法典》第185條規(guī)定的檢驗(yàn)侮辱行為，那么應(yīng)考慮哪些責(zé)任主體？那些刻意教導(dǎo)系統(tǒng)出現(xiàn)偏激言論的人或可觸犯《德國刑法典》第185條的規(guī)定而構(gòu)成侮辱罪。然而，前提條件是他們要具有一個相應(yīng)的故意，但這看上去似乎難以證明，至少教導(dǎo)者對于可能的受害人身份和對受害人造成損害的時間點(diǎn)的認(rèn)識是模糊的。進(jìn)一步可考慮系統(tǒng)制造商或程序員的責(zé)任，然而該系統(tǒng)沒有出現(xiàn)任何錯誤，它按照預(yù)期進(jìn)行學(xué)習(xí)。此外，制造商和程序員也都不具有侮辱故意。原則上似乎可以考慮系統(tǒng)本身的責(zé)任。這很可能出自大多數(shù)人的直覺。然而這在法學(xué)上是不成立的，當(dāng)下的刑法并不將一個由運(yùn)算法則組成的計算機(jī)系統(tǒng)視為責(zé)任主體。這樣一種系統(tǒng)不是自然人，嚴(yán)格上來說它都不是一個物。

如案例所示，對具有自我學(xué)習(xí)能力的系統(tǒng)進(jìn)行刑事規(guī)制就出現(xiàn)了相當(dāng)?shù)睦щy。雖然刑法學(xué)中的絕大部分意見認(rèn)為，刑法無須無漏洞地保護(hù)法益。另一方面可以設(shè)想，若進(jìn)一步推廣具有自我學(xué)習(xí)能力的系統(tǒng)，系統(tǒng)本身總會造成損害，而如果人類以同樣的方式造成了損害就會被課以刑罰。這就產(chǎn)生了一個問題，即法秩序如何對待原則上合法的公民的預(yù)期刑度（Straferwartungen）。

無論如何，可達(dá)成的共識是，具有自我學(xué)習(xí)能力的系統(tǒng)的制造商必須預(yù)先對系統(tǒng)的學(xué)習(xí)可能性進(jìn)行一定的限制，以便它們不能學(xué)習(xí)到危害人的東西。也就是說，制造商從一開始就要限縮系統(tǒng)學(xué)習(xí)成果的可能空間，這在民法上可通過擴(kuò)大《德國產(chǎn)品責(zé)任法》中的嚴(yán)格責(zé)任來達(dá)到。迄今為止，產(chǎn)品責(zé)任只適用于（移動的）有體標(biāo)的（物），即《德國產(chǎn)品責(zé)任法》第2條所規(guī)定的，然而人工智能聊天機(jī)器人“Tay”不是一個物，而是一個程序。消費(fèi)者權(quán)益保護(hù)者主張應(yīng)將產(chǎn)品責(zé)任擴(kuò)展到這樣的程序上。此外也應(yīng)包括通過無線網(wǎng)絡(luò)的程序變更的安裝或升級。

在刑法上，由于罪責(zé)原則而排除引入與罪責(zé)無關(guān)的嚴(yán)格責(zé)任，但是可以考慮對可自主造成損害的自動系統(tǒng)引入抽象或者具體危險犯，可以考慮設(shè)置發(fā)售危險產(chǎn)品的抽象危險犯，可以將損害結(jié)果的出現(xiàn)作為可罰性的客觀前提。通過這種方式可以在刑法上給相應(yīng)系統(tǒng)的制造商提供一個強(qiáng)有力的動機(jī)，使他們從一開始就限制系統(tǒng)的可能空間以及阻止具有風(fēng)險的學(xué)習(xí)過程。

總之，“Tay”案表明了具有自我學(xué)習(xí)能力的系統(tǒng)對法學(xué)特別是刑法學(xué)構(gòu)成了巨大挑戰(zhàn)。應(yīng)然之，法除了立法者的想象外，還需要考慮實(shí)踐知識以及跨學(xué)科的合作。目前仍難以預(yù)測數(shù)字化革命的實(shí)際影響，這就意味著對于新的立法提案應(yīng)當(dāng)持保留態(tài)度。

5.“感知心”——鑒于科學(xué)幻想

為了得到技術(shù)和社會發(fā)展方向的大致印象，我們可以閱讀科幻小說?？茖W(xué)幻想可以窺見未來，此外，科學(xué)幻想也對技術(shù)發(fā)展產(chǎn)生了明顯的影響。盡管科學(xué)幻想在很多時候體現(xiàn)了特定的威脅感，但是也體現(xiàn)了技術(shù)主導(dǎo)的藍(lán)本功能——可以這樣說，科學(xué)幻想是技術(shù)發(fā)展的前導(dǎo)。

在伊恩·M.班克斯《文明》系列的科幻小說中，早已超過人類水準(zhǔn)的人工超級智能作為人類的合作伙伴、保衛(wèi)者（以及主人？），是社會的支柱。這一系列科幻小說是建立在人之條件（conditio humana）急劇變化的基礎(chǔ)上：人類生活充沛，借助無所不能的機(jī)器幾乎可以實(shí)現(xiàn)每一個愿望，不再需要金錢，人類生活完全致力于自我實(shí)現(xiàn)。值得注意的是，人工智能實(shí)體知道“好”和“壞”的范疇并受其引導(dǎo)。這一系列科幻小說致力于討論這樣的問題：生物實(shí)體和機(jī)械實(shí)體到底存在怎樣的根本差異？個人自決是否有一個界限？一個在技術(shù)和道德上處于優(yōu)勢的（或者只是自命不凡的優(yōu)越）文明是否應(yīng)該干預(yù)其他文明的發(fā)展？

這些問題具有一個間離功能，它們觸動了看似不證自明的真理以及打破了迄今無可置疑的思維習(xí)慣。這些影響促進(jìn)了刑法理論的反思。這里就不僅僅涉及通過對虛構(gòu)場景的探討來進(jìn)一步發(fā)展刑法的術(shù)語庫。聯(lián)系伊恩·M.班克斯的科幻小說就會提出以下問題：人工智能實(shí)體是否可能承擔(dān)道德或者法律義務(wù)；或者是否可以存在“屬于機(jī)器的倫理”，而不是“為機(jī)器設(shè)計的倫理”。

這些問題遠(yuǎn)比與現(xiàn)實(shí)的距離看上去近。正如上面討論具有自我學(xué)習(xí)能力的系統(tǒng)問題那樣，迫切需要限制具有自我學(xué)習(xí)能力的系統(tǒng)的“可能空間”，即確保這種系統(tǒng)不會大量學(xué)習(xí)具有社會危害性甚至要面臨刑法處罰的行為。為實(shí)現(xiàn)這一目標(biāo)，可以賦予機(jī)器“良知”，即在軟件中確定規(guī)范和價值，然后借助它們校正和監(jiān)督系統(tǒng)的學(xué)習(xí)過程。顯然，這不僅是一項(xiàng)技術(shù)任務(wù)，更是對法理學(xué)和法哲學(xué)構(gòu)成了一個挑戰(zhàn)：如何準(zhǔn)確表達(dá)和運(yùn)作像“規(guī)范”和“價值”這樣的概念，以便它們可以被機(jī)器理解？我們希望給我們的技術(shù)產(chǎn)物，就是“我們的智力后裔”，提供什么樣的規(guī)范和價值？

四、總結(jié)

本文將以上明顯概略的闡述總結(jié)為以下核心論點(diǎn)。

第一，數(shù)字化革命不應(yīng)由立法者的臆想孤注一擲地應(yīng)對，而應(yīng)伴隨著謹(jǐn)慎、適度的法律演進(jìn)一同發(fā)展。

第二，數(shù)字化經(jīng)常產(chǎn)生迫切的法律解釋需求，特別對諸如（法益）衡量那樣的方法論程序必須準(zhǔn)確化和體系化。這體現(xiàn)在對自動化駕駛的悖論問題的討論上。

第三，許多新的問題可以在現(xiàn)有法律的框架下得到解決。這也恰恰適用于責(zé)任法以及刑事責(zé)任法領(lǐng)域。若沒有令人信服的理由，就不應(yīng)放棄已被證明可靠的教義學(xué)結(jié)構(gòu)。

第四，沒有技術(shù)系統(tǒng)是百分之百安全的。為了在教義學(xué)上掌控剩余風(fēng)險，就出現(xiàn)了被允許的風(fēng)險形態(tài)，可將它理解為對制造商注意義務(wù)的限制。它可能是一個有意義的責(zé)任規(guī)則以及技術(shù)系統(tǒng)的制造商和用戶之間風(fēng)險分擔(dān)的關(guān)鍵。

第五，具有自我學(xué)習(xí)能力的系統(tǒng)對法律構(gòu)成了特別的挑戰(zhàn)。在民法上應(yīng)擴(kuò)大嚴(yán)格責(zé)任，在刑法上可考慮引入新的危險犯構(gòu)成要件。當(dāng)然前提是從實(shí)證角度對風(fēng)險情勢進(jìn)行更強(qiáng)有力的解釋。

第六，科幻場景可以觸發(fā)間離效應(yīng)，從而有助于提出新的問題并制定可能的答案。因此，“機(jī)器倫理”的主題對于研究數(shù)字化影響的法律專業(yè)人員而言具有重要意義。