【三體網(wǎng)宇宙印象 深度科普欄目第10期】霍金除了對外星人入侵地球十分關注外，也對人工智能技術的發(fā)展感到擔憂。霍金不止一次在公開場合對人工智能技術爆炸后出現(xiàn)的殺手級機器人行為進行預測，認為全自動武器站的普及使得機器人能夠獲得一定程度的開火權，甚至在智能決策系統(tǒng)發(fā)展后超越人類的指令，直接開火。這種殺手智能機器是極度危險的，國際天主教愛爾蘭分部秘書長也指出，殺手機器人的使用就會把我們人類推離倫理和文明的社會。
越來越多的人開始關注全自武器自行選擇和攻擊目標的行為，即使人類的某些行為存在局限，但是我們的基本道德準則是與人性站在一起的。
目前半自主的無人機已經(jīng)在美國、俄羅斯、韓國和英國等國家的軍隊中部署，韓國的哨兵機器人SGR-1和英國的防空武器都能夠自行尋找攻擊目標。最近的聯(lián)合國會談目的是限制或禁止可能導致士兵與平民誤傷的全自主武器的使用，但多數(shù)國家不同意協(xié)議中的條款，其中包括是否應該限制現(xiàn)有技術和未來的發(fā)展。
停止殺手機器人小組成員Mary Wareham指出，戰(zhàn)斗中攻擊目標的決定應該由人類執(zhí)行，從基督教的觀點來看，戰(zhàn)爭已經(jīng)發(fā)展成為解決世界沖突和支配人類的一種手段，它是完全錯誤的。如果沒有對高級智能機器人進行相關限制，那么一旦惡魔被從瓶子里放出來，將很難對其進行控制?；艚鹫J為宇宙中也有類似的文明存在，它們會自己發(fā)展的機器人技術所取代，因此我們以后遇到的外星人可能是機器人的概率并非不可能。
事實上變形金剛這樣從碳基演變成硅基的超強生命體，在宇宙中也應該存在，兩種生命區(qū)別很大?；艚鹫J為人類如果無法控制人工智能的泛濫，只有數(shù)百年的時間就會完成演替，想想一百年前世界是什么樣子，當時飛機才被剛剛發(fā)明不久！100年后的今天近地軌道已經(jīng)遍布航天垃圾，在計算機技術爆炸后，機器人會更加聰明。
去年英國第一臺計算機首次通過圖靈測試，這意味著我們已經(jīng)分不出人和電腦的區(qū)別，下一步電腦將學會思考。
謝頓，科普作家，畢業(yè)于南京大學天文與空間科學院，三體網(wǎng)主筆，果殼作者
更多資訊歡迎關注微信號：santi2208 與 santi9527（科幻專屬）
