著名科幻作家阿西莫夫在其作品中為機(jī)器人制定了三大法則，已經(jīng)超越科幻成為人們心目中機(jī)器人應(yīng)該遵守的不二法則。隨著人工智能的迅猛發(fā)展，機(jī)器在未來幾十年內(nèi)可能會(huì)達(dá)到人類的智能水平，已被許多科學(xué)家認(rèn)為是不可避免的趨勢(shì)。一旦達(dá)到這一點(diǎn)，機(jī)器人就可以改造自己，并創(chuàng)建其它同類，甚至制造出被稱為超級(jí)智能的更強(qiáng)大AI。如何確保機(jī)器人為人類利益服務(wù)，而不是像電影《終結(jié)者》里一樣，將人類文明終結(jié)，已經(jīng)不再是科幻作品里的紙上談兵，而是必須納入議事日程的重要課題。
2017年1月，在加利福尼亞州阿西洛馬舉行的Beneficial AI會(huì)議上，特斯拉CEO埃隆·馬斯克、DeepMind創(chuàng)始人戴米斯·哈薩比斯以及近千名人工智能和機(jī)器人領(lǐng)域的專家，聯(lián)合簽署了阿西洛馬人工智能23條原則，呼吁全世界在發(fā)展人工智能的同時(shí)嚴(yán)格遵守這些原則，共同保障人類未來的利益和安全。著名物理學(xué)家霍金和馬斯克在本周公開聲明支持這一系列原則，以確保擁有自主意識(shí)的機(jī)器保持安全，并以人類的最佳利益行事。
阿西洛馬AI原則分為三大類23條。第一類為科研問題，共5條，包括研究目標(biāo)、經(jīng)費(fèi)、政策、文化及競(jìng)爭(zhēng)等；第二類為倫理價(jià)值，共13條，包括AI開發(fā)中的安全、責(zé)任、價(jià)值觀等；第三類為長(zhǎng)期問題，共5條，旨在應(yīng)對(duì)AI造成的災(zāi)難性風(fēng)險(xiǎn)。
對(duì)比阿西莫夫的機(jī)器人三大法則：第一法則，機(jī)器人不得傷害人類，或因不作為使人類受到傷害；第二法則，除非違背第一法則，機(jī)器人必須服從人類的命令；第三法則，在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。我們可以發(fā)現(xiàn)，雖然阿西洛馬AI23原則沒有阿西莫夫機(jī)器人三原則簡(jiǎn)潔明了，但它是人類進(jìn)入人工智能時(shí)代的重要宣言，是指導(dǎo)人類開發(fā)安全AI的重要指南，受到了AI行業(yè)的廣泛支持。
但危機(jī)仍然存在，未來仍不確定，馬斯克在會(huì)議發(fā)言中說，我們正在走向超級(jí)智能，也有可能終結(jié)人類文明。當(dāng)計(jì)算機(jī)開始自己做決定，我們?nèi)绾尾拍艽_保它們與人類的價(jià)值觀相一致？此前我們已經(jīng)看到了機(jī)器在學(xué)習(xí)中的偏見，微軟的聊天機(jī)器人chatbot曾發(fā)表種族言論，特斯拉的汽車AI造成致命事故。墨菲定律說，任何一個(gè)事件，只要具有大于零的概率，它就必定會(huì)發(fā)生。我們或許也可以說，一個(gè)受控制的系統(tǒng)，不管如何控制，最后終會(huì)崩潰。人工智能會(huì)是這樣嗎？天網(wǎng)已經(jīng)啟動(dòng)了嗎？文明終將面臨最后的裁決，勝，則榮，敗，則滅！在卡達(dá)爾肖夫的宇宙文明等級(jí)理論中，人類一旦發(fā)展到II類文明，就沒有任何災(zāi)難能造成文明的滅絕，希望我們可以通過阿西洛馬AI23原則，迎來人類文明發(fā)展的終極勝利。
阿西洛馬人工智能原則原文：https://futureoflife.org/ai-principles/
聯(lián)系客服
