新智元原創(chuàng)1
選自：Medium
譯者：王婉婷 王嘉俊
為了追求人工智能最先進(jìn)的形態(tài)并將研究結(jié)果向公眾公開，他們資助了一個(gè)新成立的組織，OpenAI。
像是AI領(lǐng)域的競(jìng)爭還不夠激烈一樣——要知道Google、Facebook、Microsoft之類的巨頭，甚至還有Toyota這樣的汽車公司，都在急匆匆地招募研究人員——現(xiàn)在又有了一個(gè)新的組織渴求研究者，但又有一些不同之處。
它是一個(gè)非營利性的合資組織，叫做“OpenAI”。今天它被宣布成立，宣稱將會(huì)向公眾公開它所有的研究成果，并且授予它所有的專利買斷式授權(quán)（royalty-free，譯者注：用來宣告一項(xiàng)具有版權(quán)、專利或著作權(quán)的產(chǎn)品能（永久或特定時(shí)段）被使用而不需要支付權(quán)利金或執(zhí)照費(fèi)（License fee），來自維基百科）。這一切都是為了確保有朝一日計(jì)算機(jī)超越人類智力的可怕前景，將不會(huì)變得像一些人恐懼的反烏托邦（dystopia）那樣讓人絕望。OpenAI的資金來自于一群科技行業(yè)的權(quán)威，包括Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston、以及Amazon云服務(wù)。他們承諾，將在未來很長一段時(shí)間內(nèi)向這個(gè)組織投入總共超過10億美元的資金。這個(gè)組織的聯(lián)合董事長分別是Elon Musk和Sam Altman（Y Combinator的CEO）。
眾所周知，Musk是AI的批判者，他加入這樣一個(gè)組織并不讓人意外。但Y Combinator是什么？沒錯(cuò)，這就是那家10年前從一個(gè)夏季計(jì)劃中脫胎而出的科技孵化器，當(dāng)時(shí)以給“拉面工資”、然后反饋美食建議的形式資助了6家初創(chuàng)企業(yè)，通過這種方式讓它們能夠快速擴(kuò)張自己的業(yè)務(wù)。從那時(shí)起，YC已經(jīng)幫助創(chuàng)立了接近1000家公司，包括Dropbox、Airbnb、以及Stripe，并在最近設(shè)立了一個(gè)研究部門。過去的2年間，YC一直由Altman領(lǐng)導(dǎo)著。他的公司Loopt曾經(jīng)是2005年YC初創(chuàng)時(shí)孵化的公司之一，在2012年他以4340萬美元的價(jià)格出售了這家公司。雖然YC和Altman都是OpenAI的創(chuàng)始人，并且Altman還擔(dān)任了聯(lián)合董事長的職務(wù)，但是OpenAI的確是一個(gè)與這些公司無關(guān)的、獨(dú)立的合資組織。
本質(zhì)上，OpenAI是一個(gè)研究實(shí)驗(yàn)室，旨在削減兩類組織的力量：包括因?yàn)閾碛袪I利的超級(jí)智能系統(tǒng)（super-intelligence systems）而可能獲得過多力量的大型組織，以及可能使用AI來獲取力量甚至用來壓迫本國公民的政府機(jī)構(gòu)。這可能聽上去非常唐吉坷德，但這個(gè)團(tuán)隊(duì)已經(jīng)募集到了一批精英，包括Stripe前CTO Greg Brockman（他將擔(dān)任OpenAI的CTO）以及世界一流的研究者Ilya Sutskever。Ilya Sutskever曾經(jīng)為Google工作過，是在多倫多接受神經(jīng)網(wǎng)絡(luò)先驅(qū)Geoff Hinton指導(dǎo)的年輕科學(xué)家團(tuán)隊(duì)的一員。他將擔(dān)任OpenAI的研究主管。其他的人馬還有一群頂尖的天賦很高的年輕人，他們的簡歷中囊括了主要的學(xué)術(shù)團(tuán)體、Facebook AI以及Google在2014年收購的AI公司DeepMind。OpenAI還有一個(gè)星光熠熠的顧問委員會(huì)，頂尖的計(jì)算機(jī)科學(xué)家Alan Kay也名列其中。
OpenAI的領(lǐng)導(dǎo)者們對(duì)我描述了這個(gè)計(jì)劃和它的未來愿景。整個(gè)采訪是分成兩部分進(jìn)行的，首先是與Altman的對(duì)話，然后是與Altman、Musk、以及Brockman一起討論的部分。我將整個(gè)訪談融合在一起，編輯成了簡要清晰的格式。
Sam Altman：我們大約是在一個(gè)半月以前啟動(dòng)YC研究部門的，但我一直以來都在思考AI的問題，Elon也是。如果你想想對(duì)于世界的未來而言哪些東西最重要，我覺得一個(gè)善良的AI（good AI）可能是這張列表上首當(dāng)其沖的幾項(xiàng)之一。所以我們創(chuàng)立了OpenAI。這個(gè)組織正在嘗試研發(fā)出一種對(duì)人類友好的AI（human positive AI）。而且因?yàn)樗且粋€(gè)非營利性組織，全世界都能享用它的研究成果。
Elon Musk：就像你知道的那樣，我對(duì)AI有所顧慮已經(jīng)有一段時(shí)間了。我和Sam，和Reid [Hoffman]，和Peter Thiel，還有其他人，談了許多次。我們?cè)谒伎迹坝袥]有某種方法可以確?！蛘咛嵘狝I以有益的方式發(fā)展的概率？”作為幾次談話的結(jié)果，我們得出了創(chuàng)立一個(gè)501c3組織的結(jié)論（譯者注：501(c)是美國國內(nèi)稅收法（Internal Revenue Code, IRC）中的一項(xiàng)條款（美國國內(nèi)稅收法, § 501(c)），列出了26種享受聯(lián)邦所得稅 （federal Income tax）減免的非營利組織，501(c)(3)為宗教、教育、慈善、科學(xué)、文學(xué)、公共安全測(cè)試 （Testing for public safety）、促進(jìn)業(yè)余體育競(jìng)爭和防止虐待兒童或動(dòng)物等七個(gè)類型的組織，來自維基百科）：一家非營利性組織，不具有讓利潤最大化的義務(wù)，可能會(huì)是一件不錯(cuò)的事情。同時(shí)，我們也會(huì)對(duì)安全性非常重視。
那么從哲學(xué)的角度上來說就有了一個(gè)重要的元素：我們希望AI能被廣泛傳播。有兩種流派的思想——你是想要AI的數(shù)量很多，還是很少？我們認(rèn)為可能數(shù)量多是一件好事。而且從你可以將它作為人類意愿的延伸這個(gè)方面來看，這也是一件好事。
Musk：就像你自身有一個(gè)AI的延伸部分，每個(gè)人在本質(zhì)上都與AI共生、而不是AI作為一個(gè)與你無關(guān)的大型中央智能（large central intelligence）。想象一下你將會(huì)怎么使用，比如說網(wǎng)絡(luò)上的應(yīng)用：你可以收發(fā)郵件、玩轉(zhuǎn)社交媒體、你的手機(jī)上還有許多其它app——它們讓你變成了一個(gè)能做很多事的超人，而你并不會(huì)認(rèn)為它們是與你無關(guān)的，你會(huì)覺得它們是你的延伸。所以我們想要盡力引導(dǎo)AI往這個(gè)方向發(fā)展。我們已經(jīng)找到了一些和我們有相似理念的AI領(lǐng)域的工程師和研究者。
Altman：我們認(rèn)為AI發(fā)展的最好方式就是，它應(yīng)該是關(guān)于讓個(gè)人變得強(qiáng)大、讓人類的生活變得更好的東西，對(duì)于所有人來說都是免費(fèi)的，而不是一個(gè)比其他人類強(qiáng)大一百萬倍的精英。因?yàn)槲覀儾⒉皇且粋€(gè)比如Google那樣的追求盈利的公司，我們可以不用關(guān)注于如何讓股東們財(cái)源滾滾，而是關(guān)注于對(duì)于人類未來而言，我們相信的、在實(shí)際上最好的東西。
Altman：他們的確與公眾分享了許多研究成果。隨著時(shí)間過去，隨著我們逐漸接近那種超越人類智能的東西，Google還會(huì)與公眾分享多少成果是值得懷疑的。
Altman：我預(yù)期它會(huì)，但是它會(huì)是開源的，任何人都能使用，而不是只能被，比如說Google，來使用。這個(gè)團(tuán)體研發(fā)的任何東西都將對(duì)所有人開放。如果你拿去以后做了一些改變、讓它適應(yīng)其他用途，你也不會(huì)有義務(wù)要和公眾分享你的成果。但是只要是我們做的任何工作，都會(huì)對(duì)所有人開放。
Musk：我想這是一個(gè)很精彩的問題，我們?yōu)檫@個(gè)爭論過不少次。
Altman：關(guān)于這個(gè)問題有一些不同的思路。就像科幻作品中用“大部分人類都是善良的，而人類的集體力量中可能有一些邪惡的元素”的事實(shí)來對(duì)抗邪惡博士那樣，我們認(rèn)為，比起一個(gè)單獨(dú)的比其他任何東西都強(qiáng)大無數(shù)倍的AI，許多許多的AI致力于阻止偶爾出現(xiàn)的邪惡AI，這種可能性要大得多。如果那個(gè)強(qiáng)大無比的AI脫離了人類掌控，或者邪惡博士得到了它、沒有東西能與它抗衡，那么我們就真的落到了很糟糕的境地。
Altman：我們的確希望能夠隨著時(shí)間建立起監(jiān)管機(jī)制。一開始將只有Elon和我。我們距離實(shí)際開發(fā)出真正的AI還有很長很長的距離。但我想我們將會(huì)有足夠的時(shí)間來建立監(jiān)管的機(jī)制。
Musk：我確實(shí)想要將一些時(shí)間花在這個(gè)團(tuán)隊(duì)上，大概會(huì)是每周在辦公室花上一兩個(gè)下午的時(shí)間來了解研究進(jìn)展、提供我的想法和反饋，對(duì)于AI的現(xiàn)狀和我們是否在接近一種危險(xiǎn)的東西有一些更深的理解。我個(gè)人將會(huì)對(duì)安全性極其敏感，我對(duì)這個(gè)問題有許多顧慮。如果我們看到了某種我們認(rèn)為在安全性上有風(fēng)險(xiǎn)的東西，我們會(huì)將其公之于眾。
Altman：實(shí)際上，邪惡的人工智能基本都和科幻小說描繪的差不多，但像終結(jié)者那樣的人工智能技術(shù)，還需要一段時(shí)間才能出現(xiàn)。我在短期內(nèi)絲毫不擔(dān)心它們。不過有一件事我的確認(rèn)為是挑戰(zhàn)：自動(dòng)化的普及，以及工作被機(jī)器人取代。另一個(gè)邪惡的人工智能例子是，人工智能程序能夠像黑客那樣進(jìn)入電腦，而且這方面要遠(yuǎn)比人類強(qiáng)大。這些事現(xiàn)在已經(jīng)發(fā)生了。
Altman：還沒有，開始會(huì)像研究實(shí)驗(yàn)室那樣，而且在長期的時(shí)間里，也都會(huì)以這樣的形式存在?，F(xiàn)在我們還不知道怎么去建造這個(gè)系統(tǒng)。從第一天開始，我們有了 8 名研究者，未來幾個(gè)月還會(huì)有更多人加入?，F(xiàn)在他們會(huì)使用 YC 孵化器的辦公空間，當(dāng)他們逐漸成長后才會(huì)搬出去獨(dú)立辦公。他們也會(huì)不斷演練想法，編寫程序來看是否能加速現(xiàn)在人工智能技術(shù)的進(jìn)展。
Altman：當(dāng)然可以了。我們把項(xiàng)目以完全開放的形式進(jìn)行，自由分享信息，這樣的好處是能和任何人合作。你很難和 Google 的員工合作，因?yàn)樗麄冇幸淮蠖驯Ｃ軛l款。
Altman：如果 OpenAI 的確開發(fā)了不錯(cuò)的技術(shù)，而且所有人都可以免費(fèi)使用并造福于科技公司。不過也僅僅是這樣了。但我們會(huì)詢問 YC 孵化器的公司們，在自愿的情況下開放合適的數(shù)據(jù)給 OpenAI。Elon Musk 也在考慮 Tesla 和 Space X 公司能分享哪些數(shù)據(jù)。
Altman：這有很多。例如說所有的 Reddit 數(shù)據(jù)都會(huì)是非常有用的訓(xùn)練集。你也可以想象，所有的特斯拉自動(dòng)駕駛視頻也會(huì)變得很有價(jià)值。大量的數(shù)據(jù)的確很重要。如果你思考人類如何變得聰明，當(dāng)你讀書的時(shí)候，你變得聰明，當(dāng)我讀書的時(shí)候，我變得聰明。但是我并不會(huì)因?yàn)槟阕x書而變得聰明，反過來也一樣。但是使用特斯拉作為例子，當(dāng)一輛特斯拉學(xué)會(huì)新的習(xí)慣，那么所有的特斯拉都會(huì)立刻從它的智能獲得收益。
Musk：實(shí)話說我們并沒有非常詳細(xì)的專門計(jì)劃，因?yàn)樗€處在公司非常初創(chuàng)的階段。這是一種萌芽期的狀態(tài)。但確信的是，特斯拉會(huì)有大量的數(shù)據(jù)，關(guān)于真實(shí)世界的數(shù)據(jù)，因?yàn)槲覀兊妮喿用磕甓紩?huì)積累幾百萬的公里數(shù)。也許特斯拉相比世界上任何其他的公司，都有更多的真實(shí)世界數(shù)據(jù)。
Tesla CEO 和產(chǎn)品架構(gòu)師 Elon Musk，YC 孵化器主席 Sam Altman
Altman：我們正和亞馬遜云服務(wù)合作，他們?yōu)轫?xiàng)目捐獻(xiàn)了大量的基礎(chǔ)設(shè)施服務(wù)。
Musk：我得說最后的資金投資會(huì)超過 10 億美元。我們并不想出具詳細(xì)的資金來源統(tǒng)計(jì)分析，但是我們?cè)诓┛椭刑岬搅藶轫?xiàng)目做出杰出貢獻(xiàn)的人。
Altman：這取決于它需要多長時(shí)間建立起來。我們會(huì)盡可能的節(jié)儉，但這也許是幾十年的項(xiàng)目，需要很多人參與，也需要很多的硬件設(shè)施。
Musk：對(duì)的。這不是利益取向的投資。也許它未來能夠產(chǎn)生收入，就像斯坦福實(shí)驗(yàn)室 501c3 項(xiàng)目一樣。所以未來也許會(huì)有收入，但不會(huì)有利潤給股份持有者分紅，也不會(huì)有股票價(jià)格或其他任何可以獲利的東西。我們認(rèn)為這樣會(huì)比較好。
Musk：我得強(qiáng)調(diào)，我并不是通常意義的投資者。我不尋求投資和財(cái)務(wù)上的回報(bào)。我給自己參與創(chuàng)立的公司投資，有時(shí)候是出于幫助朋友，有時(shí)候是因?yàn)槲业男叛觯灿械臅r(shí)候是因?yàn)槲谊P(guān)心的事情。我并不是出于分散風(fēng)險(xiǎn)或者物質(zhì)意義上的考慮。不過，我對(duì) DeepMind 所謂的投資，不過是為了更好的理解人工智能，并且能夠時(shí)刻看到它的進(jìn)展。
Altman：我們的招聘計(jì)劃進(jìn)展的不錯(cuò)。對(duì)科研人員真正有吸引力的是自由度和開放性，以及分享他們研究項(xiàng)目的許可程度，但是在產(chǎn)業(yè)實(shí)驗(yàn)室里面，你很難達(dá)到相同的權(quán)限。我們得以吸引力非常高質(zhì)量的初創(chuàng)團(tuán)隊(duì)，而其他人會(huì)想著加入，以和這樣的團(tuán)隊(duì)一起工作。最后我認(rèn)為，我們的使命、愿景和管理架構(gòu)真的對(duì)人們有吸引力。
Altman：也許吧。
Altman：我和 Elon Musk 以及其他人就這個(gè)問題討論了很長的時(shí)間，不過我到現(xiàn)在都不是 100% 的確定。你永遠(yuǎn)也不可能 100% 確定，不是么？不過我們可以有不同的劇本，通過加密技術(shù)來保障安全，通常不怎么管用。如果只有一個(gè)機(jī)構(gòu)能有這樣的技術(shù)，你怎么決定它應(yīng)該是 Google、美國政府、中國政府、ISIS 或其他？世界上有很多邪惡的人，但人類卻依然生生不息。但是，如果其中某個(gè)壞人擁有了超出其他人類 10 億倍的能力，那世界將會(huì)怎樣？
Musk：我認(rèn)為抵抗AI錯(cuò)誤使用的最好辦法，就是讓人們盡可能去擁有AI。如果每個(gè)人都有AI的力量，那就不會(huì)有個(gè)人或小團(tuán)體擁有AI的超級(jí)力量。
Musk：那確實(shí)。但我心里一直都在考慮AI的安全性，所以我還是應(yīng)該做個(gè)交易換來心靈平靜。
聯(lián)系客服
