這已經(jīng)是個(gè)老掉牙的問題：人工智能究竟會(huì)不會(huì)摧毀人類？但圍繞圍繞這個(gè)陳舊命題的爭(zhēng)論遠(yuǎn)未停止。有人擔(dān)心這一技術(shù)被壞分子掌握，然后，“一鍵摧毀人類”；另外的人同樣承認(rèn)人工智能的危險(xiǎn)性，但他們認(rèn)為，化解危險(xiǎn)的唯一辦法，就是讓更多的人使用這項(xiàng)技術(shù)，他們說(shuō)，“眾多人工智能會(huì)一起協(xié)作來(lái)阻止偶然出現(xiàn)的壞分子”。
硅谷 OpenAI 公司的建立正是源于后一種設(shè)想。從特斯拉創(chuàng)始人埃隆·馬斯克、著名科技投資人山姆·奧特曼，到 Facebook、Google 等大公司里負(fù)責(zé)人工智能的核心員工，他們放棄了比橄欖球明星更高的薪水，加入了這家致力于讓人工智能變得更好，而不是更賺錢的公司。他們會(huì)成功嗎？人類會(huì)成功嗎？
每周五下午發(fā)布的新聞通常不會(huì)引起太多關(guān)注，所以在政治家或者資本家看來(lái)，這個(gè)時(shí)段通常是用來(lái)悄悄處理掉一些壞消息的。所以，去年12月的蒙特利爾，當(dāng)電動(dòng)汽車廠商特斯拉公司的創(chuàng)始人埃隆·馬斯克和著名科技孵化器機(jī)構(gòu)“Y Combinator”的創(chuàng)始人山姆·奧特曼選擇在為期一周的人工智能大會(huì)結(jié)束之際——也即是一個(gè)周五的下午——宣布他們成立了一家新的人工智能公司，就多少顯得有點(diǎn)奇怪了。
埃隆·馬斯克，SpaceX 創(chuàng)辦人，特斯拉汽車聯(lián)合創(chuàng)辦人
不過(guò)，他們選擇在最后時(shí)段才宣布這個(gè)消息是有原因的。并不是因?yàn)闆]有人理會(huì)，而是因?yàn)樗腥硕荚陉P(guān)注這件事。硅谷最有實(shí)力的幾家公司往往是一聽到新公司成立的風(fēng)聲，就開始想要用巨額高薪吸引新公司剛剛招募到的核心研究人員，將這些難得的人才據(jù)為己有。最后關(guān)頭的挖角——有些是在人工智能大會(huì)上實(shí)時(shí)發(fā)生的——足以迫使馬斯克和奧特曼推遲宣布新公司的成立?！伴_價(jià)的數(shù)額相當(dāng)瘋狂?！蔽忠燎锌恕ぴ鷤惏驼f(shuō)，他在谷歌和 Facebook 度過(guò)實(shí)習(xí)期之后加入了 OpenAI 公司，也是在最后時(shí)刻收到大公司巨額利誘的人才之一。
“相當(dāng)瘋狂”是多少錢？?jī)赡昵?，最新的機(jī)器學(xué)習(xí)技術(shù)真正開始在市場(chǎng)上走紅的時(shí)候，微軟研究院的副總裁彼得·李說(shuō)過(guò)，一名頂級(jí)的人工智能研究人員的身價(jià)能讓國(guó)家橄欖球聯(lián)盟里一名最有前景的四分衛(wèi)的身價(jià)都黯然失色——他指的還只是一般情況下的出價(jià)，而當(dāng)硅谷最知名的兩家公司對(duì)你手上最出色的人才大肆搶奪的時(shí)候，其價(jià)格可想而知。扎倫巴說(shuō)，OpenAI 成立期間，某些企業(yè)給他的出價(jià)已經(jīng)比他的市場(chǎng)價(jià)值高出兩到三倍。
OpenAI 公司提供的薪水無(wú)法與那些公司相比。但是它有其它優(yōu)勢(shì)：有機(jī)會(huì)去探索完全面向未來(lái)的研究，而不必去考慮產(chǎn)品或者季度盈利，并最終把這些研究的絕大部分，甚至是全部的成果，分享給有需要的人。沒錯(cuò)人工智能或許是21世紀(jì)最具革命性的技術(shù)，而馬斯克、奧特曼和 OpenAI 這家公司的目標(biāo)就是把這項(xiàng)技術(shù)提供給每一個(gè)人——并且是免費(fèi)提供。
OpenAI辦公室內(nèi)的一天
扎倫巴說(shuō)，那些幾近瘋狂的挖角出價(jià)實(shí)際上讓他興味索然——雖然他對(duì)于谷歌和 Facebook 這樣的公司仍然充滿敬意。他感覺那些大公司開出天價(jià)的目的除了吸引他為之效力之外，也是在阻礙 OpenAI 的創(chuàng)立，這反而讓他更加認(rèn)同這家初創(chuàng)公司的宏大愿景。“我意識(shí)到，”扎倫巴說(shuō)，“OpenAI 是我最應(yīng)該去的地方?！?/p>
這就是整件事的諷刺之處：全世界最大的科技公司們像全國(guó)橄欖球大聯(lián)盟爭(zhēng)搶明星四分衛(wèi)隊(duì)員那樣挽留他們旗下的科研人員，可是那些科研人員本身卻想把自己掌握的技術(shù)分享出去。人工智能研究領(lǐng)域是一片凈土，在這里，最聰明的頭腦并不受下一個(gè)產(chǎn)品循環(huán)或者利潤(rùn)率所驅(qū)使——至少不僅僅受其驅(qū)使。他們想讓人工智能技術(shù)變得更好，而如果把最新的研究成果當(dāng)做秘密保守起來(lái)，是無(wú)法讓它更好的。
這天早晨，OpenAI 公司將要發(fā)布它的首批人工智能軟件，這是一個(gè)借助“增強(qiáng)學(xué)習(xí)”技術(shù)來(lái)開發(fā)人工智能系統(tǒng)的工具包——谷歌公司開發(fā)的人工智能機(jī)器人“阿爾法狗”曾經(jīng)在圍棋比賽中戰(zhàn)勝人類而讓世界震驚，開發(fā)“阿爾法狗”的其中一項(xiàng)核心技術(shù)就是“增強(qiáng)學(xué)習(xí)”。使用這個(gè)工具包，你就可以開發(fā)出一套能夠模擬新一代機(jī)器人的系統(tǒng)，它可以玩 Atari 公司出品的電子游戲，當(dāng)然，也可以成為圍棋高手。
但是，玩游戲還只是個(gè)開始。OpenAI 公司決意用10億美元的投入，將人工智能技術(shù)發(fā)展到極致。在公司因何成立以及未來(lái)如何計(jì)劃這兩個(gè)方面，你都可以看到下一波創(chuàng)新浪潮正在形成。OpenAI 公司自身能否成為這一變革的代表，我們目前還遠(yuǎn)未可知。但是，這家異軍突起的初創(chuàng)公司成立背后的強(qiáng)大驅(qū)動(dòng)力顯示出新一代的人工智能技術(shù)不僅僅是重塑科技而已，它將會(huì)重塑我們構(gòu)建科技的方式。
當(dāng)然，人們創(chuàng)造機(jī)器人的初衷是幫助人類
硅谷并非一味反對(duì)夸夸其談。帶著懷疑的態(tài)度去審視聽起來(lái)很大膽的想法，總歸是一種明智之舉。但是在人工智能領(lǐng)域，改變真的在發(fā)生著。在谷歌和 Facebook 等大公司里，一種被稱為“深度學(xué)習(xí)”的技術(shù)已經(jīng)在幫助互聯(lián)網(wǎng)服務(wù)商識(shí)別照片中的人臉，識(shí)別通過(guò)話筒傳入的語(yǔ)音命令，并且對(duì)網(wǎng)絡(luò)搜索條目做出回應(yīng)。而同樣的技術(shù)可以為未來(lái)實(shí)現(xiàn)更多任務(wù)提供驅(qū)動(dòng)力。它能夠幫助機(jī)器理解自然語(yǔ)言——也就是我們?nèi)祟惤徽労蜁鴮懙奶烊环绞?。它可以?chuàng)造新一代機(jī)器人，讓它們不僅有能力完成任務(wù)，還可以在工作中持續(xù)學(xué)習(xí)。有人還相信它最終能夠讓機(jī)器也擁有“常識(shí)”——也就是真正像人類一樣思考的能力。
但是這種期待同樣帶來(lái)深深的焦慮。馬斯克和奧特曼都擔(dān)心，如果人類可以創(chuàng)建出做好事的人工智能系統(tǒng)，那么他們同樣可以利用這項(xiàng)技術(shù)來(lái)做壞事。對(duì)機(jī)器人權(quán)力過(guò)度感到害怕的人并非只有他們兩個(gè)，不過(guò)馬斯克和奧特曼也都一反常規(guī)地認(rèn)為，對(duì)抗“壞”人工智能的最好方式并不是對(duì)這項(xiàng)技術(shù)嚴(yán)加控制，而是讓更多人能夠接觸到它。這也是一群年輕、高智商的理想主義者能夠被他們的新事業(yè)吸引的原因之一。
OpenAI 誕生于去年夏天，具體坐標(biāo)是硅谷 Rosewood 酒店的一個(gè)包間里。這座高檔都市牧場(chǎng)風(fēng)格的酒店坐落于風(fēng)投世界的中心，就在加州門羅公園的沙嶺路上。埃隆·馬斯克正在與伊利亞·蘇茨凱威爾吃晚餐，后者當(dāng)時(shí)供職于“谷歌大腦”項(xiàng)目團(tuán)隊(duì)，這個(gè)項(xiàng)目主要致力于開發(fā)深度神經(jīng)網(wǎng)絡(luò)——也就是能夠通過(guò)分析海量數(shù)據(jù)從而學(xué)習(xí)并完成一系列任務(wù)的人工智能系統(tǒng)，它能夠進(jìn)行圖像識(shí)別，也能撰寫電子郵件，甚至還可以與人類對(duì)話。蘇茨凱威爾是該項(xiàng)目的首席智囊之一。但是，一個(gè)更偉大的想法正在誕生。
伊利亞·蘇茨凱威爾，攝影：Christie Hemm Klok/WIRED
曾經(jīng)孵化了 Airbnb、Dropbox 和 Coinbase 等初創(chuàng)公司的“Y Combinator”公司創(chuàng)始人山姆·奧特曼安排了這次晚餐會(huì)面，他把幾名人工智能研究人員和一名年輕但經(jīng)驗(yàn)豐富的創(chuàng)業(yè)者格雷格·布洛克曼召集到一起。布洛克曼此前在“Y Combinator”公司扶持過(guò)的知名數(shù)字支付初創(chuàng)公司Stripe擔(dān)任首席技術(shù)官。與會(huì)者可謂風(fēng)馬牛不相及，但是他們都有一個(gè)共同的目標(biāo)：創(chuàng)建一個(gè)新型人工智能實(shí)驗(yàn)室，能夠在谷歌以及任何其它公司的控制之外工作?！霸谖依硐胫凶詈玫氖聵I(yè)，”布洛克曼說(shuō)，“就是用安全的方式讓人類朝著真正的人工智能開發(fā)更近一步?！?/p>
馬斯克之所以在場(chǎng)是因?yàn)樗菉W特曼的老朋友——也是因?yàn)槿斯ぶ悄軐?duì)于他各項(xiàng)業(yè)務(wù)的未來(lái)，甚至整個(gè)人類的未來(lái)，都是極為關(guān)鍵的。特斯拉終將實(shí)現(xiàn)汽車自動(dòng)駕駛，這需要人工智能。馬斯克的另外一家公司 SpaceX 也需要人工智能把人類送入太空并且讓他們?cè)谀抢锎婊?。不過(guò)，馬斯克也是大聲疾呼，提醒人們對(duì)這項(xiàng)技術(shù)保持警惕的人之一，他警告說(shuō)，有一天這個(gè)系統(tǒng)可能會(huì)強(qiáng)大到足以擺脫人類的控制而進(jìn)行自主學(xué)習(xí)。
問題在于：能夠解決所有這些問題的人才中，很多都已經(jīng)在為谷歌（以及 Facebook、微軟、百度和推特等公司）工作。出席晚餐的人里沒有人能確保這些人會(huì)放棄優(yōu)渥的工作條件轉(zhuǎn)而加入一家新公司，哪怕它有馬斯克和奧特曼的大力支持。不過(guò)，其中的一位關(guān)鍵人物至少不排除跳槽的想法。“我覺得這件事會(huì)有一些風(fēng)險(xiǎn)，”蘇茨凱威爾說(shuō)，“但我同樣覺得非常有趣，值得一試?！?/p>
打破僵局
與馬斯克、奧特曼等人在 Rosewood 酒店的一席談話讓布洛克曼信心十足，他很快就開始著手建立大家期望中的這座實(shí)驗(yàn)室，全力以赴地投入工作。他找到了蒙特利爾大學(xué)的電腦工程師、“深度學(xué)習(xí)”技術(shù)的奠基人之一約書亞·本吉奧。該領(lǐng)域的其他兩位先鋒人物——杰夫·辛頓和延恩·勒昆——目前分別在谷歌和 Facebook 工作，不過(guò)本吉奧已經(jīng)決意終身從事學(xué)術(shù)研究，基本上置身商業(yè)領(lǐng)域之外。他列出了該領(lǐng)域最好的研究人員的名單，隨后幾周內(nèi)，布洛克曼盡力去接觸名單上的每一個(gè)人，此外還拜訪了其它一些人才。
大多數(shù)研究人員都喜歡這個(gè)想法，但是他們對(duì)于真正邁出這一步也很謹(jǐn)慎。為了打破僵局，布洛克曼選了10位他最希望能夠加盟的研究人員，邀請(qǐng)他們?cè)谀硞€(gè)周六到納帕河谷去品品酒，吃頓飯，順便游說(shuō)一下。對(duì)于布洛克曼來(lái)說(shuō)，即便是那段前往納帕的短暫車程，也都成為了這項(xiàng)計(jì)劃的催化劑?！坝幸环N往往被低估的方法卻總能夠把人們的距離拉近，那就是當(dāng)你處于繁忙交通中，沒辦法快速抵達(dá)目的地而只能在車?yán)锏却臅r(shí)候，”他說(shuō)，“你只能慢慢往前挪，而且還要找話說(shuō)。”所以，當(dāng)他們抵達(dá)酒莊的時(shí)候，車中暢談的氣氛仍未消散?！坝行r(shí)候你確實(shí)能感覺到大家意氣相投，那天就是，”布洛克曼說(shuō)?；蛘呦裉K茨凱威爾說(shuō)的：“相對(duì)于暢談而言，喝酒是次要的。”
格雷格·布洛克曼，攝影：Christie Hemm Klok/WIRED
那次聚會(huì)結(jié)束之后，布洛克曼正式向這10位研究人員提出加盟實(shí)驗(yàn)室的邀請(qǐng)，他給了他們3周的時(shí)間考慮。最終其中9位決定加入。他們決意加盟，就算硅谷的巨頭們用巨額待遇挽留也不為所動(dòng)。“他們?yōu)榱俗屛伊粝露_出的條件確實(shí)很誘人，所以這并不是個(gè)簡(jiǎn)單容易的決定，”蘇茨凱威爾提到自己的前雇主谷歌公司這樣說(shuō)，“不過(guò)最終，我決定加入 OpenAI 公司，部分是由于這個(gè)團(tuán)隊(duì)整體非常優(yōu)秀，此外，很大程度上是因?yàn)樗氖姑??！?/p>
“深度學(xué)習(xí)”起源于學(xué)術(shù)領(lǐng)域。直到最近，隨著原生計(jì)算能力的提升，谷歌、Facebook 和微軟等公司才開始將其推入應(yīng)用領(lǐng)域，讓深度神經(jīng)網(wǎng)絡(luò)變成現(xiàn)實(shí)，而非只是理論上的可能性。辛頓和勒昆離開學(xué)術(shù)界加入谷歌和 Facebook，也是因?yàn)檫@些公司有大量的資源可以使用。但他們?nèi)匀粌A向于與其他智囊進(jìn)行交流與合作。實(shí)際上，正如勒昆指出的，深度學(xué)習(xí)研究需要一種思想自由流通的環(huán)境。“當(dāng)你在保密中進(jìn)行研究，”他說(shuō)，“你就落在后面了?！?/p>
因此，大公司也都開始多多分享自己的人工智能研究成果。這是一個(gè)重大的轉(zhuǎn)變，尤其是對(duì)谷歌這種長(zhǎng)期將其網(wǎng)絡(luò)王國(guó)的核心技術(shù)嚴(yán)加保密的公司來(lái)說(shuō)。最近，谷歌開放了驅(qū)動(dòng)其神經(jīng)系統(tǒng)網(wǎng)絡(luò)的軟件引擎。但是，為了在未來(lái)爭(zhēng)得先機(jī)，它的核心技術(shù)仍然是保密狀態(tài)。布洛克曼、奧特曼和馬斯克的目標(biāo)是繼續(xù)把開源的理念推廣下去，也就是說(shuō)，他們不希望只有一兩家大公司來(lái)控制人工智能的未來(lái)。
開放的局限
一切似乎都很美好。但是，即便 OpenAI 公司是最有理想的，研究者們或許還是會(huì)發(fā)現(xiàn)他們?cè)谂f工作中面臨的某些困境仍然存在。開放也是有局限的。而且，長(zhǎng)遠(yuǎn)計(jì)劃也并非 OpenAI 公司唯一的興趣點(diǎn)。OpenAI 公司不是一家慈善機(jī)構(gòu)。馬斯克的公司可以從公司的研究成果中獲得很大收益，奧特曼的“Y Combinator”公司扶持的很多公司也是如此?！肮究隙〞?huì)有一些與競(jìng)爭(zhēng)有關(guān)的發(fā)展目標(biāo)，”勒昆說(shuō)，“這家公司是非盈利性質(zhì)，但是它與 Y Combinator 有很大關(guān)聯(lián)。員工也像是在為企業(yè)工作一樣，有薪水可拿?！?/p>
按照布洛克曼的說(shuō)法，實(shí)驗(yàn)室沒有像谷歌或者 Facebook 那樣，給人工智能研究人員們支付天文數(shù)字級(jí)別的薪水。但是他說(shuō)，實(shí)驗(yàn)室確實(shí)想給他們“豐厚的待遇”，并且會(huì)以發(fā)放股票期權(quán)的方式來(lái)實(shí)現(xiàn)，先是“Y Combinator”公司的股票，隨后或許還會(huì)有 SpaceX 的股票（與特斯拉公司不同，SpaceX 目前仍然是一家私營(yíng)公司）。
盡管如此，布洛克曼堅(jiān)持說(shuō)，OpenAI 公司不會(huì)給姐妹公司特殊優(yōu)待?！癘penAI 是一家科研機(jī)構(gòu)，”他說(shuō)，“不是咨詢公司。”不過(guò)他也承認(rèn)開放人工智能的理想化愿景有其局限性。公司或許不會(huì)把所有成果都完全公開，盡管他們最終的目標(biāo)是把絕大部分的研究通過(guò)論文或者網(wǎng)絡(luò)分享給所有人。“公開進(jìn)行所有研究并不一定是最好的方法。我們希望可以先培養(yǎng)某個(gè)想法，看看它的發(fā)展前景，然后再公之于眾，”布洛克曼說(shuō)，“我們會(huì)公布很多開源代碼，但是也有一些內(nèi)容還沒到發(fā)表的時(shí)候。”
蘇茨凱威爾和布洛克曼都同樣補(bǔ)充說(shuō)，OpenAI 公司甚至?xí)橐恍┕ぷ鞒晒暾?qǐng)專利?！敖谖覀儾粫?huì)對(duì)任何成果申請(qǐng)專利，”布洛克曼說(shuō)，“但是長(zhǎng)遠(yuǎn)來(lái)看，如果我們未來(lái)發(fā)現(xiàn)有些事情可以對(duì)全世界有利，我們也會(huì)改變策略?！北热?，他說(shuō)，OpenAI 可能會(huì)通過(guò)申請(qǐng)專利的方式來(lái)反制他人搶奪專利權(quán)并掌控相關(guān)技術(shù)。
不過(guò)，在有些人看來(lái)，申請(qǐng)專利表明公司有盈利的動(dòng)機(jī)——至少這與 OpenAI 公司的創(chuàng)始人們所推崇的開源模式有一定差距?！皩＠到y(tǒng)一向是這樣運(yùn)行的，”艾倫人工智能研究院院長(zhǎng)歐倫·埃喬尼說(shuō)，“這就讓我對(duì)他們的發(fā)展方向有些懷疑?！?/p>
超級(jí)智能帶來(lái)的麻煩
馬斯克和奧特曼宣布成立 OpenAI 公司的時(shí)候，也聲稱新公司可以與惡意的人工超級(jí)智能系統(tǒng)抗衡。當(dāng)然，這些惡意的超級(jí)智能系統(tǒng)或許正是從 OpenAI 開發(fā)的技術(shù)里衍生出來(lái)的，不過(guò)他們堅(jiān)持認(rèn)為，只要每一個(gè)人都可以使用這種技術(shù)，那么類似威脅就會(huì)被削弱甚至消除?！拔覀冋J(rèn)為更有可能發(fā)生的情況是，眾多人工智能會(huì)一起協(xié)作來(lái)阻止偶然出現(xiàn)的壞分子，”奧特曼說(shuō)。
但是并非所有業(yè)內(nèi)人士都認(rèn)同這一點(diǎn)。像馬斯克一樣，牛津大學(xué)的哲學(xué)家尼克·博斯特羅姆也對(duì)人工智能的潛在危險(xiǎn)提出了警告，他指出，如果沒有任何限制地公布研究成果，那么這些技術(shù)就可能在確認(rèn)安全之前被壞分子掌握了。“如果你有個(gè)按鈕，按下去就能危害全世界，”博斯特羅姆說(shuō)，“你可不希望把它交給每一個(gè)人?！狈催^(guò)來(lái)說(shuō)，如果 OpenAI 決定為了阻止壞分子而將研究成果保密的話，博斯特羅姆又想不通，那他們與谷歌和 Facebook 的區(qū)別又在哪里呢。
他確實(shí)認(rèn)為 OpenAI 的非盈利性質(zhì)或許可以產(chǎn)生一些改變——但并非一定如此。OpenAI 真正強(qiáng)大的地方，他說(shuō)，在于它能夠制約并監(jiān)督谷歌和 Facebook 這類大公司的作為。“他可以減少超級(jí)智能壟斷的可能性，”他說(shuō)，“至少 OpenAI 能夠讓某些機(jī)構(gòu)或者集團(tuán)沒那么容易就控制到更好更先進(jìn)的人工智能技術(shù)?！?/p>
卡耐姆·切斯所著《如何逃離人工智能》
此外，這位哲學(xué)家在一份最新的論文中又指出，OpenAI 這類機(jī)構(gòu)——這種愿意把成果免費(fèi)公開的機(jī)構(gòu)的主要影響力在于，它加速了人工智能技術(shù)的進(jìn)步，起碼在短期之內(nèi)是如此。它或許也會(huì)對(duì)長(zhǎng)遠(yuǎn)發(fā)展有所促進(jìn)，只要能夠更無(wú)私地“實(shí)現(xiàn)更高層次的開源，達(dá)到運(yùn)營(yíng)上的最佳狀態(tài)”。
“以博愛為動(dòng)機(jī)而設(shè)立研發(fā)基金，通過(guò)致力于開源技術(shù)的研究而加快進(jìn)步的速度，這樣或許是可行的?！?/p>
就像當(dāng)年的施樂實(shí)驗(yàn)室
1月初，9位人工智能研究人員到布洛克曼位于舊金山教會(huì)區(qū)的公寓開會(huì)。這家公司還太年輕，以至于他們連白板都還沒來(lái)得及準(zhǔn)備（能想象嗎？）。他們臨時(shí)買了幾塊白板，并開始工作。
布洛克曼說(shuō)，OpenAI 公司將會(huì)從對(duì)“增強(qiáng)學(xué)習(xí)”技術(shù)的研究入手，這種技術(shù)讓機(jī)器通過(guò)不斷重復(fù)任務(wù)來(lái)進(jìn)行學(xué)習(xí)，并且監(jiān)測(cè)結(jié)果從而找到最優(yōu)方案。不過(guò)他們還有一個(gè)主要研究方向，那就是“無(wú)監(jiān)督學(xué)習(xí)”——研發(fā)出能夠脫離人類監(jiān)管，實(shí)現(xiàn)真正自我學(xué)習(xí)的機(jī)器系統(tǒng)。如今，深度學(xué)習(xí)是受精確標(biāo)記的數(shù)據(jù)操控的。如果你想訓(xùn)練神經(jīng)網(wǎng)絡(luò)識(shí)別貓咪的圖片，你必須先要向它輸入一定數(shù)量的示例——并且這些示例圖片必須被添加“貓咪”的標(biāo)簽。這一學(xué)習(xí)的過(guò)程也是在人類標(biāo)記的監(jiān)督之下。但是，OpenAI 和很多其它研究人員的目標(biāo)是創(chuàng)建不需要數(shù)據(jù)標(biāo)記就能夠進(jìn)行學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)。
網(wǎng)絡(luò)安全需要人類和人工智能聯(lián)合才能保證
“如果你已經(jīng)有了非常好的無(wú)監(jiān)督學(xué)習(xí)技術(shù)，那么機(jī)器就能夠?qū)W到互聯(lián)網(wǎng)上所有的相關(guān)知識(shí)——就像人類通過(guò)觀察或者讀書來(lái)學(xué)習(xí)一樣，”布洛克曼說(shuō)。
布洛克曼認(rèn)為，OpenAI 公司就是現(xiàn)代版的施樂實(shí)驗(yàn)室。在七十年代，施樂實(shí)驗(yàn)室可謂風(fēng)頭無(wú)兩，它倡導(dǎo)開源和無(wú)拘無(wú)束的研究風(fēng)氣，孕育出圖形用戶界面、激光打印機(jī)和面向目標(biāo)編程等多項(xiàng)重要技術(shù)，布洛克曼和團(tuán)隊(duì)希望能夠?qū)⑦^(guò)去屬于科學(xué)幻想范疇的技術(shù)加以深耕實(shí)現(xiàn)。的確，施樂實(shí)驗(yàn)室是施樂公司所有，但是它的研究成果也培養(yǎng)出很多公司，其中最著名的就是蘋果，史蒂夫·喬布斯也曾經(jīng)從施樂實(shí)驗(yàn)室的科研中獲益。同樣，布洛克曼也希望 OpenAI 能夠造福更多人。
這個(gè)月，布洛克曼和公司又從其它公司挖來(lái)了幾位知名研究人員，其中包括谷歌大腦團(tuán)隊(duì)的資深人士伊安·古德費(fèi)洛?！笆穼?shí)驗(yàn)室的特殊之處在于，他們網(wǎng)羅了一大批聰明人在一起，隨心所欲天馬行空，”布洛克曼說(shuō)，“你想要的是一個(gè)共同的愿景，并且不受控制?！?/p>
放棄控制權(quán)是開源理想化的關(guān)鍵一步。如果足夠多的人能夠投身于這樣一個(gè)集體目標(biāo)，最終結(jié)果會(huì)超過(guò)你在保密狀態(tài)下研發(fā)的一切。不過(guò)如果人工智能真能變得如預(yù)想般強(qiáng)大，那么其發(fā)展過(guò)程就又發(fā)生了變化。我們需要確保新的人工智能技術(shù)能夠繼續(xù)遵循最初創(chuàng)建它們時(shí)的平等理念。馬斯克、奧特曼和布洛克曼把它們的信心寄望于群體的智慧。不過(guò)，如果他們是正確的，總有一天，這個(gè)智慧的群體中將不僅只有人類。
