這已經(jīng)是個(gè)老掉牙的問題:人工智能究竟會(huì)不會(huì)摧毀人類?但圍繞圍繞這個(gè)陳舊命題的爭(zhēng)論遠(yuǎn)未停止。有人擔(dān)心這一技術(shù)被壞分子掌握,然后,“一鍵摧毀人類”;另外的人同樣承認(rèn)人工智能的危險(xiǎn)性,但他們認(rèn)為,化解危險(xiǎn)的唯一辦法,就是讓更多的人使用這項(xiàng)技術(shù),他們說(shuō),“眾多人工智能會(huì)一起協(xié)作來(lái)阻止偶然出現(xiàn)的壞分子”。
硅谷 OpenAI 公司的建立正是源于后一種設(shè)想。從特斯拉創(chuàng)始人埃隆·馬斯克、著名科技投資人山姆·奧特曼,到 Facebook、Google 等大公司里負(fù)責(zé)人工智能的核心員工,他們放棄了比橄欖球明星更高的薪水,加入了這家致力于讓人工智能變得更好,而不是更賺錢的公司。他們會(huì)成功嗎?人類會(huì)成功嗎?
每周五下午發(fā)布的新聞通常不會(huì)引起太多關(guān)注,所以在政治家或者資本家看來(lái),這個(gè)時(shí)段通常是用來(lái)悄悄處理掉一些壞消息的。所以,去年12月的蒙特利爾,當(dāng)電動(dòng)汽車廠商特斯拉公司的創(chuàng)始人埃隆·馬斯克和著名科技孵化器機(jī)構(gòu)“Y Combinator”的創(chuàng)始人山姆·奧特曼選擇在為期一周的人工智能大會(huì)結(jié)束之際——也即是一個(gè)周五的下午——宣布他們成立了一家新的人工智能公司,就多少顯得有點(diǎn)奇怪了。
埃隆·馬斯克,SpaceX 創(chuàng)辦人,特斯拉汽車聯(lián)合創(chuàng)辦人
不過(guò),他們選擇在最后時(shí)段才宣布這個(gè)消息是有原因的。并不是因?yàn)闆]有人理會(huì),而是因?yàn)樗腥硕荚陉P(guān)注這件事。硅谷最有實(shí)力的幾家公司往往是一聽到新公司成立的風(fēng)聲,就開始想要用巨額高薪吸引新公司剛剛招募到的核心研究人員,將這些難得的人才據(jù)為己有。最后關(guān)頭的挖角——有些是在人工智能大會(huì)上實(shí)時(shí)發(fā)生的——足以迫使馬斯克和奧特曼推遲宣布新公司的成立?!伴_價(jià)的數(shù)額相當(dāng)瘋狂?!蔽忠燎锌恕ぴ鷤惏驼f(shuō),他在谷歌和 Facebook 度過(guò)實(shí)習(xí)期之后加入了 OpenAI 公司,也是在最后時(shí)刻收到大公司巨額利誘的人才之一。
“相當(dāng)瘋狂”是多少錢??jī)赡昵?,最新的機(jī)器學(xué)習(xí)技術(shù)真正開始在市場(chǎng)上走紅的時(shí)候,微軟研究院的副總裁彼得·李說(shuō)過(guò),一名頂級(jí)的人工智能研究人員的身價(jià)能讓國(guó)家橄欖球聯(lián)盟里一名最有前景的四分衛(wèi)的身價(jià)都黯然失色——他指的還只是一般情況下的出價(jià),而當(dāng)硅谷最知名的兩家公司對(duì)你手上最出色的人才大肆搶奪的時(shí)候,其價(jià)格可想而知。扎倫巴說(shuō),OpenAI 成立期間,某些企業(yè)給他的出價(jià)已經(jīng)比他的市場(chǎng)價(jià)值高出兩到三倍。
OpenAI 公司提供的薪水無(wú)法與那些公司相比。但是它有其它優(yōu)勢(shì):有機(jī)會(huì)去探索完全面向未來(lái)的研究,而不必去考慮產(chǎn)品或者季度盈利,并最終把這些研究的絕大部分,甚至是全部的成果,分享給有需要的人。沒錯(cuò)人工智能或許是21世紀(jì)最具革命性的技術(shù),而馬斯克、奧特曼和 OpenAI 這家公司的目標(biāo)就是把這項(xiàng)技術(shù)提供給每一個(gè)人——并且是免費(fèi)提供。
OpenAI辦公室內(nèi)的一天
扎倫巴說(shuō),那些幾近瘋狂的挖角出價(jià)實(shí)際上讓他興味索然——雖然他對(duì)于谷歌和 Facebook 這樣的公司仍然充滿敬意。他感覺那些大公司開出天價(jià)的目的除了吸引他為之效力之外,也是在阻礙 OpenAI 的創(chuàng)立,這反而讓他更加認(rèn)同這家初創(chuàng)公司的宏大愿景。“我意識(shí)到,”扎倫巴說(shuō),“OpenAI 是我最應(yīng)該去的地方?!?/p>
這就是整件事的諷刺之處:全世界最大的科技公司們像全國(guó)橄欖球大聯(lián)盟爭(zhēng)搶明星四分衛(wèi)隊(duì)員那樣挽留他們旗下的科研人員,可是那些科研人員本身卻想把自己掌握的技術(shù)分享出去。人工智能研究領(lǐng)域是一片凈土,在這里,最聰明的頭腦并不受下一個(gè)產(chǎn)品循環(huán)或者利潤(rùn)率所驅(qū)使——至少不僅僅受其驅(qū)使。他們想讓人工智能技術(shù)變得更好,而如果把最新的研究成果當(dāng)做秘密保守起來(lái),是無(wú)法讓它更好的。
這天早晨,OpenAI 公司將要發(fā)布它的首批人工智能軟件,這是一個(gè)借助“增強(qiáng)學(xué)習(xí)”技術(shù)來(lái)開發(fā)人工智能系統(tǒng)的工具包——谷歌公司開發(fā)的人工智能機(jī)器人“阿爾法狗”曾經(jīng)在圍棋比賽中戰(zhàn)勝人類而讓世界震驚,開發(fā)“阿爾法狗”的其中一項(xiàng)核心技術(shù)就是“增強(qiáng)學(xué)習(xí)”。使用這個(gè)工具包,你就可以開發(fā)出一套能夠模擬新一代機(jī)器人的系統(tǒng),它可以玩 Atari 公司出品的電子游戲,當(dāng)然,也可以成為圍棋高手。
但是,玩游戲還只是個(gè)開始。OpenAI 公司決意用10億美元的投入,將人工智能技術(shù)發(fā)展到極致。在公司因何成立以及未來(lái)如何計(jì)劃這兩個(gè)方面,你都可以看到下一波創(chuàng)新浪潮正在形成。OpenAI 公司自身能否成為這一變革的代表,我們目前還遠(yuǎn)未可知。但是,這家異軍突起的初創(chuàng)公司成立背后的強(qiáng)大驅(qū)動(dòng)力顯示出新一代的人工智能技術(shù)不僅僅是重塑科技而已,它將會(huì)重塑我們構(gòu)建科技的方式。
當(dāng)然,人們創(chuàng)造機(jī)器人的初衷是幫助人類
硅谷并非一味反對(duì)夸夸其談。帶著懷疑的態(tài)度去審視聽起來(lái)很大膽的想法,總歸是一種明智之舉。但是在人工智能領(lǐng)域,改變真的在發(fā)生著。在谷歌和 Facebook 等大公司里,一種被稱為“深度學(xué)習(xí)”的技術(shù)已經(jīng)在幫助互聯(lián)網(wǎng)服務(wù)商識(shí)別照片中的人臉,識(shí)別通過(guò)話筒傳入的語(yǔ)音命令,并且對(duì)網(wǎng)絡(luò)搜索條目做出回應(yīng)。而同樣的技術(shù)可以為未來(lái)實(shí)現(xiàn)更多任務(wù)提供驅(qū)動(dòng)力。它能夠幫助機(jī)器理解自然語(yǔ)言——也就是我們?nèi)祟惤徽労蜁鴮懙奶烊环绞?。它可以?chuàng)造新一代機(jī)器人,讓它們不僅有能力完成任務(wù),還可以在工作中持續(xù)學(xué)習(xí)。有人還相信它最終能夠讓機(jī)器也擁有“常識(shí)”——也就是真正像人類一樣思考的能力。
但是這種期待同樣帶來(lái)深深的焦慮。馬斯克和奧特曼都擔(dān)心,如果人類可以創(chuàng)建出做好事的人工智能系統(tǒng),那么他們同樣可以利用這項(xiàng)技術(shù)來(lái)做壞事。對(duì)機(jī)器人權(quán)力過(guò)度感到害怕的人并非只有他們兩個(gè),不過(guò)馬斯克和奧特曼也都一反常規(guī)地認(rèn)為,對(duì)抗“壞”人工智能的最好方式并不是對(duì)這項(xiàng)技術(shù)嚴(yán)加控制,而是讓更多人能夠接觸到它。這也是一群年輕、高智商的理想主義者能夠被他們的新事業(yè)吸引的原因之一。
OpenAI 誕生于去年夏天,具體坐標(biāo)是硅谷 Rosewood 酒店的一個(gè)包間里。這座高檔都市牧場(chǎng)風(fēng)格的酒店坐落于風(fēng)投世界的中心,就在加州門羅公園的沙嶺路上。埃隆·馬斯克正在與伊利亞·蘇茨凱威爾吃晚餐,后者當(dāng)時(shí)供職于“谷歌大腦”項(xiàng)目團(tuán)隊(duì),這個(gè)項(xiàng)目主要致力于開發(fā)深度神經(jīng)網(wǎng)絡(luò)——也就是能夠通過(guò)分析海量數(shù)據(jù)從而學(xué)習(xí)并完成一系列任務(wù)的人工智能系統(tǒng),它能夠進(jìn)行圖像識(shí)別,也能撰寫電子郵件,甚至還可以與人類對(duì)話。蘇茨凱威爾是該項(xiàng)目的首席智囊之一。但是,一個(gè)更偉大的想法正在誕生。
伊利亞·蘇茨凱威爾,攝影:Christie Hemm Klok/WIRED
曾經(jīng)孵化了 Airbnb、Dropbox 和 Coinbase 等初創(chuàng)公司的“Y Combinator”公司創(chuàng)始人山姆·奧特曼安排了這次晚餐會(huì)面,他把幾名人工智能研究人員和一名年輕但經(jīng)驗(yàn)豐富的創(chuàng)業(yè)者格雷格·布洛克曼召集到一起。布洛克曼此前在“Y Combinator”公司扶持過(guò)的知名數(shù)字支付初創(chuàng)公司Stripe擔(dān)任首席技術(shù)官。與會(huì)者可謂風(fēng)馬牛不相及,但是他們都有一個(gè)共同的目標(biāo):創(chuàng)建一個(gè)新型人工智能實(shí)驗(yàn)室,能夠在谷歌以及任何其它公司的控制之外工作?!霸谖依硐胫凶詈玫氖聵I(yè),”布洛克曼說(shuō),“就是用安全的方式讓人類朝著真正的人工智能開發(fā)更近一步?!?/p>
馬斯克之所以在場(chǎng)是因?yàn)樗菉W特曼的老朋友——也是因?yàn)槿斯ぶ悄軐?duì)于他各項(xiàng)業(yè)務(wù)的未來(lái),甚至整個(gè)人類的未來(lái),都是極為關(guān)鍵的。特斯拉終將實(shí)現(xiàn)汽車自動(dòng)駕駛,這需要人工智能。馬斯克的另外一家公司 SpaceX 也需要人工智能把人類送入太空并且讓他們?cè)谀抢锎婊?。不過(guò),馬斯克也是大聲疾呼,提醒人們對(duì)這項(xiàng)技術(shù)保持警惕的人之一,他警告說(shuō),有一天這個(gè)系統(tǒng)可能會(huì)強(qiáng)大到足以擺脫人類的控制而進(jìn)行自主學(xué)習(xí)。
問題在于:能夠解決所有這些問題的人才中,很多都已經(jīng)在為谷歌(以及 Facebook、微軟、百度和推特等公司)工作。出席晚餐的人里沒有人能確保這些人會(huì)放棄優(yōu)渥的工作條件轉(zhuǎn)而加入一家新公司,哪怕它有馬斯克和奧特曼的大力支持。不過(guò),其中的一位關(guān)鍵人物至少不排除跳槽的想法。“我覺得這件事會(huì)有一些風(fēng)險(xiǎn),”蘇茨凱威爾說(shuō),“但我同樣覺得非常有趣,值得一試?!?/p>
打破僵局
與馬斯克、奧特曼等人在 Rosewood 酒店的一席談話讓布洛克曼信心十足,他很快就開始著手建立大家期望中的這座實(shí)驗(yàn)室,全力以赴地投入工作。他找到了蒙特利爾大學(xué)的電腦工程師、“深度學(xué)習(xí)”技術(shù)的奠基人之一約書亞·本吉奧。該領(lǐng)域的其他兩位先鋒人物——杰夫·辛頓和延恩·勒昆——目前分別在谷歌和 Facebook 工作,不過(guò)本吉奧已經(jīng)決意終身從事學(xué)術(shù)研究,基本上置身商業(yè)領(lǐng)域之外。他列出了該領(lǐng)域最好的研究人員的名單,隨后幾周內(nèi),布洛克曼盡力去接觸名單上的每一個(gè)人,此外還拜訪了其它一些人才。
大多數(shù)研究人員都喜歡這個(gè)想法,但是他們對(duì)于真正邁出這一步也很謹(jǐn)慎。為了打破僵局,布洛克曼選了10位他最希望能夠加盟的研究人員,邀請(qǐng)他們?cè)谀硞€(gè)周六到納帕河谷去品品酒,吃頓飯,順便游說(shuō)一下。對(duì)于布洛克曼來(lái)說(shuō),即便是那段前往納帕的短暫車程,也都成為了這項(xiàng)計(jì)劃的催化劑?!坝幸环N往往被低估的方法卻總能夠把人們的距離拉近,那就是當(dāng)你處于繁忙交通中,沒辦法快速抵達(dá)目的地而只能在車?yán)锏却臅r(shí)候,”他說(shuō),“你只能慢慢往前挪,而且還要找話說(shuō)。”所以,當(dāng)他們抵達(dá)酒莊的時(shí)候,車中暢談的氣氛仍未消散?!坝行r(shí)候你確實(shí)能感覺到大家意氣相投,那天就是,”布洛克曼說(shuō)?;蛘呦裉K茨凱威爾說(shuō)的:“相對(duì)于暢談而言,喝酒是次要的。”
格雷格·布洛克曼,攝影:Christie Hemm Klok/WIRED
那次聚會(huì)結(jié)束之后,布洛克曼正式向這10位研究人員提出加盟實(shí)驗(yàn)室的邀請(qǐng),他給了他們3周的時(shí)間考慮。最終其中9位決定加入。他們決意加盟,就算硅谷的巨頭們用巨額待遇挽留也不為所動(dòng)。“他們?yōu)榱俗屛伊粝露_出的條件確實(shí)很誘人,所以這并不是個(gè)簡(jiǎn)單容易的決定,”蘇茨凱威爾提到自己的前雇主谷歌公司這樣說(shuō),“不過(guò)最終,我決定加入 OpenAI 公司,部分是由于這個(gè)團(tuán)隊(duì)整體非常優(yōu)秀,此外,很大程度上是因?yàn)樗氖姑??!?/p>
“深度學(xué)習(xí)”起源于學(xué)術(shù)領(lǐng)域。直到最近,隨著原生計(jì)算能力的提升,谷歌、Facebook 和微軟等公司才開始將其推入應(yīng)用領(lǐng)域,讓深度神經(jīng)網(wǎng)絡(luò)變成現(xiàn)實(shí),而非只是理論上的可能性。辛頓和勒昆離開學(xué)術(shù)界加入谷歌和 Facebook,也是因?yàn)檫@些公司有大量的資源可以使用。但他們?nèi)匀粌A向于與其他智囊進(jìn)行交流與合作。實(shí)際上,正如勒昆指出的,深度學(xué)習(xí)研究需要一種思想自由流通的環(huán)境。“當(dāng)你在保密中進(jìn)行研究,”他說(shuō),“你就落在后面了?!?/p>
因此,大公司也都開始多多分享自己的人工智能研究成果。這是一個(gè)重大的轉(zhuǎn)變,尤其是對(duì)谷歌這種長(zhǎng)期將其網(wǎng)絡(luò)王國(guó)的核心技術(shù)嚴(yán)加保密的公司來(lái)說(shuō)。最近,谷歌開放了驅(qū)動(dòng)其神經(jīng)系統(tǒng)網(wǎng)絡(luò)的軟件引擎。但是,為了在未來(lái)爭(zhēng)得先機(jī),它的核心技術(shù)仍然是保密狀態(tài)。布洛克曼、奧特曼和馬斯克的目標(biāo)是繼續(xù)把開源的理念推廣下去,也就是說(shuō),他們不希望只有一兩家大公司來(lái)控制人工智能的未來(lái)。
開放的局限
一切似乎都很美好。但是,即便 OpenAI 公司是最有理想的,研究者們或許還是會(huì)發(fā)現(xiàn)他們?cè)谂f工作中面臨的某些困境仍然存在。開放也是有局限的。而且,長(zhǎng)遠(yuǎn)計(jì)劃也并非 OpenAI 公司唯一的興趣點(diǎn)。OpenAI 公司不是一家慈善機(jī)構(gòu)。馬斯克的公司可以從公司的研究成果中獲得很大收益,奧特曼的“Y Combinator”公司扶持的很多公司也是如此?!肮究隙〞?huì)有一些與競(jìng)爭(zhēng)有關(guān)的發(fā)展目標(biāo),”勒昆說(shuō),“這家公司是非盈利性質(zhì),但是它與 Y Combinator 有很大關(guān)聯(lián)。員工也像是在為企業(yè)工作一樣,有薪水可拿?!?/p>
按照布洛克曼的說(shuō)法,實(shí)驗(yàn)室沒有像谷歌或者 Facebook 那樣,給人工智能研究人員們支付天文數(shù)字級(jí)別的薪水。但是他說(shuō),實(shí)驗(yàn)室確實(shí)想給他們“豐厚的待遇”,并且會(huì)以發(fā)放股票期權(quán)的方式來(lái)實(shí)現(xiàn),先是“Y Combinator”公司的股票,隨后或許還會(huì)有 SpaceX 的股票(與特斯拉公司不同,SpaceX 目前仍然是一家私營(yíng)公司)。
盡管如此,布洛克曼堅(jiān)持說(shuō),OpenAI 公司不會(huì)給姐妹公司特殊優(yōu)待?!癘penAI 是一家科研機(jī)構(gòu),”他說(shuō),“不是咨詢公司。”不過(guò)他也承認(rèn)開放人工智能的理想化愿景有其局限性。公司或許不會(huì)把所有成果都完全公開,盡管他們最終的目標(biāo)是把絕大部分的研究通過(guò)論文或者網(wǎng)絡(luò)分享給所有人。“公開進(jìn)行所有研究并不一定是最好的方法。我們希望可以先培養(yǎng)某個(gè)想法,看看它的發(fā)展前景,然后再公之于眾,”布洛克曼說(shuō),“我們會(huì)公布很多開源代碼,但是也有一些內(nèi)容還沒到發(fā)表的時(shí)候。”
蘇茨凱威爾和布洛克曼都同樣補(bǔ)充說(shuō),OpenAI 公司甚至?xí)橐恍┕ぷ鞒晒暾?qǐng)專利?!敖谖覀儾粫?huì)對(duì)任何成果申請(qǐng)專利,”布洛克曼說(shuō),“但是長(zhǎng)遠(yuǎn)來(lái)看,如果我們未來(lái)發(fā)現(xiàn)有些事情可以對(duì)全世界有利,我們也會(huì)改變策略?!北热?,他說(shuō),OpenAI 可能會(huì)通過(guò)申請(qǐng)專利的方式來(lái)反制他人搶奪專利權(quán)并掌控相關(guān)技術(shù)。
不過(guò),在有些人看來(lái),申請(qǐng)專利表明公司有盈利的動(dòng)機(jī)——至少這與 OpenAI 公司的創(chuàng)始人們所推崇的開源模式有一定差距?!皩@到y(tǒng)一向是這樣運(yùn)行的,”艾倫人工智能研究院院長(zhǎng)歐倫·埃喬尼說(shuō),“這就讓我對(duì)他們的發(fā)展方向有些懷疑?!?/p>
超級(jí)智能帶來(lái)的麻煩
馬斯克和奧特曼宣布成立 OpenAI 公司的時(shí)候,也聲稱新公司可以與惡意的人工超級(jí)智能系統(tǒng)抗衡。當(dāng)然,這些惡意的超級(jí)智能系統(tǒng)或許正是從 OpenAI 開發(fā)的技術(shù)里衍生出來(lái)的,不過(guò)他們堅(jiān)持認(rèn)為,只要每一個(gè)人都可以使用這種技術(shù),那么類似威脅就會(huì)被削弱甚至消除?!拔覀冋J(rèn)為更有可能發(fā)生的情況是,眾多人工智能會(huì)一起協(xié)作來(lái)阻止偶然出現(xiàn)的壞分子,”奧特曼說(shuō)。
但是并非所有業(yè)內(nèi)人士都認(rèn)同這一點(diǎn)。像馬斯克一樣,牛津大學(xué)的哲學(xué)家尼克·博斯特羅姆也對(duì)人工智能的潛在危險(xiǎn)提出了警告,他指出,如果沒有任何限制地公布研究成果,那么這些技術(shù)就可能在確認(rèn)安全之前被壞分子掌握了。“如果你有個(gè)按鈕,按下去就能危害全世界,”博斯特羅姆說(shuō),“你可不希望把它交給每一個(gè)人?!狈催^(guò)來(lái)說(shuō),如果 OpenAI 決定為了阻止壞分子而將研究成果保密的話,博斯特羅姆又想不通,那他們與谷歌和 Facebook 的區(qū)別又在哪里呢。
他確實(shí)認(rèn)為 OpenAI 的非盈利性質(zhì)或許可以產(chǎn)生一些改變——但并非一定如此。OpenAI 真正強(qiáng)大的地方,他說(shuō),在于它能夠制約并監(jiān)督谷歌和 Facebook 這類大公司的作為。“他可以減少超級(jí)智能壟斷的可能性,”他說(shuō),“至少 OpenAI 能夠讓某些機(jī)構(gòu)或者集團(tuán)沒那么容易就控制到更好更先進(jìn)的人工智能技術(shù)?!?/p>
卡耐姆·切斯所著《如何逃離人工智能》
此外,這位哲學(xué)家在一份最新的論文中又指出,OpenAI 這類機(jī)構(gòu)——這種愿意把成果免費(fèi)公開的機(jī)構(gòu)的主要影響力在于,它加速了人工智能技術(shù)的進(jìn)步,起碼在短期之內(nèi)是如此。它或許也會(huì)對(duì)長(zhǎng)遠(yuǎn)發(fā)展有所促進(jìn),只要能夠更無(wú)私地“實(shí)現(xiàn)更高層次的開源,達(dá)到運(yùn)營(yíng)上的最佳狀態(tài)”。
“以博愛為動(dòng)機(jī)而設(shè)立研發(fā)基金,通過(guò)致力于開源技術(shù)的研究而加快進(jìn)步的速度,這樣或許是可行的?!?/p>
就像當(dāng)年的施樂實(shí)驗(yàn)室
1月初,9位人工智能研究人員到布洛克曼位于舊金山教會(huì)區(qū)的公寓開會(huì)。這家公司還太年輕,以至于他們連白板都還沒來(lái)得及準(zhǔn)備(能想象嗎?)。他們臨時(shí)買了幾塊白板,并開始工作。
布洛克曼說(shuō),OpenAI 公司將會(huì)從對(duì)“增強(qiáng)學(xué)習(xí)”技術(shù)的研究入手,這種技術(shù)讓機(jī)器通過(guò)不斷重復(fù)任務(wù)來(lái)進(jìn)行學(xué)習(xí),并且監(jiān)測(cè)結(jié)果從而找到最優(yōu)方案。不過(guò)他們還有一個(gè)主要研究方向,那就是“無(wú)監(jiān)督學(xué)習(xí)”——研發(fā)出能夠脫離人類監(jiān)管,實(shí)現(xiàn)真正自我學(xué)習(xí)的機(jī)器系統(tǒng)。如今,深度學(xué)習(xí)是受精確標(biāo)記的數(shù)據(jù)操控的。如果你想訓(xùn)練神經(jīng)網(wǎng)絡(luò)識(shí)別貓咪的圖片,你必須先要向它輸入一定數(shù)量的示例——并且這些示例圖片必須被添加“貓咪”的標(biāo)簽。這一學(xué)習(xí)的過(guò)程也是在人類標(biāo)記的監(jiān)督之下。但是,OpenAI 和很多其它研究人員的目標(biāo)是創(chuàng)建不需要數(shù)據(jù)標(biāo)記就能夠進(jìn)行學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)。
網(wǎng)絡(luò)安全需要人類和人工智能聯(lián)合才能保證
“如果你已經(jīng)有了非常好的無(wú)監(jiān)督學(xué)習(xí)技術(shù),那么機(jī)器就能夠?qū)W到互聯(lián)網(wǎng)上所有的相關(guān)知識(shí)——就像人類通過(guò)觀察或者讀書來(lái)學(xué)習(xí)一樣,”布洛克曼說(shuō)。
布洛克曼認(rèn)為,OpenAI 公司就是現(xiàn)代版的施樂實(shí)驗(yàn)室。在七十年代,施樂實(shí)驗(yàn)室可謂風(fēng)頭無(wú)兩,它倡導(dǎo)開源和無(wú)拘無(wú)束的研究風(fēng)氣,孕育出圖形用戶界面、激光打印機(jī)和面向目標(biāo)編程等多項(xiàng)重要技術(shù),布洛克曼和團(tuán)隊(duì)希望能夠?qū)⑦^(guò)去屬于科學(xué)幻想范疇的技術(shù)加以深耕實(shí)現(xiàn)。的確,施樂實(shí)驗(yàn)室是施樂公司所有,但是它的研究成果也培養(yǎng)出很多公司,其中最著名的就是蘋果,史蒂夫·喬布斯也曾經(jīng)從施樂實(shí)驗(yàn)室的科研中獲益。同樣,布洛克曼也希望 OpenAI 能夠造福更多人。
這個(gè)月,布洛克曼和公司又從其它公司挖來(lái)了幾位知名研究人員,其中包括谷歌大腦團(tuán)隊(duì)的資深人士伊安·古德費(fèi)洛?!笆穼?shí)驗(yàn)室的特殊之處在于,他們網(wǎng)羅了一大批聰明人在一起,隨心所欲天馬行空,”布洛克曼說(shuō),“你想要的是一個(gè)共同的愿景,并且不受控制?!?/p>
放棄控制權(quán)是開源理想化的關(guān)鍵一步。如果足夠多的人能夠投身于這樣一個(gè)集體目標(biāo),最終結(jié)果會(huì)超過(guò)你在保密狀態(tài)下研發(fā)的一切。不過(guò)如果人工智能真能變得如預(yù)想般強(qiáng)大,那么其發(fā)展過(guò)程就又發(fā)生了變化。我們需要確保新的人工智能技術(shù)能夠繼續(xù)遵循最初創(chuàng)建它們時(shí)的平等理念。馬斯克、奧特曼和布洛克曼把它們的信心寄望于群體的智慧。不過(guò),如果他們是正確的,總有一天,這個(gè)智慧的群體中將不僅只有人類。