我們創業是為了上市和被收購，矽谷人創業想的是拯救全人類
這已經是個老掉牙的問題：人工智慧究竟會不會摧毀人類？但圍繞圍繞這個陳舊命題的爭論遠未停止。有人擔心這一技術被壞分子掌握，然後，“一鍵摧毀人類”；另外的人同樣承認人工智慧的危險性，但他們認為，化解危險的唯一辦法，就是讓更多的人使用這項技術，他們說，“眾多人工智慧會一起協作來阻止偶然出現的壞分子”。
矽谷 OpenAI 公司的建立正是源於後一種設想。從特斯拉創始人埃隆·馬斯克、著名科技投資人山姆·奧特曼，到 Facebook、Google 等大公司裡負責人工智慧的核心員工，他們放棄了比橄欖球明星更高的薪水，加入了這家致力於讓人工智慧變得更好，而不是更賺錢的公司。他們會成功嗎？人類會成功嗎？
每週五下午發佈的新聞通常不會引起太多關注，所以在政治家或者資本家看來，這個時段通常是用來悄悄處理掉一些壞消息的。所以，去年12月的蒙特利爾，當電動汽車廠商特斯拉公司的創始人埃隆·馬斯克和著名科技孵化器機構“Y Combinator”的創始人山姆·奧特曼選擇在為期一周的人工智慧大會結束之際——也即是一個週五的下午——宣佈他們成立了一家新的人工智慧公司，就多少顯得有點奇怪了。
埃隆·馬斯克，SpaceX 創辦人，特斯拉汽車聯合創辦人
不過，他們選擇在最後時段才宣佈這個消息是有原因的。並不是因為沒有人理會，而是因為所有人都在關注這件事。矽谷最有實力的幾家公司往往是一聽到新公司成立的風聲，就開始想要用巨額高薪吸引新公司剛剛招募到的核心研究人員，將這些難得的人才據為己有。最後關頭的挖角——有些是在人工智慧大會上即時發生的——足以迫使馬斯克和奧特曼推遲宣佈新公司的成立。“開價的數額相當瘋狂。”沃伊切克·紮倫巴說，他在穀歌和 Facebook 度過實習期之後加入了 OpenAI 公司，也是在最後時刻收到大公司巨額利誘的人才之一。
“相當瘋狂”是多少錢？兩年前，最新的機器學習技術真正開始在市場上走紅的時候，微軟研究院的副總裁彼得·李說過，一名頂級的人工智慧研究人員的身價能讓國家橄欖球聯盟裡一名最有前景的四分衛的身價都黯然失色——他指的還只是一般情況下的出價，而當矽谷最知名的兩家公司對你手上最出色的人才大肆搶奪的時候，其價格可想而知。紮倫巴說，OpenAI 成立期間，某些企業給他的出價已經比他的市場價值高出兩到三倍。
OpenAI 公司提供的薪水無法與那些公司相比。但是它有其它優勢：有機會去探索完全面向未來的研究，而不必去考慮產品或者季度盈利，並最終把這些研究的絕大部分，甚至是全部的成果，分享給有需要的人。沒錯人工智慧或許是21世紀最具革命性的技術，而馬斯克、奧特曼和 OpenAI 這家公司的目標就是把這項技術提供給每一個人——並且是免費提供。
OpenAI辦公室內的一天
紮倫巴說，那些幾近瘋狂的挖角出價實際上讓他興味索然——雖然他對於穀歌和 Facebook 這樣的公司仍然充滿敬意。他感覺那些大公司開出天價的目的除了吸引他為之效力之外，也是在阻礙 OpenAI 的創立，這反而讓他更加認同這家初創公司的宏大願景。“我意識到，”紮倫巴說，“OpenAI 是我最應該去的地方。”
這就是整件事的諷刺之處：全世界最大的科技公司們像全國橄欖球大聯盟爭搶明星四分衛隊員那樣挽留他們旗下的科研人員，可是那些科研人員本身卻想把自己掌握的技術分享出去。人工智慧研究領域是一片淨土，在這裡，最聰明的頭腦並不受下一個產品迴圈或者利潤率所驅使——至少不僅僅受其驅使。他們想讓人工智慧技術變得更好，而如果把最新的研究成果當做秘密保守起來，是無法讓它更好的。
這天早晨，OpenAI 公司將要發佈它的首批人工智慧軟體，這是一個借助“增強學習”技術來開發人工智慧系統的工具包——谷歌公司開發的人工智慧機器人“阿爾法狗”曾經在圍棋比賽中戰勝人類而讓世界震驚，開發“阿爾法狗”的其中一項核心技術就是“增強學習”。使用這個工具包，你就可以開發出一套能夠類比新一代機器人的系統，它可以玩 Atari 公司出品的電子遊戲，當然，也可以成為圍棋高手。
但是，玩遊戲還只是個開始。OpenAI 公司決意用10億美元的投入，將人工智慧技術發展到極致。在公司因何成立以及未來如何計畫這兩個方面，你都可以看到下一波創新浪潮正在形成。OpenAI 公司自身能否成為這一變革的代表，我們目前還遠未可知。但是，這家異軍突起的初創公司成立背後的強大驅動力顯示出新一代的人工智慧技術不僅僅是重塑科技而已，它將會重塑我們構建科技的方式。
當然，人們創造機器人的初衷是幫助人類
矽谷並非一味反對誇誇其談。帶著懷疑的態度去審視聽起來很大膽的想法，總歸是一種明智之舉。但是在人工智慧領域，改變真的在發生著。在穀歌和 Facebook 等大公司裡，一種被稱為“深度學習”的技術已經在説明互聯網服務商識別照片中的人臉，識別通過話筒傳入的語音命令，並且對網路搜索條目做出回應。而同樣的技術可以為未來實現更多工提供驅動力。它能夠説明機器理解自然語言——也就是我們人類交談和書寫的天然方式。它可以創造新一代機器人，讓它們不僅有能力完成任務，還可以在工作中持續學習。有人還相信它最終能夠讓機器也擁有“常識”——也就是真正像人類一樣思考的能力。
但是這種期待同樣帶來深深的焦慮。馬斯克和奧特曼都擔心，如果人類可以創建出做好事的人工智慧系統，那麼他們同樣可以利用這項技術來做壞事。對機器人權力過度感到害怕的人並非只有他們兩個，不過馬斯克和奧特曼也都一反常規地認為，對抗“壞”人工智慧的最好方式並不是對這項技術嚴加控制，而是讓更多人能夠接觸到它。這也是一群年輕、高智商的理想主義者能夠被他們的新事業吸引的原因之一。
OpenAI 誕生於去年夏天，具體座標是矽谷 Rosewood 酒店的一個包間裡。這座高檔都市牧場風格的酒店坐落於風投世界的中心，就在加州門羅公園的沙嶺路上。埃隆·馬斯克正在與伊利亞·蘇茨凱威爾吃晚餐，後者當時供職于“穀歌大腦”項目團隊，這個項目主要致力於開發深度神經網路——也就是能夠通過分析海量資料從而學習並完成一系列任務的人工智慧系統，它能夠進行圖像識別，也能撰寫電子郵件，甚至還可以與人類對話。蘇茨凱威爾是該項目的首席智囊之一。但是，一個更偉大的想法正在誕生。
伊利亞·蘇茨凱威爾，攝影：Christie Hemm Klok/WIRED
曾經孵化了 Airbnb、Dropbox 和 Coinbase 等初創公司的“Y Combinator”公司創始人山姆·奧特曼安排了這次晚餐會面，他把幾名人工智慧研究人員和一名年輕但經驗豐富的創業者葛列格·布洛克曼召集到一起。布洛克曼此前在“Y Combinator”公司扶持過的知名數位支付初創公司Stripe擔任首席技術官。與會者可謂風馬牛不相及，但是他們都有一個共同的目標：創建一個新型人工智慧實驗室，能夠在穀歌以及任何其它公司的控制之外工作。“在我理想中最好的事業，”布洛克曼說，“就是用安全的方式讓人類朝著真正的人工智慧開發更近一步。”
馬斯克之所以在場是因為他是奧特曼的老朋友——也是因為人工智慧對於他各項業務的未來，甚至整個人類的未來，都是極為關鍵的。特斯拉終將實現汽車自動駕駛，這需要人工智慧。馬斯克的另外一家公司 SpaceX 也需要人工智慧把人類送入太空並且讓他們在那裡存活。不過，馬斯克也是大聲疾呼，提醒人們對這項技術保持警惕的人之一，他警告說，有一天這個系統可能會強大到足以擺脫人類的控制而進行自主學習。
問題在於：能夠解決所有這些問題的人才中，很多都已經在為穀歌（以及 Facebook、微軟、百度和推特等公司）工作。出席晚餐的人裡沒有人能確保這些人會放棄優渥的工作條件轉而加入一家新公司，哪怕它有馬斯克和奧特曼的大力支持。不過，其中的一位關鍵人物至少不排除跳槽的想法。“我覺得這件事會有一些風險，”蘇茨凱威爾說，“但我同樣覺得非常有趣，值得一試。”
打破僵局
與馬斯克、奧特曼等人在 Rosewood 酒店的一席談話讓布洛克曼信心十足，他很快就開始著手建立大家期望中的這座實驗室，全力以赴地投入工作。他找到了蒙特利爾大學的電腦工程師、“深度學習”技術的奠基人之一約書亞·本吉奧。該領域的其他兩位先鋒人物——傑夫·辛頓和延恩·勒昆——目前分別在穀歌和 Facebook 工作，不過本吉奧已經決意終身從事學術研究，基本上置身商業領域之外。他列出了該領域最好的研究人員的名單，隨後幾周內，布洛克曼盡力去接觸名單上的每一個人，此外還拜訪了其它一些人才。
大多數研究人員都喜歡這個想法，但是他們對於真正邁出這一步也很謹慎。為了打破僵局，布洛克曼選了10位他最希望能夠加盟的研究人員，邀請他們在某個週六到納帕河谷去品品酒，吃頓飯，順便遊說一下。對於布洛克曼來說，即便是那段前往納帕的短暫車程，也都成為了這項計畫的催化劑。“有一種往往被低估的方法卻總能夠把人們的距離拉近，那就是當你處於繁忙交通中，沒辦法快速抵達目的地而只能在車裡等待的時候，”他說，“你只能慢慢往前挪，而且還要找話說。”所以，當他們抵達酒莊的時候，車中暢談的氣氛仍未消散。“有些時候你確實能感覺到大家意氣相投，那天就是，”布洛克曼說。或者像蘇茨凱威爾說的：“相對於暢談而言，喝酒是次要的。”
葛列格·布洛克曼，攝影：Christie Hemm Klok/WIRED
那次聚會結束之後，布洛克曼正式向這10位研究人員提出加盟實驗室的邀請，他給了他們3周的時間考慮。最終其中9位決定加入。他們決意加盟，就算矽谷的巨頭們用巨額待遇挽留也不為所動。“他們為了讓我留下而開出的條件確實很誘人，所以這並不是個簡單容易的決定，”蘇茨凱威爾提到自己的前雇主谷歌公司這樣說，“不過最終，我決定加入 OpenAI 公司，部分是由於這個團隊整體非常優秀，此外，很大程度上是因為它的使命。”
“深度學習”起源於學術領域。直到最近，隨著原生計算能力的提升，穀歌、Facebook 和微軟等公司才開始將其推入應用領域，讓深度神經網路變成現實，而非只是理論上的可能性。辛頓和勒昆離開學術界加入穀歌和 Facebook，也是因為這些公司有大量的資源可以使用。但他們仍然傾向于與其他智囊進行交流與合作。實際上，正如勒昆指出的，深度學習研究需要一種思想自由流通的環境。“當你在保密中進行研究，”他說，“你就落在後面了。”
因此，大公司也都開始多多分享自己的人工智慧研究成果。這是一個重大的轉變，尤其是對穀歌這種長期將其網路王國的核心技術嚴加保密的公司來說。最近，穀歌開放了驅動其神經系統網路的軟體引擎。但是，為了在未來爭得先機，它的核心技術仍然是保密狀態。布洛克曼、奧特曼和馬斯克的目標是繼續把開源的理念推廣下去，也就是說，他們不希望只有一兩家大公司來控制人工智慧的未來。
開放的局限
一切似乎都很美好。但是，即便 OpenAI 公司是最有理想的，研究者們或許還是會發現他們在舊工作中面臨的某些困境仍然存在。開放也是有局限的。而且，長遠計畫也並非 OpenAI 公司唯一的興趣點。OpenAI 公司不是一家慈善機構。馬斯克的公司可以從公司的研究成果中獲得很大收益，奧特曼的“Y Combinator”公司扶持的很多公司也是如此。“公司肯定會有一些與競爭有關的發展目標，”勒昆說，“這家公司是非盈利性質，但是它與 Y Combinator 有很大關聯。員工也像是在為企業工作一樣，有薪水可拿。”
按照布洛克曼的說法，實驗室沒有像穀歌或者 Facebook 那樣，給人工智慧研究人員們支付天文數字級別的薪水。但是他說，實驗室確實想給他們“豐厚的待遇”，並且會以發放股票期權的方式來實現，先是“Y Combinator”公司的股票，隨後或許還會有 SpaceX 的股票（與特斯拉公司不同，SpaceX 目前仍然是一家私營公司）。
儘管如此，布洛克曼堅持說，OpenAI 公司不會給姐妹公司特殊優待。“OpenAI 是一家科研機構，”他說，“不是諮詢公司。”不過他也承認開放人工智慧的理想化願景有其局限性。公司或許不會把所有成果都完全公開，儘管他們最終的目標是把絕大部分的研究通過論文或者網路分享給所有人。“公開進行所有研究並不一定是最好的方法。我們希望可以先培養某個想法，看看它的發展前景，然後再公之於眾，”布洛克曼說，“我們會公佈很多開原始程式碼，但是也有一些內容還沒到發表的時候。”
蘇茨凱威爾和布洛克曼都同樣補充說，OpenAI 公司甚至會為一些工作成果申請專利。“近期我們不會對任何成果申請專利，”布洛克曼說，“但是長遠來看，如果我們未來發現有些事情可以對全世界有利，我們也會改變策略。”比如，他說，OpenAI 可能會通過申請專利的方式來反制他人搶奪專利權並掌控相關技術。
不過，在有些人看來，申請專利表明公司有盈利的動機——至少這與 OpenAI 公司的創始人們所推崇的開源模式有一定差距。“專利系統一向是這樣運行的，”艾倫人工智慧研究院院長歐倫·埃喬尼說，“這就讓我對他們的發展方向有些懷疑。”
超級智慧帶來的麻煩
馬斯克和奧特曼宣佈成立 OpenAI 公司的時候，也聲稱新公司可以與惡意的人工超級智慧系統抗衡。當然，這些惡意的超級智慧系統或許正是從 OpenAI 開發的技術裡衍生出來的，不過他們堅持認為，只要每一個人都可以使用這種技術，那麼類似威脅就會被削弱甚至消除。“我們認為更有可能發生的情況是，眾多人工智慧會一起協作來阻止偶然出現的壞分子，”奧特曼說。
但是並非所有業內人士都認同這一點。像馬斯克一樣，牛津大學的哲學家尼克·博斯特羅姆也對人工智慧的潛在危險提出了警告，他指出，如果沒有任何限制地公佈研究成果，那麼這些技術就可能在確認安全之前被壞分子掌握了。“如果你有個按鈕，按下去就能危害全世界，”博斯特羅姆說，“你可不希望把它交給每一個人。”反過來說，如果 OpenAI 決定為了阻止壞分子而將研究成果保密的話，博斯特羅姆又想不通，那他們與穀歌和 Facebook 的區別又在哪裡呢。
他確實認為 OpenAI 的非盈利性質或許可以產生一些改變——但並非一定如此。OpenAI 真正強大的地方，他說，在於它能夠制約並監督穀歌和 Facebook 這類大公司的作為。“他可以減少超級智慧壟斷的可能性，”他說，“至少 OpenAI 能夠讓某些機構或者集團沒那麼容易就控制到更好更先進的人工智慧技術。”
卡耐姆·切斯所著《如何逃離人工智慧》
此外，這位哲學家在一份最新的論文中又指出，OpenAI 這類機構——這種願意把成果免費公開的機構的主要影響力在於，它加速了人工智慧技術的進步，起碼在短期之內是如此。它或許也會對長遠發展有所促進，只要能夠更無私地“實現更高層次的開源，達到運營上的最佳狀態”。
“以博愛為動機而設立研發基金，通過致力於開源技術的研究而加快進步的速度，這樣或許是可行的。”
就像當年的施樂實驗室
1月初，9位人工智慧研究人員到布洛克曼位於三藩市教會區的公寓開會。這家公司還太年輕，以至於他們連白板都還沒來得及準備（能想像嗎？）。他們臨時買了幾塊白板，並開始工作。
布洛克曼說，OpenAI 公司將會從對“增強學習”技術的研究入手，這種技術讓機器通過不斷重複任務來進行學習，並且監測結果從而找到最優方案。不過他們還有一個主要研究方向，那就是“無監督學習”——研發出能夠脫離人類監管，實現真正自我學習的機器系統。如今，深度學習是受精確標記的資料操控的。如果你想訓練神經網路識別貓咪的圖片，你必須先要向它輸入一定數量的示例——並且這些示例圖片必須被添加“貓咪”的標籤。這一學習的過程也是在人類標記的監督之下。但是，OpenAI 和很多其它研究人員的目標是創建不需要資料標記就能夠進行學習的神經網路。
網路安全需要人類和人工智慧聯合才能保證
“如果你已經有了非常好的無監督學習技術，那麼機器就能夠學到互聯網上所有的相關知識——就像人類通過觀察或者讀書來學習一樣，”布洛克曼說。
布洛克曼認為，OpenAI 公司就是現代版的施樂實驗室。在七十年代，施樂實驗室可謂風頭無兩，它宣導開源和無拘無束的研究風氣，孕育出圖形化使用者介面、雷射印表機和面向目標程式設計等多項重要技術，布洛克曼和團隊希望能夠將過去屬於科學幻想範疇的技術加以深耕實現。的確，施樂實驗室是施樂公司所有，但是它的研究成果也培養出很多公司，其中最著名的就是蘋果，史蒂夫·約伯斯也曾經從施樂實驗室的科研中獲益。同樣，布洛克曼也希望 OpenAI 能夠造福更多人。
這個月，布洛克曼和公司又從其它公司挖來了幾位知名研究人員，其中包括穀歌大腦團隊的資深人士伊安·古德費洛。“施樂實驗室的特殊之處在於，他們網羅了一大批聰明人在一起，隨心所欲天馬行空，”布洛克曼說，“你想要的是一個共同的願景，並且不受控制。”
放棄控制權是開源理想化的關鍵一步。如果足夠多的人能夠投身於這樣一個集體目標，最終結果會超過你在保密狀態下研發的一切。不過如果人工智慧真能變得如預想般強大，那麼其發展過程就又發生了變化。我們需要確保新的人工智慧技術能夠繼續遵循最初創建它們時的平等理念。馬斯克、奧特曼和布洛克曼把它們的信心寄望于群體的智慧。不過，如果他們是正確的，總有一天，這個智慧的群體中將不僅只有人類。
編輯：Rocco Liu 撰文：Cade Metz 插畫：Getty Images 攝影：Michal Czerwonka/Redux 翻譯：Ling