【AI世代編者按】美國《連線》雜誌創始主編凱文-凱利（Kevin Kelly）日前撰文，闡述了當今社會對人工智慧的五大誤解，並對背後的邏輯和理論展開了詳細論述。
以下為文章全文：
我聽到這樣一種說法：未來，電腦主導的人工智慧將比我們聰明得多，甚至會奪走我們所有的工作和資源，人類則會走向滅亡。果真如此嗎？
每每談起人工智慧，我總是難免聽到這樣的問題。提問者都很認真，他們的擔憂一定程度上源自各路專家的自問自答，其中包含很多當今世界上最聰明的人，例如史蒂芬-霍金（Stephen Hawking）、伊隆-馬斯克（Elon Musk）、麥克斯-泰格馬克（Max Tegmark）、山姆-哈裡斯（Sam Harris）和比爾-蓋茨（Bill Gates）。
他們都相信，這番場景很有可能變成現實。而在最近的一場關於人工智慧問題的研討會上，一個由9位大咖組成的委員會一致認同，這種超人類人工智慧已經不可避免，而且並不遙遠。
然而，那些認同超人類人工智慧最終將會接管世界的人，內心其實都有5個假設。然而，如果對這5個假設展開細緻分析就會發現，這其實都是“無稽之談”。這些說法未來或許會成為現實，但目前還沒有獲得證據支撐。關於超人類智慧將快速崛起的5大基本假設如下：
1、人工智慧已經開始超越人類，而且正在以指數級速度發展。
2、我們可以開發出像自己一樣的通用人工智慧。
3、我們可以把人類的智慧集成在矽片上。
4、智慧可以無限強化。
5、一旦開發出超級智慧，它就可以為我們解決多數問題。
與這些似是而非的說法相對的是，我反而認為以下5種看似異端邪說的觀點能夠獲得更多的證據支撐。
1、智慧並非單一維度，所以“比人類更聰明”這種概念本身就沒有意義。
2、人類並沒有通用思維，人工智慧同樣不具備這種能力。
3、在其他媒介上類比人類思維將會受到成本因素的制約。
4、智能的維度並不是無限的。
5、智慧只是推動科技和社會進步的諸多因素中的一項而已。
如果關於超人類人工智慧接管世界的預期，完全基於5個沒有證據支撐的關鍵假設，那麼這種想法也就無異於宗教信仰。也就是說，這只能算是一種“神話”。我針對這5項假設提出的5種針鋒相對的說法都有充分的依據，接下來的段落中將會詳細展開。我將以此證明，超人類人工智慧的說法只不過是一種“神話”。
1
關於人工智慧最常見的誤解其實來自對自然智慧的普遍誤解。
很多人認為，智慧是單一維度的，這種理解其實並不正確。多數技術人員往往會像尼克-博斯特羅姆（Nick Bostrom）那樣繪製智慧進化圖譜——他曾在《超級智慧》（Superintelligence）一書中把智慧描繪成一種單一維度、呈現線性發展的東西。
例如，一端是低智慧的小動物，另外一端則是高智慧的天才——感覺智慧就像是可以用分貝來量化的聲響一樣。當然，如果認同這種觀點，自然就可以對其進行擴展，認為智慧的強度還會進一步增加，並最終超過我們自己的高智慧狀態，成為一種超強智慧，甚至最終爆表。
這種模式就像階梯一樣，一層一層逐級遞進，每一個層次的智慧都比前一個層次更加進步。低等動物位於我們之下，而智慧更高的人工智慧必然位於我們之上。具體發生的時間並不重要，重要的是等級——也就是衡量智慧優劣程度的指標。
但這種模型的問題在於，這只不過是一種像進化階梯一樣的錯誤觀念而已。在達爾文進化論誕生之前，人們也認為自然界是呈現階梯化發展的，低等動物低於人類。即便是在達爾文進化論誕生後，這種階梯化進化理論仍然十分盛行。這種理論認為：魚類進化成爬行動物，然後進化為哺乳動物，再進化為靈長類動物，最終進化出人類，每一級都比上一級進步一點（自然也會更聰明一些）。所以，智能階梯與物種階梯相互平行。但實際上，這兩種模型都不符合科學觀念。
上圖這種由內向外發散的圓盤可以更為精確地描述物種的自然進化過程，這是美國德克薩斯大學的大衛-西裡斯（David Hillis）率先根據DNA繪製出來的。這種深入的系譜學分類模式以最中央的原始生命形態為起點，然後向外發散。隨著時間的推移，逐步形成了如今地球上的生命形態，也就是最外面的一圈。
這張圖強調了進化過程的一個基本事實：當今世界的所有物種都是平等進化的。人類與蟑螂、蛤蜊、蕨類、狐狸、細菌共同位於最外面的一圈。每一個物種都經歷了長達30億年的繁衍生息，成功進化到今天。這就意味這當今的細菌和蟑螂與人類擁有同樣的進化水準，並不存在所謂的階梯。
有很多跡象都可以說明動物之間的思維存在顯著差異。但它們是否都擁有相對的“通用智慧”？可能如此，但並沒有一個指標來衡量這種智慧。相反，我們可以通過很多不同類型的指標評估不同類型的認知能力。
也就是說，沒有一個類似於分貝的統一指標來衡量智慧水準，所以更精確的智慧模型應該是繪製它的“可能性空間”（possibility space）。上圖是使用理查-道金斯（Richard Dawkins）編寫的演算法生成的可能性表格。智慧是一系列連續統一體的集合。各種節點（每個節點都是一個連續統一體）共同組成了一個多維度、多樣化的複合體。
不同個體和不同物種之間的認知能力都存在差異。即使在幾年之後，松鼠依然可以精確記住幾千個橡子所在的具體位置，這種技能甩下人類好幾條街。所以在這種認知能力上，松鼠超過了人類。要形成松鼠的思維，需要將這種“超能力”與其他在人類面前相形見絀的思維模式融合在一起。動物世界還有很多其他遠超人類的認知能力，但同樣要融合到不同的系統之中。
人工智慧也很類似。人工智慧已經在某些維度上超過人類。你可以把計算器當成算數天才，谷歌(微博)的記憶也已經在某些維度上超過人類。我們正在開發在特定模式上具備卓越能力的人工智慧技術。其中一些模式是人類可以做到，但人工智慧表現更好，例如概率統計或數學計算。還有一些能力是我們根本不具備的——例如，記住60億個網頁的上的每一個單詞，而這恰恰是搜尋引擎的用途所在。
想要確定思維A是否比思維B更加複雜，是一件非常困難的事情。同樣地，要確定思維A是否比思維B更聰明，也非常困難。我們很快就會明確意識到，所謂的“聰明”並不是單一維度的問題。我們同時也會意識到，我們真正關注的其實是智慧的其他運行模式——也就是我們尚未發現的其他所有認知節點。
2
第二個關於人工智慧的誤解是，我們認為自己擁有通用智慧。
正由於秉承了這種被人反復提及的觀念，使得人工智慧研究人員經常闡述一個目標：開發通用人工智慧技術（AGI）。然而，如果我們以上文的“可用性空間”來看待智慧，那也就沒有通用一說了。
人類智慧並不處在中心位置，其他專項智慧也並不是圍繞它發展的。相反，人類智慧只是一種非常具體的智慧形式，經過了數百萬年的進化後，使得我們這個物種在地球上生存下來。如果對所有可能的智慧類型所處的空間進行瞭解後，便會發現人類這種智慧只是“偏居一隅”，就像我們的世界處在浩瀚的銀河的邊緣一樣。
我們肯定可以想像，甚至發明一種類似於瑞士軍刀的多用途思維。它可以完成很多事情，但卻沒有一種能夠做到極致。人工智慧也會無法突破這種極限：不可能針對所有維度進行優化，只能進行權衡，做出妥協。不可能開發出在每項具體的功能上都表現優異的多功能通用人工智慧。
一個龐大的“全能”思維，不可能在所有事情上都像專用人工智慧一樣表現出色。由於人們認為人類的思維是通用思維，所以往往也認為認知不必受限於工程師的權衡妥協，認為完全可以開發出一種在所有思維模式上都做到極致的智慧技術。
但我沒有看到任何證據支撐這一論調。我們並沒有開發足夠多樣的思維模式，因而也就無法看到可能性空間的整體狀況。
3
人類之所以認為可以在通用思維上做到極致，其實一定程度上源自通用計算的概念。
這個概念之前在1950年被稱作丘奇-圖靈假說（Church-Turing hypothesis）。這種假說認為，達到特定門檻的所有計算都是等價的。因此所有的計算存在一個通用的核心：無論組成一台機器的零件速度是快是慢，甚至就算發生在生物體的大腦中，都會遵循相同的邏輯過程。這就意味著你可以在任何一台能夠進行“通用計算”的機器上模擬任何的計算過程（思維）。
我不認為這是個漏洞，反而認為這是一項可以利用的功能。正如我在第2條中所說，與人類擁有不同的思維方式恰恰是人工智慧的優勢所在。正因如此，我才認為，用“比人類更聰明”這樣的說法來定義它是一種誤導。
4
超人類人工智慧——尤其是認為這種人工智慧將會不斷自我提升的觀點——的核心在於，他們認為智慧可以擁有無限的規模。
我沒有發現這方面的證據。同樣地，以單一維度來看待智慧的錯誤觀念也對這種看法形成了促進，但我們應該對此加以理解。以目前的科學研究來看，宇宙中還沒有哪一種物理維度是無限的。
現在有些人可能會把這些東西稱作超人類人工智慧，但這些思維的多樣性和特異性卻會引導我們使用新的詞彙“智慧”和“聰明”，並對其產生新的認識。
因此，當我們設想“人工智慧爆發”的情形時，不應該將其視作一種級聯式繁榮，而應該設想為新型的散發式發展。用一個更形象的比喻來說明，這更像是寒武紀物種大爆發，而不是核爆炸。幾乎可以肯定的是，技術加速發展的結果並不是催生“超級人類”，而是“超常人類”。換句話說，它會超脫於我們的經驗範圍，但未必能“高於”我們。
5
認為超級人工智慧將接管世界人還持有另一個前提假設：幾乎擁有無限能力的超級人工智慧可以很快解決很多重大的未解難題。但這種說法卻沒有太多證據支撐。
很多認同人工智慧將實現爆發式增長的人預計，這項技術將會實現高速進步。我把這種神話般的觀念稱作“思考主義”（thinkism）。在他們看來：思考能力或智慧水準是阻礙未來進步的唯一因素。但這完全是第一種謬論。（很多喜歡思考的人也都懷有這樣一種信念：思考是一種神奇的超能力，甚至無所不能。）
除了思考之外，想要從未知過渡到已知，還必須輔以很多元素。需要在現實世界中進行很多實驗，每次實驗都會產生大量相互矛盾的資料，因此需要通過進一步的實驗來確立正確的假說。單純思考潛在資料根本無法得出正確資料。
思考（智慧）只是科學的一部分，甚至只是一小部分。例如，我們根本沒有足夠的資料來解決生老病死的問題，甚至連冰山一角都沒有揭開。具體到生物體的運作機制，多數實驗都需要用時間來慢慢醞釀。細胞新陳代謝速度很慢，無法加速進行。可能需要數年、數月，至少也要數天時間，才能看到結果。
如果你想知道亞原子微粒的情況，那就不可能單憑思考來獲得答案。必須要建造複雜的大型物理設施才行。就算當今最聰明的物理學家比現在再聰明1000倍，如果沒有對撞機，他們也無法獲取新的知識。
在模擬器中簡化後的運行結果對於篩選最有希望的路徑非常有用，因此可以加快進度。但在卻無法超越現實，所有的現實因素都會帶來一定的影響，這也是對“現實”的一種定義。隨著模型和模擬器中添加的細節資訊越來越多，便會碰到局限，以至於類比物件的實際運行速度反而比100%複製現實元素的模擬器速度更快。這便引出了“現實”的另外一個定義：在考慮了所有細節和自由度之後，速度最快的那個版本才是“現實”。
如果你能將細胞中的所有分子和人體內的所有細胞都融入模型之中，這個模擬器的速度不會超過人體。無論你怎麼努力思考，仍然需要時間來完成實驗，無論是現實系統還是類比系統都概莫能外。
總結來看，我對這些說法的分析可能都是錯誤的。我們還處在發展早期，今後可能會發現一種通用的智慧衡量標準，也可能發現智慧可以在所有維度上變得無限強大。因為我們對智慧究竟是什麼知之甚少（更別提“意識”了），所以人工智慧奇點存在的概率大於零。我認為，所有證據都表明，它存在的概率很低，但仍然大於零。
因此，儘管我不認同這種可能性，但我的確認同OpenAI所秉承的宏觀目標，以及那些擔心超人類人工智慧的聰明人所懷有的擔憂——我們應該開發友好的人工智慧，然後搞清楚如何向其灌輸與我們相似的自我複製價值觀。
雖然我認為超人類人工智慧在遙遠的將來可能對我們的生存構成威脅（而且值得考慮這個問題），但由於這種概率很低（根據目前的證據來看），所以不應該因此而影響我們的科學、政策和發展方向。
小行星撞地球必然引發災難，這種事情發生的概率大於零（所以我們才應該支持B612基金會），但卻不應該因為存在小行星撞地球的可能性而影響我們在氣候變化、太空旅行甚至城市規劃方面所做的努力。
類似地，目前的證據表明，人工智慧最可能的結果不是成為“超級人類”，而是會出現成百上千的新型“超常人類”思維，這些思維多數都與人類不同，但沒有一個是通用智慧，也沒有一個能夠像神一樣瞬間解決我們面臨的重大問題。
然而並沒有出現真正的超人類人工智慧。我們一直在不斷重新定義這項技術，增加它面臨的困難，甚至可能在未來限制它的發展。但從異形智慧——由多樣化的智慧、認知、邏輯、學習和意識構成的連續統一體——的廣泛角度來看，人工智慧已經在這個星球上普遍存在，而且會繼續擴散、深化、變異、強化。
之前沒有任何一項發明能像它一樣給我們的世界帶來如此大的改變。到本世紀末，人工智慧可能會滲透並改變我們生活中的一切。不過，關於超人類人工智慧的神話——既有可能是人類的福祉，也有可能奴役人類（或者二者皆有）——仍將存在下去。畢竟，這種可能性太過神秘，讓人欲罷不能。