如果GPT-4還只是阿米巴原蟲，未來的霸王龍會是什么樣？| 赫拉利《智人之上》

衡宇 2025-02-28 13:31:34 來源：量子位

尤瓦爾·赫拉利/文

量子位 | 公眾號 QbitAI

幾乎所有人都已經發現，我們正生活在一場前所未有的信息革命之中。

但這到底是一場怎樣的革命？最近這幾年，太多突破性的發明如洪水般滾滾而來，以至于我們很難判斷到底是什么推動了這場革命。

是互聯網？智能手機？社交媒體？區塊鏈？算法？還是人工智能？

所以，在討論目前這場信息革命的長期影響之前，讓我們先回顧一下它的基礎。

本文分為三大部分，分別為：

• 我們真的了解計算機嗎？
• 計算機正在塑造一個全新的信息網絡
• 信息交換與數據價值

我們真的了解計算機嗎？

這場革命的種子是計算機，至于其他一切，從互聯網到人工智能，都只是計算機的副產品。

計算機誕生于20世紀40年代，一開始就只是個能夠進行數學運算的笨重的電子機器，但計算機后續的發展速度驚人，形式不斷創新，也發展出各種了不起的全新功能。

計算機的迅速發展，讓人很難定義計算機的本質與功能。人類一再聲稱，有些事情是計算機永遠做不到的，無論是下棋、開車還是寫詩，但事實證明，原來“永遠”也不過就是幾年。

就目前而言，我們可以簡單說計算機本質上就是一臺機器，但有可能做到兩件了不起的事情：一是它自己可以做決定，二是它可以創造新的想法。

計算機剛被發明出來的時候，當然離這種能力還差得太遠，但計算機科學家與科幻小說家已經清楚地看到了這樣的潛力。

早在1948年，艾倫·圖靈就已經在探索是否能打造他所謂的“智能機器”；到1950年，他推測計算機最終應該能像人類一樣聰明，甚至能夠偽裝成人類。在1968年，當時的計算機連跳棋都贏不了人類，但在《2001太空漫游》中，亞瑟·克拉克與斯坦利·庫布里克已經想象出“哈爾9000”這個角色，這是一個會反叛人類創造者的超智能AI。

如今智能機器崛起，能夠自己做決定、自己創造新的想法。這也是史上第一次，權力從人類轉移到其他物種手中。

就智能而言，計算機超越了泥版、印刷機、收音機這些所有過去的信息技術。

泥版能夠儲存關于稅務的信息，但無法自行決定要收多少稅，也無法發明某種全新的稅目；印刷機能夠復制《圣經》這樣的信息，但無法決定《圣經》要收錄哪些文本，也無法對這本宗教經典加上新的注釋；收音機能夠傳播政治演講與交響樂等信息，但無法決定播放哪些演講或交響樂，也無法創作演講稿或交響樂。

但這一切對現在的計算機來說都已經能夠做到。

過去的印刷機或收音機只是人類手中的被動工具，但計算機正在成為一種主動行為者，它能夠擺脫人類的控制，超越人類的認知，主動塑造社會、歷史與文化。

說到計算機所掌握的新力量，一個關鍵點是，社交媒體算法與印刷機或廣播無線電有著根本的差異。

在2016-2017年，臉書的商業模式依賴于提升用戶參與度，也就是用戶在臉書上所花的時間與所做的活動（例如點贊、分享帖子給朋友）。

只要用戶參與度增加，臉書就能收集更多數據，賣出更多廣告，在信息市場占據更大份額。此外，提升用戶參與度能給投資人留下好印象，從而有利于推高臉書股價。用戶在臉書停留的時間越久，臉書就越有錢。

根據這種商業模式，人類管理者給臉書算法定了一個首要目標：提升用戶參與度。

隨后，算法用幾百萬用戶做實驗，發現最能提升參與度的辦法就是讓人憤慨。所以，為了追求用戶參與度，算法就做出了一個致命決定：傳播憤怒。

很重要的一點是，算法本身也逃不了干系。通過反復實驗，算法學到了憤怒會提升參與度，而且在沒有上級明確指示的情況下，算法自己決定要助長憤怒。

這正是人工智能的典型特征──雖然它們是機器，但它們擁有自己學習與行動的能力。

在21世紀20年代初，算法已經能夠自行制造假新聞與陰謀論。

21世紀10年代末發生的種種事件顯示，非人類智能做出的決策已經能夠塑造重大的歷史事件。人類正面臨著對人類未來失去控制的危險。目前正在出現一種全新的信息網絡，其背后由一套高深莫測的智能決策和目標控制。

人類目前在這個信息網絡里仍然扮演著核心角色，但很有可能正在被邊緣化，到最后整套網絡甚至可能不需要人類就能正常運作。

計算機正在塑造一個全新的信息網絡

隨著計算機逐漸積累了更多力量，一個全新的信息網絡很可能會出現。

當然，這并不是說網絡里的一切都是新的。至少在一段時間內，大多數舊的信息鏈還會被保留下來。而且，這個新的信息網絡仍然會保留人與人的連接（比如家庭）以及人與文件的連接（比如教會）。

然而，這個信息網絡還會有越來越多的另外兩種新型鏈條。

第一種是計算機與人類的連接，計算機在人類之間充當中介，有時候甚至會控制人類。

臉書和TikTok就是兩個我們耳熟能詳的例子。這些計算機與人的連接不同于傳統的人與文件的連接，因為計算機現在能夠自行做出決策、創造想法，并深度偽造親密關系，對人類發揮過去文件做不到的影響力。

第二種是目前已經開始出現的計算機與計算機的連接，計算機能夠彼此自行互動，人類被排除在這些連接之外，就連理解其中發生了什么都很困難。

例如，谷歌大腦就嘗試過用計算機來研發新的加密方法。當時的實驗是要求兩臺計算機（代號為艾麗斯和鮑伯）必須交換加密信息，而第三臺計算機伊夫則要試著去破解加密代碼。

如果伊夫能在一定時間內破解加密代碼，就能得到分數；要是失敗，則由艾麗斯和鮑伯得分。

在經過大約15000次交流后，艾麗斯和鮑伯終于想出了一套伊夫無法破解的加密代碼。這里的關鍵之處在于，進行這項實驗的谷歌工程師并沒有教給艾麗斯和鮑伯任何關于加密的知識，是那兩臺計算機完全自行創造出了專屬于它們的私密語言。

像這樣的事情也已經發生在實驗室外的現實世界中了。

以外匯市場為例，這是全球外匯交易的場域，也決定了各種貨幣（例如歐元與美元）之間的匯率。2022年4月，外匯市場的每日交易量平均為7.5萬億美元，其中有超過90%已經直接由計算機之間的對話完成。

但究竟有多少人懂得外匯市場的運作方式呢？更不用說要了解一群計算機怎樣在價值數萬億美元的交易上達成共識，又如何決定歐元與美元的價值了。

在可預見的未來，在這個全新的、以計算機為基礎的網絡里，雖然還是會包括我們這幾十億人類，但人類有可能在其中只是少數。因為除了人類，這個網絡的成員還包括數十億甚至數千億個具備超智能且高深莫測的行為者。

這樣的網絡將與人類歷史甚至地球生命史上曾經存在的一切都截然不同。

自大約40億年前地球首次出現生命以來，所有信息網絡都是生物（有機）網絡。如果信息網絡變成由非生物的計算機來主導，整個運作方式會相當不同，甚至超乎我們的想象。

畢竟作為人類，我們就連想象力也是有機生化的產物，無法跳出原本設計的生物戲劇。

從第一臺數字計算機問世至今已過去了80年，如今改變的步伐仍在不斷加快，而且我們距離發揮計算機的全部潛力還相差很遠。計算機還可能繼續演化數百萬年，而過去80年發生的事情與即將發生的事情相比簡直微不足道。

如果做一個粗略的比較，可以想象我們來到古代美索不達米亞的某個時間點，在這個時間點的80年前，才有人第一個想到用棍子在一塊濕濕的黏土泥版上畫上一些符號。在這一刻，我們難道能夠想象未來會發展出亞歷山大圖書館？甚至這樣的比較也大大低估了未來計算機發展的潛力。

讓我們再想象一下自己回到了早期地球（大約40億年前）的某個時間點，在這個時間點的80年前，地球還是一片“有機湯”，并終于從中凝結出了第一個能夠自我復制的遺傳密碼。

在這個階段，即使是單細胞的阿米巴原蟲，其細胞組織、成千上萬的內部細胞器以及控制運動及營養的能力，都還只是一種帶著未來風格的幻想。

在這個時間點，我們能夠想象出未來會有霸王龍、亞馬孫雨林，或是人類登上月球嗎？

目前提到“計算機”，我們想到的仍然是個有屏幕、有鍵盤的金屬盒子，因為這是我們的生物想象賦予20世紀最早那批計算機的形狀。隨著計算機不斷成長與發展，它們正在擺脫舊的形態，采取全新的配置，打破人類的想象限制。

不同于有機生物，計算機在一個時間點不一定只能出現在一個地方，而能夠散布于整個空間，不同的組件位于不同的城市甚至大陸。就計算機的演化而言，從阿米巴原蟲到霸王龍這樣的改變，可能只需要10年。

如果GPT-4還只是阿米巴原蟲，未來的霸王龍會是什么樣？

生物演化花了40億年，才從有機湯演化成能夠登上月球的人類；計算機可能只需要幾個世紀就能發展出超智能，超智能能夠放大到整個行星大小，也能收縮到亞原子級別，抑或延伸跨越整個星系的時空。

從計算機術語的混亂程度也能看出計算機發展的速度有多快。幾十年前，只要“計算機”一個詞就能涵括所有概念，但現在的用詞還包括了算法、機器人、自動化程序、人工智能、網絡或云。光是“難以判斷該用哪個詞”這一點就已經很有意義了。

生物包含了許多不同的個別實體，也能集合成“種”和“屬”這樣的分類。但如果講到計算機，要判斷某個實體到哪里結束，另一個實體又從哪里開始，以及如何準確地對它們進行分類，已經變得越來越困難。

信息交換與數據價值

對于這個以計算機為基礎的網絡，我們雖然無法預測在幾百或幾千年之后它會有怎樣的長期演變，但還是能談談目前的演變情況，而且這種對當下的討論可能更為迫切，畢竟無論什么層面，這個新計算機網絡的興起都會對所有人造成影響。

接下來，我們會談談這個以計算機為基礎的網絡有何新穎之處，對人類生活又有何意義。

我們開宗明義就該講清楚的是，這個網絡將會創造出全新的個人現實。信息并不等于真理與真相，而信息革命也并不會揭露事實真相。

信息革命能做的是創造出新的政治結構、經濟模式與文化規范。

由于當前的信息革命的重要性遠勝過往，所以它很可能會以前所未有的規模創造出前所未有的現實。

之所以有必要了解這一點，是因為目前的情況還在人類的掌控之中。雖然不知道還能持續多久，但目前人類仍有能力左右這些新的現實。

為了能做出明智的決定，我們需要了解目前正在發生的事情。我們在編寫計算機代碼的時候，絕不只是在設計一個產品，而是在重新設計人類的政治、社會與文化，所以我們最好對政治、社會與文化都有一定的了解。而且我們做的決定，最后也必須由我們來負責。

我們過去認為“顧客永遠是對的”“選民能做出最好的選擇”，但這些原則的前提是假設人們都很清楚自己身邊發生了什么。他們假設，選擇使用Instagram的用戶都完全了解這個選擇的全部后果，也認為負責監管蘋果等公司的人們完全了解這些公司的商業模式與活動。他們假設大家都真正了解這個新信息網絡的詳情與細節，并真心送上自己的祝福。

但事實上，我們根本沒那么了解。

這不是因為我們太愚蠢，而是因為科技太復雜，而且發展的速度太過驚人。我們得耗費大量心思才能搞懂許多東西，而且當你覺得自己懂了，事情已經又有了變化。

在這里，金融是個格外重要的例子，原因有二。

第一，現代金融工具完全由信息組成，所以比起創造實物對象，計算機創造或改變金融工具實在太容易了。過去講到貨幣、股票和債券，它們都是由黃金或紙張制成的實物對象，但今天它們已經成為主要存在于數據庫中的數字實體。

第二，這些數字實體對社會與政治世界的影響重大。如果人類不再能夠理解金融體系究竟如何運作，那么對社會又會有什么影響？

以信息換信息的交易已經無所不在。

目前，每天都有數十億人與科技巨頭進行大量交易，但因為幾乎沒有任何金錢流動，也就無法從銀行賬戶中看出端倪。我們從科技巨頭那里得到信息，而我們付出的代價也是信息。

隨著越來越多的交易采用以信息換信息的模式，信息經濟的成長其實是以犧牲貨幣經濟為代價的，最后可能連貨幣的概念都會動搖。

貨幣應該是一種被普遍采用的價值標準，而不是只適用于部分情境的價值象征。

隨著越來越多的東西的價值以信息來衡量，而從貨幣來看卻都是“免費”的，在某種程度上，如果還是只看個人或企業擁有多少美元或別的貨幣來判斷他們是否富有，是無法反映現實的。

如果一個人或一家企業在銀行里沒什么錢，但擁有龐大的數據庫，這個人或這家企業有可能才是該國最富有或最強大的實體。

本文整理自中信出版集團《智人之上》尤瓦爾·赫拉利（2024年9月版）， 有部分刪減調整。

如果拓寬視野，看看人類的信息網絡在過去幾千年如何發展，我們也許可以更了解今日與未來發生的事情。