《未來之地：超級智能時代人類的目的和意義》，［英］尼克·博斯特羅姆（Nick Bostrom）著，黃菲飛譯，中信出版社2025年4月出版

從超級智能到未來之地

上一次讀尼克·博斯特羅姆（Nick Bostrom）的書，還是他2014年的大作《超級智能：路線圖、危險性與應對策略》（Superintelligence: Paths, Dangers, Strategies），幫助世界意識到人工智能的第一次大爆炸——深度學習的到來。彼時，人工智能的第二次大爆炸尚未發生（它為我們帶來GPT-4這樣的大語言模型），但博斯特羅姆提出的很多話題充滿洞見，至今波蕩不已。該書聚焦于人工智能發展出現問題可能帶來的后果，特別在提高人們對人工智能帶來的存在性風險的關注上，具有極其重要的影響。

在《超級智能》一書中，博斯特羅姆認為：“如果有一天我們發明了超越人類大腦的智能機器大腦，那么這種超級智能將會非常強大。并且，正如現在大猩猩的命運更多地取決于人類而不是它們自身一樣，人類的命運將取決于超級智能機器。……一旦不友好的超級智能出現，它就會阻止我們將其替換或者更改其偏好設置，而我們的命運就因此被鎖定了。”

所以，超級智能帶來的挑戰很可能是人類面對的最重要和最可怕的挑戰。而且，不管我們成功還是失敗，這大概都是我們將要面對的最后一個挑戰。“我們要的不僅僅是嫻熟的技術以引燃智能爆炸，我們還要能在更高水平上掌握控制權，以免我們在爆炸中身首異處。”

但是，假設我們能安全且合乎倫理地發展超級智能，并充分利用這種幾乎具有魔力的技術，我們將會進入一個人類勞動變得過時的時代——這一未來社會，不僅是一個“后工作”和“后稀缺”的社會，還將催生一種“后工具性”境況：人類喪失了做任何事情的工具性理由，不再需要為任何實際目的付出努力；人實現了不朽，可以轉變為數字形態，繼續存在十億年；而且，人類本性也變得完全可塑。

在此情況下，我們面臨的挑戰不僅僅是技術性的，更是哲學和精神層面的。如果技術解決了所有實際問題，那么我們還剩下什么可以追求的？如果生存和勞動不再是我們所關心的，什么會賦予我們生活的意義和目的？我們整天會做什么，又會體驗到什么？

在他的最新著作《未來之地》（Deep Utopia: Life and Meaning in a Solved World，2024）中，轉變了視角，探索了超級智能所帶來的生活意義危機。博斯特羅姆預想的“存在之輕”讀起來無比沉重：“隨著我們向這種輕盈的狀態邁進，擺脫了日常吸干我們時間和精力的揮汗如雨的辛勤勞作，我們可能開始感到一種疏遠的無目的感，一種無根的‘存在之輕’。我們可能將要面對這樣的發現：自由度最大的地方實際上是一片虛空。”

博斯特羅姆將此歸納為“深度烏托邦”（deep utopia）的問題，也即“在我們解決了所有現存的其他問題之后，我們將面臨的問題”。這些問題具有永恒的心智吸引力，讓我們走到了對目的和存在的理解的邊緣。某種意義上，博斯特羅姆是在進行一種思想實驗，將深度烏托邦的概念作為一種哲學粒子加速器，在其中創造一些極端條件，讓不同的價值觀發生撞擊，從而使我們能夠研究我們價值觀的基本組成部分。

奇特的著作結構

在我們深入探討博斯特羅姆的論點之前，讀者應該意識到這本書與典型的哲學專著有兩個不同的地方。首先，博斯特羅姆的書并未圍繞一個核心論點展開系統論證，而是以一種開放的方式探索主題，嘗試各種想法，并在一些關鍵問題上保持謹慎。其次，這本書采用了一種實驗性的風格和結構。它由一系列虛構的講座組成，這些講座是博斯特羅姆想象自己年老時在一周的時間里所做的演講（每一章以一周的某一天為標題）。幸運的是，這些講座并不像陳舊的講義——學生們經常插話提問，各種事件增添了戲劇性并注入幽默感。文本還包括講座中分發的講義和指定的閱讀材料——這些閱讀材料是博斯特羅姆專門為本書撰寫的獨立文學作品，常常是寓言性質的。所有這些內容的框架敘事來自三位哲學思維敏捷的朋友，他們闖入博斯特羅姆的講座，并喜歡在講座后一起去公共浴池放松。他們之間的犀利對話，包括對講座和閱讀材料的反應，貫穿了許多章節。

開放的方式和實驗性的結構可能會讓一些讀者感到高興，也可能讓其他讀者感到憤怒。不喜歡的人可能會覺得這本書“臃腫”，認為如果去掉那些文學修辭和旁枝末節的討論，書的篇幅可以縮短三分之一。而有些讀者沒準會覺得博斯特羅姆的非標準方法令人耳目一新，可以享受書中彌漫的趣味和機智。

既非烏托邦，也非反烏托邦，而是進托邦

形式而外，書中的哲學內容十分豐富，充滿了論證、思想實驗、案例研究和實證數據。也許在此無法涵蓋所有有趣的內容，因此我將集中討論該書的兩大突出之處：一個巨大的、具有爭議的假設和一個巨大的轉折。

這個假設是，按照博斯特羅姆的觀點，在可預見的未來，我們將生活在一個“所有問題都被解決了的世界”里，這個世界是“技術成熟的”。它意味著所有重要的科學問題都已經解決，人類平靜地向宇宙擴展，人口隨著時間的推移呈指數增長。我們享有極大的富足，幾乎所有沖突的源頭都已然被消除。所以，該書的核心任務是探討這種狀態對人類（或后人類）來說是否令人愉快，以及我們的生活是否還能夠擁有意義。

我認為，當博斯特羅姆相信一個“最大技術能力”的社會也將是“非常好”的社會時，他或許過于樂觀了。就邏輯而言，我覺得他的假設不太可信。過去，每當人類解決了一個挑戰，都會暴露出若干新的挑戰。盡管過去并不是未來的可靠指南，但我強烈懷疑這種模式會持續下去。因此，我更傾向于凱文·凱利（Kevin Kelly）的“漸進烏托邦”（簡稱“進托邦”，英文protopia，為progress+utopia或process+utopia的組合概念），而非烏托邦，哪怕博斯特羅姆在“烏托邦”一詞前邊加上了修飾語“深度”。在《必然》（The Inevitable，2016）一書中，凱利寫道：在進托邦的模式里，事物總是今天比昨天更好，雖然變好的程度可能只是那么一點點，“因為進托邦在產生新利益的同時，也在制造幾乎同樣多的新麻煩。今天的問題來自昨天的成功。而對今天問題的技術解決方案，又會給明天埋下隱患。隨著時間流逝，真正的利益便在這種問題與解決方案同時進行的循環擴張背后逐漸積累起來”。

淺層冗余與深層冗余

為了論證他的“深度烏托邦”，博斯特羅姆的首要任務是判斷在一個“所有問題都被解決了的世界”里，人類/后人類是否會變得冗余。他做出了一個有用的區分：淺層冗余和深層冗余。

在書的第三章，博斯特羅姆討論了我們如何在一個幾乎所有職業勞動都已自動化的后工作世界中找到意義和目的。他的答案是，我們需要發展一種能賦權和教育個體在沒有傳統就業的情況下茁壯成長的休閑文化。這種文化將“鼓勵有益的興趣和愛好，促進精神修養和對藝術、文學、運動、大自然、游戲、美食和對話等的欣賞，這些領域可以成為我們的靈魂樂園，讓我們能夠抒發創造力，了解彼此、了解自己、了解環境，同時愉悅身心，發展我們的美德和潛能”。

然而，后工作社會的問題與后工具性社會所提出的更深層次問題相比是膚淺的。博斯特羅姆將前者稱為“淺層冗余”，后者稱作“深層冗余”。在淺層冗余中，由于機器能夠以更便宜、更好、更快的方式完成我們曾作為謀生手段的所有工作，人類將不再有工作可做。但是，如果我們擁有了上述的休閑文化，在淺層冗余的情況下，人類依然可以過上有價值、甚至富有意義的生活，通過創造、娛樂和從事自己喜歡的工作，盡管不再為之獲得報酬。

本書的大部分都致力于探索深層冗余問題，這使得討論進入了高度推測和未來主義的領域。在一個后工具性世界中，人類努力變得冗余，也就是說，沒有任何任務，包括休閑活動，值得人類和后人類去從事。博斯特羅姆提到一些例子：納米機器人可以在我們睡覺時對我們的身體進行物理調節，從而使鍛煉變得不再必要；學習變得毫無意義，因為人工智能指導的大腦編輯可以將新的信息和技能融入我們的大腦，而無需進行學習。甚至育兒也可能變得深度冗余，因為機器人可以成為更好的父母，而且無論如何，育兒也不足以占據一個人生命（現在非常長壽）的足夠時間來賦予其意義。

如果深度烏托邦中的人們擁有博斯特羅姆所稱的可塑性和自我變革能力——即修改自己心理狀態的能力——他們或許可以避免因無用而產生的絕望。但盡管可以消除無聊，他們卻無法消除乏味感。博斯特羅姆引用了格雷格·伊根（Greg Egan）的科幻小說《數字永生計劃》（Permutation City,1994）中的情節，名為皮爾（Peer）的角色實現數字永生之后，為了避免無聊，他通過編程讓自己在隨機時間間隔內產生新的激情。在小說的那個時刻，他的激情是制作桌腿，已經制造了162,329條。由于他在雕刻完美的椅子腿時充滿喜悅，皮爾并不感到厭倦，但他的生活卻是極其乏味且缺乏意義的。

到此，這位牛津大學的前哲學教授不得不繼續他尋找生命意義的旅程。正是在這一刻，發生了巨大的轉折：博斯特羅姆并沒有給出答案。公平地說，他在書中的一段話中已經提前警告了我們，這也是我認為書中最精彩的段落之一：他比喻說，向別人提問生命的意義，就像問他們自己該穿多大的鞋碼一樣。“有些人可能需要更自信，而另一些人則應該更周到。有些人應該對自己更寬容，而另一些人則需要更自律。有些人無疑應該被鼓勵去獨立思考、追求夢想，而另一些人最好還是待在人群中。”（此處，博斯特羅姆模仿道格拉斯·亞當斯的風格補充道，最佳的鞋碼是十碼半。）

如果所有人類努力都是冗余的，那一切又有什么意義

拋開這類調侃，我們來看看博斯特羅姆對后工具性目的問題的回應。總體來說，他對深度烏托邦中生活的前景持樂觀態度。盡管開放式討論風格常常使得結論模糊不清，但他強調了兩點樂觀的原因。首先，他認為，即使深度烏托邦中的生活缺乏意義，它們在其他方面將極為豐富，可能彌補這一缺失。這樣的生活可能充滿巨大的愉悅，通過“令人心醉神迷的美麗”帶來的強烈體驗來讓人類盡情享受。憑借認知增強和精密的人工智能內容編程，我們的智力、情感和審美能力都可以得到充分激發。此外，這樣的生活不必是被動的——即使人類努力變得冗余，人工智能仍然可以為我們設計引人入勝的任務和挑戰（博斯特羅姆稱之為“人工目的”），來利用我們增強的能力。

無疑，有些人會對這樣的生活感到滿足。但其他人仍然會感到目的問題的痛楚揮之不去——如果所有人類努力都是冗余的，那一切又有什么意義呢？這使得博斯特羅姆開始探討生命意義的哲學文獻，特別是與南非哲學家撒迪厄斯·梅茨（Thaddeus Metz）的理論展開對話。這一理論規定，生命要有意義，就應遵循一個整體改善的弧線，并包含原創性和幫助他人的元素。這是一種客觀主義理論，意味著意義不能僅僅是我們每個人決定自己想要的樣子。相形之下，主觀主義的意義則可以通過調整心理狀態來滿足，甚至包括美國法學學者理查德·波茲納（Richard Posner）警告過的那種生活：“打架、偷竊、暴飲暴食、酗酒和晚睡。”

對于梅茨來說，有意義的生活必須具有一種包容性和超越性的目標：它應該吸收一個人大量的時間和精力，且應服務于超越日常生活的目的。博斯特羅姆承認，根據梅茨的理論，深度烏托邦中的生活將缺乏一個有意義生活的關鍵成分——即朝向善的方向，并在現實中產生價值。如果人類努力完全冗余，那么我們將不再能夠創造價值，因此無法達到此種生活意義的標準。然而，博斯特羅姆指出，我們仍然可以通過成為一個具有美德的人，去熱愛和欣賞周圍的善。同樣，也可以欣賞意義的另外兩個基本方面，即真和美。實際上，深度烏托邦將比我們當前的世界提供更多的機會來做到這一切。這讓博斯特羅姆不禁要問：為什么這還不足以讓我們的生活變得有意義呢？

在書中的博斯特羅姆教授正要對此給出回答的時候，系主任悄悄耳語告訴他結束演講，因為場地只租用到晚上6點。“好吧”，博斯特羅姆角色說道，“我想就這樣吧”。

無論書里書外，博斯特羅姆可能十分明智地沒有對后AGI世界中的生命意義做出精準評價。或者也不妨設想，他自己也根本不知道答案。如果非烏托邦是可怕的，而烏托邦又是乏味的，我們是否能找到某種在中間的甜美平衡點？人類天生討厭問題，但如果我們沒有問題需要解決，生活還能有什么意義呢？我們在桃花源中或者巨石糖果山上坐多久，才能感到滿足？對我來說，一個長周末大約就足夠了。十億年的完美幸福將變成完美的痛苦。