在科幻世界里，人們常用預言警示未來；但在現實世界中，人類的未來到底會走向何方？

曾有一位享譽世界的歷史學家預言，生態崩潰與技術顛覆，是除核戰爭外，人類所面臨的兩個最重要的問題。當下的現狀也印證了這句話——生態方面，氣候持續變暖，各地災難頻發，疫情肆虐全球；技術方面，AI等技術不斷顛覆我們的生活方式，也在不知不覺中改變我們的思維方式。對于這些挑戰，我們人類的命運會走向何方呢？

2020年11月20日，中信出版集團舉辦的2020“年度觀念”劇場演講中，世界知名歷史學家、《人類簡史》《未來簡史》《今日簡史》三部曲作者尤瓦爾·赫拉利（Yuval Noah Harari）與北京大學新媒體研究院研究員吳伯凡先生就“我所看到的未來——當前人類最重要的兩個問題”進行了跨國連線探討。

以下是論壇部分內容紀要，啟人深思。

吳伯凡對話赫拉利

人類未來的命運

取決于現在的決定

文 | 赫拉利、吳伯凡

01

警惕技術“黑入人心”

吳伯凡（北京大學新媒體研究院研究員）：赫拉利教授說過一句話我印象非常深刻：

在今天，你聽從內心的聲音比以往任何時候都危險，因為你不知道你內心的需求。你的聲音不過是一些洗腦術和廣告，悄悄地植入到你內心。你想要的其實是別人想給的，但你自己是不知道的。

我想到了一個詞，“新黑客”。以前的黑客攻擊你的電腦、手機，去解鎖你的銀行密碼。

今天，出現了一種更強大的黑客，它直接解碼你的內心，攻擊你的大腦，你在不知不覺中就被它操縱，而這種操縱的感覺你是一點都沒有意識的。你反而覺得是出于你的自由意志，這是我們今天人類在重新被技術定義的一個表現。

尤瓦爾·赫拉利（以色列歷史學家）：因為現在的技術是有“黑入人心”的能力，這可能是我們這個時代最大的革命。這種“黑入人心”的能力意味著它可以獲取海量個人數據，并有足夠的運算能力來分析數據，最終它能夠比你更了解你自己，它能夠預測你的行為，可以操縱你的決定和選擇，甚至被操縱的人都不知道自己被操縱了。

所以人們常常說自由意志，好像就是我們完全可以自己做決定，實際上自由意志就是被操縱的決定，你對自己做決定并不會深思，你會說這是我想要的，但其實你是在被操縱的過程，自由意志只是體現你背后被操縱的過程，你會在這個過程越來越陷進去。

越是認為自己擁有自由意志的人，越容易被操縱，而這一現象會越來越極端。因為到目前為止，大多數我們能夠收集到的個人信息都還是“表層信息”（above the skin），是外在行為，包括你看什么電視，你到哪里去，跟誰見面，跟誰吃飯。

現在到了一個分水嶺的時間，數據可以檢測到我們的“皮下信息”（under theskin），也就是過去是從身體外部拿數據，現在的技術完全可以從人體內部，從大腦和身體里獲得數據，拿到你的溫度數據、血壓、大腦的反應，甚至一些生物的表征。

我們身體里面的這些信息是我們自己不知道的，我們自己不知道我們的血壓是多少，但是操縱我們的人只要看一下我們這些數據就真的能夠看透我們的內心和大腦，然后他們就可以操縱我們的行為，這是歷史上從未有過的。

吳伯凡：過去我的信息不想讓你知道，這叫隱私，而今天的隱私是很多我自己不知道，但是你通過數據、算法，你比我更了解我不愿意別人知道的信息。

這種情況下，它就像一個特工、一個間諜，在我的內心不斷地把我的所需所求全部告訴我不愿意被告訴的那些人，然后這些人以很巧妙的方式來影響我，這就是第四次革命——數據革命、智能化革命，所導致的一個新的不一樣，這個不一樣就是以前的技術只是在改變我們的政治經濟面貌，今天的技術在改變我們的身體，改變我們的內心。

02

社會進一步分化

將導致人類更加不平等

1、當下面臨的生態危機

吳伯凡：我們今天面臨著兩種生態危機。

第一種危機是我們已經意識到的由于氣候變暖導致的一系列危機。如果氣候變暖，沿海城市有可能被海水浸沒，一些病毒有可能開始蘇醒并進入到我們的世界，這將會引發一系列未知的災難。

第二種生態危機就是我們社會的生態會出現一系列問題，比如顛覆性的技術——數據技術、生物技術等，會改變我們人本身。

以前技術是在改變我們的社會，改變我們的經濟，現在改變人本身，比如你到了50歲的時候，突然有一種技術可以讓你回到20歲的身體狀況，但是只有比較少的人才能享有這樣的特權。以前人類整體上在壽命上都是平等的，不管富有還是貧窮，大家都是活這么大歲數。

如果這種技術發展起來，會導致人與人之間的終級不平等。比如你可以花2000萬美元給自己的孩子在基因上做一些改造，你的孩子一出生就智力比別人高，長得比別人漂亮，沒有錢的人就只能忍受因為貧窮帶來的這種不平等，這會導致一系列社會生態的改變，這是我們今天必須面臨的兩大危機。

2、顛覆性技術，會使社會生態發生哪些改變？

尤瓦爾·赫拉利：我們沒有辦法預測未來到底會怎樣，因為這取決于我們今天所做的決定。每一項技術都可以被用來創造完全不同的社會類型，在20世紀，完全相同的技術可以被用來創造像納粹德國這樣的極權統治，也可以被用來創造自由民主主義，它們背后是相同的技術，但使用方式卻大相徑庭。

現在21世紀的新技術，包括人工智能、生物工程技術，這些技術有可能會導致一個極其不平等的社會。在這個社會中，極少數的特權階級正在獲得新的人工智能技術產生的巨大權力和財富，然后利用這種權力和財富，通過基因編輯技術在生物上提升自己，使自己變成某種超人。

這不僅僅是我們在歷史上看到的社會階層之間的分化，而是更深層次的生物鴻溝，會把那些掌握了生物技術的人和沒有掌握生物技術的人完全分化開來，這是一種以前從未存在過的不平等。

這不是預言，如果我們不小心，如果我們不明智地使用這些技術，就會導致這樣上述社會狀況產生，但這并非不可避免。作為一個社會，作為一個群體，我們一定要去認真考量人工智能所產生的巨大能量，它不應被社會精英獨享，而應該被社會共享。

同時，我們還應將重點放在生物工程的新技術上，而不是把少數精英升級為超級人類，應該通過這樣的技術來治療大多數人所面臨的疾病，為所有人創造良好的醫療體系。

問題不在于這些新技術本身，而在于我們能用這些新技術做些什么。我們作為人類應該做出正確的選擇，否則結果可能是災難性的，我們今天的技術比過去任何時候都強大，如果我們不能明智地使用它們，所導致的后果也會更嚴重。

03

科技向善

是個人和社會共同的命題

1、智能手機的魔咒

尤瓦爾·赫拉利：我并不是反對技術，拒絕用智能手機，我認為這項技術對于我們人類來說有很多好處，帶來很多的便利，只要我們清楚自己的目標是什么，更好地了解自己進而更好地利用技術，而不是淪為技術的奴隸。我們應該有一個明確的目標：技術服務于人類。

因為我是作家和思想家，我需要很多時間來沉浸在特定的書中，特定的問題上，需要有很多沉浸在自己世界里的思考時間。但智能手機是人類社會有史以來最讓人分心的東西之一，因為世界上最聰明的人多年來一直在研究如何吸引和留住我們的注意力。

智能手機會分散我的注意力，碎片化的知識、紛繁復雜的信息可能沒有辦法讓我更好地沉浸下來去思考問題，我很清楚知道自己的目標是考慮更廣泛、更深度的問題，我需要留給自己深度思考的時間，我需要集中精力。

我知道自己的自控能力不夠，我傾向于對自己的弱點有更現實的看法。我們不能高估自己控制思想的能力，更不能低估這些設計設備的工程師的能力。

如果我不能強大到抵制這種器械和科技給我帶來的困擾，我寧愿拒絕這種器械和科技帶來的便利性，所以我比較小心謹慎。

2、我們應該跟技術保持距離

吳伯凡：我記得赫拉利教授講過在人工智能等各種顛覆性技術出現的時候，我們的教育應該是什么樣子的，他提到了4個C：

第一個C是critical thinking，批判性思考；

第二個C是communication，溝通和交流；

第三個C是collaboration，合作，

第四個C是creativity，創造性。

溝通的能力、創造的能力、批判的能力往往需要有洞察的時間，你不能被外在的零零散散的各種信息牽著鼻子走，而是應該針對一個問題深入地去挖掘它，或者要全身心地跟一個人溝通交流。

我們不是要去獲取更多的信息，而是要提高自己的創造性，所以赫拉利教授的這種態度雖然是個人化的，但我相信我們每個人，如果想在4C上有所作為的話，都應該跟技術保持一定的距離。

同時，他的主張讓我想到他在《人類簡史》提到的一個很有意思的觀點，人類自從使用火以后就開啟了一種很矛盾的狀態，你可以去使用火，但火最終造成的后果是你無法控制的，比如說一個身體很弱的婦女，她只要手里有一塊打火石，她就能夠讓一片林子在兩三個小時燒成灰燼，這完全超出她的體力。

這個事件預示著人類20世紀出現的核危機，一個飛行員在飛機上只需要按上一個按鈕，這是非常小的身體動作，但是造成的后果是毀滅性的。

這意味著，人類擁有的技術會越來越強大，但人類管理技術、如何讓自己去使用技術的能力并沒有隨之而變強，這是非常要命的事情。

我們今天創造的信息越來越多，但管理信息、管理自己行為的能力并沒有比古人強多少，這是我們今天要保持一個良好的個人生態和社會生態必須要考慮的問題。

3、如何避免成為技術的奴隸？

尤瓦爾·赫拉利：其實我們可以有不同層面的行動計劃，比如個體層面、公司層面，工程師層面、政府層面和整個全球的層面。

從個人層面來說，我覺得最重要的使命就是認識和克服自己的弱點，因為這是我們的一個可能被技術操縱的門戶。這個處理的方法有很多，很多書中早有闡述，在過去幾千年里有各種各樣的哲學家、智者、預言家發出警告，我們必須非常了解自己的弱點，克服自己的弱點。

現在，這比以往任何時候都更緊迫，因為你有比以往任何時候都更強大的競爭對手。

千年前，孔子和佛祖都勸誡人們要更了解自己，但當時并沒有一個外在的力量或個人可以真正進入你的內心，與你去比拼到底誰更了解你自己。

現在我們有新的挑戰，也有很多好的技巧來更清晰地了解自己：有些人會接受專業的心理咨詢，有些人會利用藝術、展覽、作品，有些人會去戶外運動，或者是自己出行兩個星期獨處來了解自己，最重要的是在有限的時間內很好地了解到我們自己的弱點，這是個人層面的建議。

個人層面你是可以自己來進行改善，但如果已經成了一個全球的問題，或者是成了一個巨大的問題，個體無能為力去解決的話，我們也需要來自創造這項技術的企業和工程師的幫助。

企業應該加強社會責任感，不光為了掙錢，還要考慮會給社會帶來什么后果，要對社會負責。我們現在遇到的很多問題都是社交媒體和智能手機的問題，這背后沒有什么邪惡的意圖，對企業來說只是創收的生意。

企業CEO可能會跟工程師說，我們的用戶每天在我們平臺只花20分鐘是不夠的，希望到今年年底，他們可以每天花40分鐘。這對工程師來說是任務，然后，一幫聰明的人開始研究如何吸引我們的注意力，如何操縱并攻擊我們的思想和精神。

所以，我們為工程師開設程序員課程時，必須把道德作為學習的一部分，程序員要有基本的道德和準則，你在編程的時候，其實你可以帶來整個世界和人類的改變，你正在創造一個全新的世界。正如同在醫學上，沒有學習過醫學倫理課程的人，是不能成為醫生的。

最后，我們需要政府的監管，不僅僅是某個國家的政府，而是全球的政府，如果放任不管的話，有可能會造成一個大的危機，到最后誰也無法制止它的壞影響。特別是當涉及到最危險的事態發展時，我們需要某種國際協議。

比如，機器人殺手是非常危險的技術，全球各個國家政府應該達成規則協議。不然會出現這樣的情況：我們安分守己，但是我們害怕競爭對手，在核武器或者AI的實驗中違背協議，做一些可能對我們產生威脅的事情，這是一場AI軍備競賽。在這一場競賽中，無論誰勝利了，最終傷害的都會是人類自己。

每一個人都害怕自己的競爭對手變得邪惡，然后自己就沒有辦法獨善其身，這樣會形成一個非常壞的惡性循環。

同樣，在數據所有權領域，信息和數據該由誰來掌握？

我們正在經歷另一場軍備競賽——數據軍備競賽，競爭的雙方是中國和美國，中美之間到底誰來擁有全世界最主流核心的關鍵數據，大家彼此之間有很多的恐懼。現在如果想控制一個國家，并不需要派兵駐扎，只需要掌控這個國家的數據就可以。

設想一下，20年后世界上的某個小國，沒有外來的軍事駐地或軍事威脅，但是這個國家的所有數據都被存放在別的地方，包括所有政治家、記者、軍官的全部個人信息和醫療記錄，這樣的數據一旦泄露，這個國家就變成了數據殖民化的國家，不需要派兵，不需要打仗就能被別的國家控制。

所以，數據不僅是一種資源，而且是國與國之間競爭的一種非常重要的力量。過去的戰爭都是圍繞土地，而今天數據正在成為一種新的競相爭奪的資源。我們需要在國際層面來達成協議，避免出現數據殖民主義或者數據帝國主義。

04

逆全球化的時代更需要合作

尤瓦爾·赫拉利：過去這幾年，因為各種原因，全球的國際合作在退化。所以我們能夠看到全球在應對新冠疫情的時候，科學界和政治界對疫情的態度存在著巨大的差別。

在科學方面，我們看到世界各地的科學家和醫生進行著令人驚嘆的合作，他們共享信息，然后共同研究這個病毒，找到病毒的源頭，發現疫苗，提出解決方案。

在這次疫情期間，在科學層面上，人類合作的程度超過了歷史上對任何一次流行病的應對。但是我們政治層面的合作非常糟糕，從疫情開始到現在差不多一年的時間了，但是在全球我們沒有一個強有力的領導，也沒有全球性的行動計劃，國與國相互指責，故意散布錯誤信息和陰謀論。

我們也看到了對資源的爭奪，各個國家打疫苗戰，都想成為第一個擁有疫苗的國家，并利用疫苗來獲得經濟和政治優勢。

我們人類現在共同面對的敵人是病毒，你可能覺得在這個共同的敵人面前我們合作應該很容易，但國際層面并進行沒有很好的合作來對抗病毒和經濟危機。此外，人工智能和氣侯變化方面的合作也并不樂觀。國際社會需要合作，但并不是說人類愿意合作。

我是一個歷史學家，我太了解人性了，人是世界上最聰明的動物，我們都知道正確的方向是什么，但往往我們會往相反的方向發展。在20世紀的兩次世界大戰，還有其他重大災難中，人類真的可以以愚蠢的方式行事。

我們現在最大的危險是人工智能和生物工程等新技術，以及氣候變化的危險。隨著技術的發展我們犯錯的能力雖然看起來好像是減弱了，但實際上并不是。

歷史上的前一次重大技術革命是始于19世紀的工業革命，在過去的一兩百年里，人類一直在用不同的方式努力構建一個更繁榮、更好的工業社會，用蒸汽機，用汽車、火車、無線電為我們創造更好的生活，最終建出來的社會的確更好，21世紀初的世界比以往任何時候都更加和平和繁榮。

但同時我們也有一些巨大的失誤，在工業革命之后我們經歷了殖民主義，歐洲工業強國殖民和剝削了世界大部分地區。

我們還經歷了兩次世界大戰、大屠殺、冷戰，在經歷一系列的失誤后，我們終于得到了正確的結果。如果我們未來有第三次世界大戰，以今天這樣的技術，幾乎沒有人能幸存。

我希望人們能夠做出正確的決定，但現在云端也沒有一個上帝來告訴我們應該怎么做，也沒有對我們有利的自然法則，曾經在地球上存在過的99%的物種已經滅絕了，所以對一個物種來說，最自然的事情就是滅絕。

我希望在接下來的一個世紀里，我們能夠找到合作的方式，能夠真正的做一些應該做的事情，從我們的力量中拯救自己，因為我們的力量本身已經威脅到我們的存在，我希望人類真正有智慧地去使用這種強大的力量。