·“語言是人類文化的操作系統(tǒng)。從語言中產(chǎn)生了神話和法律，眾神和金錢，藝術(shù)和科學(xué)，友誼和國家，以及計算機(jī)代碼。人工智能對語言的掌握，意味著它現(xiàn)在可以入侵并操縱文明的操作系統(tǒng)。”

·“社交媒體是人工智能與人類的第一次接觸，而人類輸了。大型語言模型是我們與人工智能的第二次接觸，我們不能再輸了。”

“想象一下，當(dāng)你登上一架飛機(jī)時，一半建造這架飛機(jī)的工程師告訴你，飛機(jī)有10%的可能性會墜毀，導(dǎo)致你和飛機(jī)上的其他人死亡。你還會登機(jī)嗎？

“2022年，在一項調(diào)查中，超過700名頂級學(xué)者和頭部人工智能企業(yè)的研究人員被問及未來人工智能的風(fēng)險。半數(shù)受訪者表示，未來的人工智能系統(tǒng)有10%或更大幾率使人類滅絕（或永久性嚴(yán)重喪失能力）。建立今天的大型語言模型的科技公司，正陷入一場將全人類送上那架飛機(jī)的競賽。”

近日，《人類簡史》作者、以色列歷史學(xué)家尤瓦爾·赫拉利（Yuval Harari）與參與制作知名紀(jì)錄片《監(jiān)視資本主義：智能陷阱（The Social Dilemma）》的特里斯坦·哈里斯（Tristan Harris）和阿扎·拉斯金（Aza Raskin）共同撰文，呼吁人類爭取時間，為應(yīng)對人工智能世界而升級現(xiàn)有機(jī)構(gòu)（這套機(jī)構(gòu)仍然源自19世紀(jì)），并在人工智能掌控人類之前學(xué)會掌控它。

《人類簡史》作者、以色列歷史學(xué)家尤瓦爾·赫拉利。

這篇題為《你可以擁有藍(lán)色藥丸或紅色藥丸，我們已經(jīng)沒有藍(lán)色藥丸了》的文章發(fā)表在《紐約時報》。紅色藥丸與藍(lán)色藥丸（red pill and blue pill）是一種流行的迷因，意思是在令人不安的知識和殘酷現(xiàn)實的“紅色藥丸”與保持愚昧并繼續(xù)過著平凡生活的“藍(lán)色藥丸”之間做出選擇。

文章指出，未對產(chǎn)品進(jìn)行嚴(yán)格的安全檢查，藥品公司不能向人們出售新藥。生物技術(shù)實驗室不能為了打動股東而將新病毒發(fā)布到公共領(lǐng)域。同樣，具有GPT-4及以上能力的人工智能系統(tǒng)，其卷入數(shù)十億人生活的速度，不應(yīng)該超過文化能安全吸收它們的速度。為了主導(dǎo)市場而展開的競賽，不應(yīng)該設(shè)定部署人類最重要技術(shù)的速度。

“自20世紀(jì)中期以來，人工智能的幽靈一直困擾著人類，但直到最近，它仍然是一個遙遠(yuǎn)的前景，是屬于科幻小說而不是嚴(yán)肅科學(xué)和政治辯論的東西。我們?nèi)祟惖念^腦很難掌握GPT-4和類似工具的新能力，更難掌控這些工具發(fā)展更先進(jìn)和更強大能力的指數(shù)級速度。但大多數(shù)關(guān)鍵技能歸結(jié)為一件事：操縱和生成語言的能力，無論是用文字、聲音還是圖像。”文章寫道。

“起初是文字。語言是人類文化的操作系統(tǒng)。從語言中產(chǎn)生了神話和法律，眾神和金錢，藝術(shù)和科學(xué)，友誼和國家，以及計算機(jī)代碼。人工智能對語言的掌握，意味著它現(xiàn)在可以入侵并操縱文明的操作系統(tǒng)。通過對語言的掌握，人工智能正在奪取文明的萬能鑰匙，從金庫到圣墓。”文章繼續(xù)寫道。

對人類來說，生活在這樣一個世界里意味著什么？“在這個世界里，很大比例的故事、旋律、圖像、法律、政策和工具都是由非人類智能塑造的，它知道如何以超人的效率利用人類思維的弱點、偏見和成癮，同時知道如何與人類形成親密的關(guān)系？在像國際象棋這樣的游戲中，沒人有希望能擊敗計算機(jī)。當(dāng)同樣的事情發(fā)生在藝術(shù)、政治或宗教領(lǐng)域時會發(fā)生什么？”作者問道。

“AI可以迅速吃掉整個人類文化——我們幾千年來產(chǎn)生的一切——消化它，并開始涌出大量的新文化藝術(shù)品。不僅僅是學(xué)校作文，還有政治演說、意識形態(tài)宣言、新邪教的圣書。到2028年，美國總統(tǒng)競選可能不再由人類主持。”

這篇文章認(rèn)為，人類往往不能直接接觸到現(xiàn)實，而是被文化所籠罩，通過文化棱鏡體驗現(xiàn)實。“我們的政治觀點是由記者的報道和朋友的軼聞形成的。我們的性偏好是由藝術(shù)和宗教來調(diào)整的。到目前為止，這個文化之繭是由其他人類編織的。通過非人類智慧產(chǎn)生的棱鏡來體驗現(xiàn)實會是什么樣子？”

“幾千年來，我們?nèi)祟愐恢鄙钤谄渌祟惖膲糁小Ｎ覀兂绨萆耢`，追求美麗的理想，并把我們的生命獻(xiàn)給源于某些先知、詩人或政治家想象的事業(yè)。很快，我們也會發(fā)現(xiàn)自己生活在非人類智慧的幻覺中。”

文章舉例稱，《終結(jié)者》系列電影描繪了機(jī)器人在街上奔跑和射擊的場景。《黑客帝國》假設(shè)要獲得對人類社會的完全控制，人工智能將不得不首先獲得對我們大腦的物理控制，并將它們直接連接到計算機(jī)網(wǎng)絡(luò)。然而，只要掌握了語言，AI就會擁有它所需要的一切，將人類控制在一個類似母體的幻覺世界中，而不需要向任何人開槍或在大腦中植入任何芯片。如果有必要開槍，人工智能可以讓人類扣動扳機(jī)，只需要對人類講述合適的故事即可。

文章指出：“社交媒體是人工智能與人類的第一次接觸，而人類輸了。第一次接觸讓我們嘗到了隨之而來的苦果。在社交媒體中，初期的人工智能不是用來創(chuàng)造內(nèi)容，而是用來組織用戶生成的內(nèi)容。新聞瀑布流背后的人工智能仍然在選擇哪些文字、聲音和圖像到達(dá)我們的視網(wǎng)膜和耳膜，其依據(jù)是選擇那些將獲得最廣傳播、最大反應(yīng)和最多參與的內(nèi)容。

“雖然非常原始，但社交媒體背后的人工智能足以創(chuàng)造出一幕幕幻象，加劇了社會的兩極分化，破壞了我們的心理健康，并使民主解體。數(shù)以百萬計的人將這些幻覺與現(xiàn)實混淆。美國擁有歷史上最好的信息技術(shù)，但美國公民卻無法再就誰贏得選舉達(dá)成共識。盡管現(xiàn)在每個人都已經(jīng)意識到了社交媒體的弊端，但由于我們太多的社會、經(jīng)濟(jì)和政治機(jī)構(gòu)已經(jīng)與之糾纏在一起，所以這個問題還沒有得到解決。

紀(jì)錄片《監(jiān)視資本主義：智能陷阱》揭示了人類日益依賴社交媒體帶來的后果。

“大型語言模型是我們與人工智能的第二次接觸，我們不能再輸了。但是，我們應(yīng)該在什么基礎(chǔ)上相信人類有能力使這些新形式的人工智能與我們的利益相一致？如果我們繼續(xù)像往常一樣，新的人工智能能力將再次被用來獲得利潤和權(quán)力，即使它在無意中破壞了我們社會的基礎(chǔ)。”

文章最后強調(diào)，人工智能確實有潛力幫助戰(zhàn)勝癌癥，發(fā)現(xiàn)拯救生命的藥物，為氣候和能源危機(jī)提供解決方案，還有無數(shù)無法想象的其他好處。“但是，如果地基坍塌，人工智能組裝的利益摩天大樓有多高也不重要了。”

作者發(fā)出呼吁：“在我們的政治、經(jīng)濟(jì)和日常生活變得依賴人工智能之前，是時候重視人工智能了。民主是一種對話，對話依賴于語言，而當(dāng)語言本身被入侵時，對話就會中斷，民主就會變得無法維持。如果我們等待混亂的發(fā)生，再來補救就太晚了。

“我們已經(jīng)召喚出了一個外星智能。我們對它了解不多，只知道它非常強大，為我們提供了令人眼花繚亂的禮物，但也可能破壞我們文明的基礎(chǔ)。我們呼吁世界各國領(lǐng)導(dǎo)人以對應(yīng)其挑戰(zhàn)的水平來應(yīng)對這一時刻。第一步是爭取時間，為人工智能世界升級我們19世紀(jì)的機(jī)構(gòu)，并在人工智能掌控我們之前學(xué)會掌控它。”

尤瓦爾·赫拉利長期關(guān)注人工智能對世界的影響，著有《人類簡史》《未來簡史》和《今日簡史》等書籍，并創(chuàng)辦了Sapienship國際咨詢公司。特里斯坦·哈里斯和阿扎·拉斯金是“人道主義技術(shù)中心（Center for Humane Technology）”的創(chuàng)始人，他們參與制作的紀(jì)錄片《監(jiān)視資本主義：智能陷阱》也被譯作《社交陷阱》，揭示了人類日益依賴社交媒體帶來的后果：人類社會正面臨一個生死攸關(guān)的危機(jī)，被人工智能、大數(shù)據(jù)和算法模型所控制，導(dǎo)致出現(xiàn)最近幾年的分裂和混亂。