人工智能與文本末世

人工智能語言模型的快速發展將會如何影響我們的寫作？2023年，馬里蘭大學英語系的學者馬修·柯申鮑姆（Matthew Kirschenbaum）提出了文本末世（Textpocalypse）的理論。伴隨著生成式人工智能的爆發，我們更有理由去反思生成式人工智能對于原創思想和文學創造力的削弱。

在文章《迎接文字末日》（Prepare for the Textpocalypse）中，柯申鮑姆提出：我們與書面文字的關系正在發生根本性的變化。所謂的“生成式人工智能”已經通過 ChatGPT 等程序進入主流。這些程序使用大型語言模型（LLM），通過統計預測文本序列中的下一個字母或單詞，從而生成模仿被輸入文檔的句子和段落。它們將類似“自動補全”的功能擴展到了整個互聯網。

柯申鮑姆隨后提出了擔憂：此前，人們通過主動輸入提示詞來訓練這些模型，這些模型（大多數情況下）仍然主要基于人類創作的文本進行訓練。然而，自ChatGPT API 發布以來，過去的訓練模式可能被顛覆——機器可以提示其他機器無休止地生成文本，利用機器生成的文字“自我訓練”，這些毫無人味的合成文本將迅速充斥互聯網，就像文字版的灰色粘質（gray goo，一種科幻概念，指納米機器人消耗完地球上所有的生物量，通過無限自我復制造成的末日災難）。

不論是出于商業目的，政治宣傳，甚至是為了某些惡趣味，這些系統都將生成大量的文本，并將它們投放到互聯網上，與其他信息混雜在一起。這并非危言聳聽，2022年6月，一個經過調整的開源語言模型GPT-J被植入匿名論壇 4chan，它在24小時內發布了 15000條大多帶有攻擊性的帖子。設想某人建立一個系統，使人工智能程序不斷自我查詢，并自動將生成內容發布到網站或社交媒體上，形成一個永無止境的內容流。這些內容不僅干擾互聯網上的信息流，還會被重新吸收進訓練數據集，最終影響模型生成的新內容。這些信息的準確性也難以保證，科技新聞網站CNET曾發布過數十篇由AI輔助撰寫的文章，試圖吸引流量，而其中超過一半的文章被發現存在錯誤。

我們可能很快會面臨一場文本末世（Textpocalypse），屆時機器生成的語言將成為常態，而人類撰寫的文章則成為例外。屆時，網絡上的人類創作文本可能會變得稀有，就像書法家的珍貴作品一般。這仿佛一場全球性的垃圾信息（spam）事件，但我們尚未開發出有效的過濾機制。

許多人沒有意識到的是，文本是內容，但它是一種特殊的內容——“元內容”（meta-content）。在每個網頁的表層之下，都隱藏著文本，用尖括號括起的指令或代碼，決定頁面的外觀和行為。瀏覽器與服務器之間通過文本進行連接和交流。編程同樣通過純文本進行。圖像、視頻和音頻都依賴文本進行描述和標注，這些文本被稱為元數據（metadata）。互聯網遠不止是文本，但從根本上說，互聯網的每個元素都是由文本支撐的。

長期以來，“讀—寫”網絡（read-write web）一直是互聯網的基本范式。我們不僅消費內容，還能生產內容，通過編輯、評論和上傳來參與網絡的構建。然而，如今我們正處在邁向“寫—寫”網絡（write-write web）的邊緣：網絡開始自行書寫和重寫，甚至在這個過程中可能會重新構建自身。

針對柯申鮑姆的文章，威諾納州立大學大眾傳播學副教授達文·赫克曼 (Davin Heckman) 提出三點思考：第一，一旦無休止的、令人信服卻完全空洞的機器人詭辯泛濫成災，那么參與和表達有意義內容的場所的價值將迅速下降。換句話說，繁榮之后便是衰敗。俗話說，“說話不花錢”，但話語的價值將變得更加廉價。很快，你會看到人們推著滿載文字的手推車走出圖書館，而這些文字的價值甚至比承載它們的紙張還要低。

其次，根據斯蒂格勒的理論：個體化作為一個過程（而非目標），它與個人的（心理的）、集體的（社會的）和技術的日常生活協商密切相關。人們在參與心靈、社會與文化生活時，個體性才會作為一種自我意識不斷地生成和變化。然而，在越發技術化、自動化的社會中，人與人之間的互動變得更加空洞。社會世界已經變得傾向于選擇欲望與滿足之間的最短距離，沒有空間進行反思、社交互動，更不用說歷史性的推測了。人類語言被簡化為稀疏的禮節性功能，這種功能反映了我們在社交媒體上所學會的強迫性手勢（點贊！）。未來，人工智能可能進一步塑造人與人之間的互動方式。

最后，赫克曼質疑了人工智能成為社會知識基礎的替代的可行性。赫克曼提出：智慧存在于城市、鄉村、家庭、教堂、工作場所等地。換句話說，智力生活不僅依賴于個體的智力，還依賴于社會知識基礎的形成；依賴于社區知識和分析能力的聚合。當一個活躍的社區將自己視為跨代的實體時，它會收集來自過去世代的信息，并為未來世代保存信息，運用記憶技術和技巧，建立檔案。個體、社區和文化的這種整合是文明意義的基礎。人工智能的出現，提供給人們更加直接的“回答”，讓人質疑保存和建檔的工作意義，這似乎也預示著人們逐步放棄建立社區的艱巨任務。

自《迎接文字末日》發布以來，已經過去了兩年時間，人工智能以更加迅猛的勢頭飛速發展。柯申鮑姆近日寫道：如今，正如關于AI“劣質內容”泛濫的新聞標題所揭示的，文本末世已基本成為現實。如今的文本已不再是為了被閱讀，甚至不再是供人消費的內容，而更接近一種通用貨幣——一種無限的、可替代的代幣，成為新的（并且具有掠奪性的）書寫經濟的化石燃料。

無論一場完全自動化的文本末世是否真的會降臨，這一趨勢都在加速發展。從類型小說到醫生報告，我們或許無法再輕易假定自己正在閱讀的文本出自人類之手。寫作（尤其是數字文本），作為一種人類表達形式正在逐漸與我們疏離。這些文字，最終可能也難逃被吸納進下一代生成式人工智能的訓練數據之列，不可避免地淪為即將到來的文本末世的燃料。

寫作定義人類

人工智能會取代作家嗎？美國作家海倫·菲利普斯（Helen Phillips）給出了她的答案：也許正是在這個技術爆炸的時代，人類的寫作變得更有意義。

菲利普斯2月14日接受了CBC加拿大電臺采訪，在談論她最新出版的小說《嗡鳴》（Hum）時，探討了在由人工智能驅動的日常生活中，是什么讓我們成為人類。

菲利普斯是布魯克林學院教授，已出版六本書，包括入圍美國國家圖書獎的小說《需要》（The Need），以及獲得約翰·加德納小說獎的短篇小說集《一些可能的解決方案》（Some Possible Solutions）。

《嗡鳴》書封

“我的焦慮是我的靈感：更深入地理解這些焦慮，直面它們，也許能找到某種解決方案。”她在Bookends節目訪談中說，“對我來說，面對焦慮的過程就是更多地了解我所擔心的事情。”

這種將焦慮轉化為故事的能力，源于她的童年經歷。11歲那年，菲利普斯因自身免疫性疾病失去了所有頭發。“在那段最艱難的時期，寫作給了我一個自由的空間。13歲開始，我給自己定了個目標：每天寫一首詩。這個習慣一直堅持了八年。”

對菲利普斯而言，寫作不僅是表達方式，更是將私人經驗轉化為可共享敘事的過程。“當我用語言表達出來時，它就轉變成了我可以與他人分享的東西。當我與他人分享時，它就不再是我一個人承擔的負擔。”這種將個人危機轉化為普遍意義的能力，正是人類寫作區別于人工智能文本生成的關鍵。

在寫作《嗡鳴》時，菲利普斯直面了對于人工智能和氣候變化的恐懼。

故事發生在一個反烏托邦世界，這個世界既熟悉又與我們的現實有微妙的不同。氣候變化已經破壞了環境。（“要是森林沒有被燒毀就好了，”May想。“要是離開城市、越過眾多工業和荒蕪地帶不是那么困難、那么昂貴就好了。”）攝像頭和屏幕與空氣中的污染一樣無處不在；隱私、親近自然和免受廣告干擾已成為奢侈品。智能機器人(稱為“Hum”)在這里行走、說話并執行各種工作。這里的年幼兒童普遍佩戴智能手表方便家長來監測他們。幾乎每個大人都沉迷于被稱為“Woom”的個人虛擬現實艙。

許多工作都被自動化取代，包括May的工作。她曾在一家開發“人工智能溝通能力”的公司工作，但在無意中訓練了一個使她自己變得多余的人工智能網絡后被解雇。她的丈夫Jem是一名前攝影師，現在靠清理捕鼠器和打掃壁櫥的零工維持生計。這對夫婦對未來的焦慮已經影響到他們的孩子，8歲的Lu和6歲的Sy，他們表現出對蟑螂的呵護、對防災手冊的癡迷，以及對無味草莓的歡欣。

為了賺取相當于十個月生活費的報酬，May參加了一項實驗手術。她用掙來的一部分錢帶全家去了植物園——這個被圍墻圈起來的“自然樂園”已經成為富人社交媒體的打卡勝地。當兩個孩子看到一則昂貴軟糖的廣告時興奮不已，May無法拒絕他們。她剛批準購買——只需要兩個字——軟糖就“在他們嘴里……在他們舌頭上香甜地融化”。這些細節提出了一個問題：在一個快感被渴望、被創造、又在呼吸間就消耗殆盡的世界里，你能給孩子們什么持久的幸福？當一切都是一次性的時候，你如何保護他們的幸福？

這種母職焦慮似乎已成為當代文學的一個顯著主題。《紐約客》把這部小說歸類為“生態焦慮媽媽文學”：育兒焦慮有了新的對象，不是未寫的文字或未實現的職業目標，而是地球的毀滅。

最近幾年，確實出現了不少類似作品：Lauren Groff的《佛羅里達》（Florida，2018）里，一位母親整天刷著環境災難新聞；Jenny Offill的《天氣》（Weather，2020）中，主人公的工作是回復氣候危機播客聽眾的焦慮郵件；Kate Zambreno的《光之室》（The Light Room，2023）描寫了一位在極端高溫中帶娃的媽媽。這些書的敘述者痛苦地意識到人為的氣候變化和失控的資本主義，她們對即將到來的反烏托邦世界充滿恐懼。《嗡鳴》呈現的未來愿景，不是即將來臨的末日，而是May日常生活中令人失去人性、失去快樂的磨難，這是一場持久地對抗消費和技術媒介的戰斗。

小說中無處不在的機器人“Hum”性格溫和，富有同理心，在植物園里像精靈一樣為游客服務。提到小說標題“嗡鳴”的雙重含義：既是無處不在的數字噪音，也是人類最原始的發聲方式——哼唱、低語、搖籃曲。就像我們既是人工智能的創造者，又可能成為它的受害者。這種矛盾本身就很有意思。

或許這就是為什么人類寫作仍然有其不可替代的位置。不是因為技術的限制——這些限制終將被突破，而是因為某些經驗只能通過人類的身體和情感來理解和表達。就像May在夜里問她的丈夫：“等他們到了我們這個年齡，這個星球還能給他們什么？”這個問題的力量不在于它的修辭，而在于它背后真實的恐懼和愛。