·現代科技的自由是相對且有限度的，超越限度所獲得的將不是自由而可能是毀滅。在科學技術突飛猛進的今天，特別要看到科學技術后果的不確定性。

克里斯托弗·諾蘭執導的傳記電影《奧本海默》8月30日在中國大陸上映。

8月30日，著名導演克里斯托弗·諾蘭（Christopher Nolan）的傳記電影《奧本海默》終于在中國大陸與觀眾見面了。

羅伯特·奧本海默（J. Robert Oppenheimer）被稱為“原子彈之父”。他原本是美國加州大學的一位理論物理學家，在那個特定的年代，他接受了一項特定的任務：研制原子彈。

事情的緣由是這樣的：

1938年，德國化學家奧托·哈恩（Otto Hahn）和弗里茲·施特拉斯曼（Fritz Strassmann）共同發現了核裂變現象，隨即又發現其背后的理論原理。這使得人們非常擔心納粹德國會先造出原子彈。1939年8月，匈牙利裔物理學家利奧·西拉德（Leo Szilard）和尤金·維格納（Eugene Wigner）聯合愛因斯坦（Albert Einstein），共同起草了致美國總統羅斯福（Franklin Delano Roosevelt）的信，史稱“愛因斯坦-西拉德信”，督促美國政府盡快開展核武器的研究。羅斯福隨即命令國家標準局局長萊曼·布里格斯組建鈾顧問團，詳議“愛因斯坦-西拉德信”提及的問題。同年11月，這個顧問團回稟羅斯福稱，鈾“或可被制成炸彈，其破壞力將遠大于目前所知的任何武器”。但是當時即便是那些科學家，也并不完全了解鈾裂變的性質，整個計劃充滿著未知數。1941年日本偷襲珍珠港之后，美國對日德宣戰，加速了整個原子彈研究計劃的進行。1942年5月，加州大學理論物理學家羅伯特·奧本海默接手相關研究工作。同年8月，他被任命為研制原子彈的“曼哈頓計劃”（Manhattan Project）首席科學家。1945年7月，在奧本海默的主持下，世界上第一顆原子彈問世。

當原子彈變為現實，并投放成功的時候，奧本海默自己卻陷入了自我道德評價的糾結困境。在20世紀60年代的一次接受采訪中，奧本海默表示，在爆炸發生后的時刻里，他腦海中浮現出了印度教經典《薄伽梵歌》中的一句話：“而今我成了死神，世界的毀滅者。”在1945年10月的一次會議上，他對美國總統杜魯門（Harry S.Truman）說了這樣的話：“我覺得我的雙手沾滿了鮮血。”總統后來說：“我告訴他，血在我手上——讓我來操心這個問題。”在奧本海默生命的最后的時間里，他既對核彈的技術成就感到自豪，也對它的影響心懷愧疚。他后來也有一種認命之情，他不止一次地表示，原子彈的發明是不可避免的，但他也非常清醒認識到，科學不能僅僅是科學，科學需要更好地理解其自身的含義，為此，在他的團隊里，還招募了一大批非科學專業人士，包括古典學家、詩人和心理學家。

不止奧本海默，最初建議制造原子彈的匈牙利裔物理學家利奧·西拉德，后來則與其他科學家一起試圖阻止美國使用核武器，簽署了著名的《弗蘭克報告》。愛因斯坦也因為美國發展出的原子彈導致了許多平民的死亡而感到后悔。愛因斯坦后來寫道：“在我們這個時代，科學家和工程師擔負著特別沉重的道義責任，因為發展大規模破壞性的戰爭手段有賴于他們的工作和活動。”

“雖然我們贏得了戰爭，但是沒有贏得和平。”愛因斯坦的這句話非常值得人深思。我們知道制造原子彈最初的目的是為了和平，但是二戰以后的情況證明了愛因斯坦的洞見：原子彈的出現并沒有贏得和平，反而促使軍備競賽不斷升級，戰爭的威脅越來越大。

奧本海默、原子彈，這是科學史甚至是人類歷史上的重大事件，但作為一個典型案例，它首先提醒我們，現代科學的性質已經發生了改變，與希臘科學作為無功利的、自由探索的知識體系相比，現代科學已經成為一種力量，用培根的話來說，知識就是權力，用海德格爾的話來說，現代科學本質上已經成為一種Betrieb, 也就是一種有組織有計劃有目的有價值指向的活動，原本相分離的科學和技術也越來越緊密地糾纏在一起，成為你中有我我中有你的科技或“技科學”。與此同時，它也向我們敲響了警鐘，越來越清晰地告訴人們：科學技術給人類帶來的不完全是福祉，科學技術也可能跟災難、毀滅相伴隨。尤其是在科學技術突飛猛進的今天，我們特別需要看到科學技術本身的“兩面性”，看到科學技術后果的不確定性。

科學技術帶來的不確定性體現在多個方面：首先，科學技術本身具有可塑造性，按照符合邏輯的方式，科學技術可能實現不同的功能。 其次，科學技術發展過程的復雜性所帶來的不確定性。現代科學技術是多元主體參與的活動，不同學科背景、不同價值取向主體的介入，使得各個主體之間往往難以完全理解。第三，科學技術發展過程受到諸多因素影響，如政治、市場、政策等，這些因素的疊加使得科學技術創新獲得了空前的發展速度，承受著應用的壓力。第四，科學技術發展的不確定性還與其發展的范圍有關，表現出全球化發展態勢與各國發展差異的共存，這種狀況又可能會引發人類的其他矛盾和沖突。

比爾·喬伊（Bill Joy），太陽（Sun）微系統公司聯合創始人和首席科學家，他在 2000 年的時候就發出警告說：“未來不需要我們。”那個時候，世界各國正在轟轟烈烈地開展納米技術的競爭。在他看來，用納米技術進行破壞活動要比進行建設活動容易得多，未來人將越來越依賴于機器，而控制大型機器系統的卻是極少數精英階層。從上世紀 50 年代開始的核技術和生物技術對人類的深度干預，到近幾十年迅猛發展的納米技術和人工智能所展現的巨大威力，激發起人們對它的危害性的警覺和對“技術撬動世界”的狂妄的批判，也成為科技倫理反思和治理的起點。

我們知道，科學技術活動本質上追求的是創造性。而創造性本身是一個帶有摧毀性甚至毀滅性的概念，只要我們仔細審視“創造性”這個概念的含義就會發現，創造性與我們所講的規范、秩序、先驗規則等范疇是不相融合的。哲學家尼采就認為，一個人想要成為創造者，那么他必須同時既是善的也是惡的：事實上，他必須首先是一個毀滅者并且是價值的摧毀者。

我們以合成生物學為例，合成生物學被看作是生命科學技術前沿的“黑科技”。如果說傳統的生命科學技術還以“讀”懂生命的密碼為目的，那么，合成生物學則已經開啟了對生命這本神秘之書從“讀”到“寫”，再到“編輯”的新篇章。合成生物學的目的是設計生物系統和生命有機體。它具有工程學的特征：即“在人工設計的指導下，對生物元件進行標準化的表征，建立通用型的模塊，在簡約的‘細胞’或‘系統’底盤上，構建人工生物系統并實現其運行的優化”，因此具有工程化、系統化和標準化的特征。這不僅在認識論層面突破了“格物致知”的生命科學研究范式，而且開啟了“構物致知”的新的研究范式——邊改造、制造，邊認識，甚至先改造、制造，后獲得知識。

這種先技術后科學的所謂“技科學”（technoscience）模式，雖然從知識的獲取上開辟了新的途徑，具有重要的認識論價值，但是對于風險的管控來說，卻是異乎尋常的挑戰。數十億年演化而來的生命，可以在實驗室通過人工的形式實現。在某種意義上，人從 Homo Faber（工匠人），變成了 Homo Creator， 成為生命的創造者或“造物主”，生命成為像機器一樣可以制造的人工物。這一過程的實現完全顛覆了我們對生命的理解，使得合成生物既具有人工物的特征，又具有生命系統的特征：一方面生命可以被看作是一架由各種生物元件組成的機器，是可以被設計、可以標準化復制并批量生產的人工系統；另一方面，合成的生物（或生物元件）保留了生命的自我分裂和自我繁殖的特征——這也就意味著，作為人工物的輸入——輸出和反饋的循環將被打破。如此一來，它又不是人類可以隨心所欲控制的。因此，一旦我們設計錯了，或者編輯錯了，其過程就是不可逆的，極有可能對人類的存在構成威脅。

2022 年 11 月 30 日，美國OpenAI 推出的全新的對話式通用人工智能工具ChatGPT 上線后，立即驚艷全球，展現了驚人的應用場景和前途。一方面是大語言模型的巨大能力，另一方面這一巨大能力也可能轉化成巨大風險。ChatGPT具有可泛化性，即由于其參數量極大，模型的能力可以惠及諸多領域，當然其問題也會被下游模型所繼承，帶來“一榮俱榮，一損俱損”的效果；而ChatGPT的泛在性，特別是與移動終端連接后，用戶可以時時處處自由地與ChatGPT聊天互動，獲取各類信息與知識，完成各類任務。如果治理不到位，數據泄露，功能僭變，身份冒用、偽造詐騙等問題，有可能會以更加隱蔽的方式出現，什么是真的什么是假的、什么是我們可以相信的會變得更難以辨別。而這樣的結果必然是對我們生活方式、存在方式，我們的真理觀、世界觀的改變甚至顛覆。也就是說大模型所突破的絕不僅僅是以往的技術框架，也終將改變人類和世界的關系。

許多科技巨頭也看到了大語言模型的顛覆性力量，認為大模型存在著大風險，于是千人聯名提出要 “暫停高級AI研發”。然而，必須注意到的是，科學技術發展本身具有強勁的“動力源”，人類對自然的無窮無盡的探索精神，經濟賦予它的永不停息的推動力，都是這種“動力源”的重要組成部分。而另一方面，一項技術的社會后果不能在技術生命的早期被準確預見，當不希望的后果被發現時，技術卻往往已經成為整個經濟和社會結構的一部分，以至于對它的控制十分困難。這就是我們常說的“科林克里奇困境”。

正因為如此，世界各國都越來越多地重視科技倫理。“解放了的普羅米修斯正在呼喚一種能夠通過自愿節制而使其權力不會導致人類災難的倫理”。 “預防原則”、“負責任創新”、“倫理先行”等概念或原則的提出，都是希望能夠盡可能地從源頭上加強對科學技術發展方向的把控。一方面要推動科學技術造福于人類社會，另一方面要避免科學技術帶來的“福音”走向其反面。我們不僅要仰望星空，還要心懷道德律、敬畏感。科學技術的自由是相對的、有限度的，超越了這一限度我們所獲得的將不是自由而是毀滅。

（作者王國豫，系復旦大學哲學學院教授，中國科協-復旦大學科技倫理與人類未來研究院院長。兼任上海市自然辯證法研究會理事長，中國倫理學會科技倫理專業委員會副主任，中國計算機學會職業倫理與學術道德委員會共同主席等。研究方向為應用倫理學，科技倫理、生物醫學倫理等。）