【中國綠發會訊】

摘要：科技要最大化地造福人類生活，應該以全面充分考慮它對人類生活產生的影響，尤其是預判和規避其可能產生的負面效用，否則很容易陷入覆水難收的境地。ChatGPT的誕生的確是智能機器人的一個階段性進步，但其作為科技與日常生活難舍難分背景下的突破性成就，必須引起足夠的倫理重視。當前來看，數據泄露、AI作弊與價值滲透是三個十分突出的倫理問題，增強人類適應科技進步的現代性智慧，是其“拄好科技之拐”的緊迫任務。

關鍵詞：ChatGPT  公平正義  現代性智慧

近日來，火爆全網的ChatGPT引起了社會各界的廣泛關注，它具有強大數據存儲能力和超強信息檢索功能，超強的語言識別技術使其在智能機器人中顯得格外出眾。媒體報道稱，除了在信息檢索功能上取代搜索引擎外，ChatGPT 還可以進行聊天互動、文學創作以及論文撰寫等。Chat GPT對智能機器人的這一歷史性變革看似為日常生活的智能和高效帶來便利，實際上也存在著技術倫理的隱憂。

數據泄露。ChatGPT 以海量信息“為食”，數據量越大、數據越新，其功能性越好。這意味著要保證良好的用戶體驗，它必須在社會各領域中獲取足夠多和準確的知識和信息，但問題在于，許多信息涉及商業機密、國家機密和個人隱私，獲取和利用這些信息本身存在合法性問題，一旦重要數據泄露，造成的損失到底是由泄露數據的人承擔，還是由披露數據的ChatGPT承擔？如何評估賠償或者懲罰的力度？這些都不得而知。在當前個人信息被私自收集、買賣、利用的背景下，規范ChatGPT獲取信息的合法性成為一個毫無頭緒的問題。事實上為了規避數據泄露的風險，許多互聯網巨頭已經提醒員工在使用ChatGPT 時注意泄露機密的問題[1]，這意味著ChatGPT在獲取信息時存在著已知的障礙，客觀上成為一種抵制的力量。

AI作弊。ChatGPT被學生用于完成作業和撰寫論文對教育界和學術界造成了重大的沖擊。調查顯示，美國有89%的學生用ChatGPT寫作業，[2]目前尚未研究出可準確檢測這種作弊行為的技術性方法。利用ChatGPT完成學業任務的高質量和高效率遠超此前的系列解題軟件，它可以完美避開查重等問題，這使其極具誘惑力。吊詭的是，教育界和學術界存在的意義本來就是為了培養社會人才、推進人類歷史的進步，而ChatGPT作為當前智能機器人的一個前沿成果，卻替代人類完成人才培養的任務，假如人類果真沉溺在這場“科學自動化”和自欺欺人中無法自拔，那就再也無法前進一步，而且勢必會導致思考惰性和大腦退化。在這個意義上，ChatGPT的使用需要進一步被限制，而教育界和學術界如何既利用其強大的檢索功能，又限制其被用于作弊同樣是一個難題。

價值滲透。ChatGPT的數據輸出功能承載著后臺技術操控者的話語權，用戶越多、使用范圍越廣就意味著其話語權越大、價值滲透力越強。如果操控者的價值觀存在歷史和文化的偏見、歧視，就會通過ChatGPT的“放大鏡”昭然于世，誤導用戶，扭曲大眾價值觀，引起社會動蕩，妨害社會公平正義[3]。另一方面，在國際競爭日益激烈的背景下，各種社會思潮此起彼伏。ChatGPT一旦面向大眾，勢必會代表以美國為首的發達資本主義國家發起意識形態滲透的攻勢，成為價值滲透的重要工具。可以想見，在ChatGPT向發展中國家進行技術轉移的過程中，文化沖突不可避免。

科學技術進步的歷史潮流勢不可擋，只是在堅持科技為人類服務而不是相反的原則基礎上，要“從技術構思和設計階段開始，認真思考技術對人的生存狀態的意義”[4]。顯然ChatGPT只是資本與技術共謀的自然結果，大眾在面對技術變革時的現代性智慧和維權意識、反思意識還遠遠未跟上技術進步的速度。在技術更新迭代加速的背景下，增強人們應對技術變革的現代性智慧十分緊迫。

[1] 多家科技巨頭提醒員工：不要泄露！不要泄露！https://mp.weixin.qq.com/s/ajIg8fer8yGri4PWxMbasQ，2023-2-10.

[2] 89%美國大學生竟用ChatGPT寫作業！紐約大學教授警告：用AI就是剽竊https://www.51cto.com/article/745226.html，2023-1-29.

[3] AI的剝削：肯尼亞工人訓練ChatGPT，看大量有害內容心理受傷http://www.kxwhcb.com/newsDetail_forward_21629125，2023-1-19.

[4]段偉文. 被捆綁的時間 技術與人的生活世界[M]. 廣州：廣東教育出版社, 2001：239.

作者簡介：唐電，喜歡思考個人命運、人類未來的馬克思主義者，接地氣的女博士，終生學習倡導者。

文/唐電  審/Linda  編/開心

本文轉自“中國生物救護與科學倫理”微信公眾號