2024年12月21日，復旦大學哲學學院MAE應用倫理2024級專業碩士研究生在課程老師楊慶峰教授指導下，在光華樓西主樓2501成功舉辦了以“人類命運畫布上的倫理筆觸”為主題的《科技倫理專題》課程案例研討會。本次研討會匯聚了來自哲學、公共管理、科技、法律等多個領域的專家學者和研究生及對科技倫理話題感興趣的社會人士，共同探討了科技飛速發展背景下的倫理問題和挑戰。

會議由哲學學院24級MAE應用倫理專業胡佳欣主持，點評專家包括上海交通大學科學史與科學文化研究院閆宏秀教授、復旦大學國際關系與公共事務學院鄭磊教授、復旦大學哲學學院徐志宏副教授和楊慶峰教授。專家們的深入點評為研討會提供了寶貴的學術支持和指導。研討會分為上下兩個半場，上半場聚焦于人工智能倫理，涉及AI換臉詐騙、生成式人工智能倫理問題、AI Agent落地企業應用及相關問題、算法鏡像等議題。下半場則圍繞醫療數據的倫理問題、企業智能體實踐與反思、DBS（腦深度神經刺激）技術發展的倫理思考、危廢物處置的環保技術推廣問題等前沿科技倫理案例進行深入研討。

案例一：AI換臉詐騙

分享人：2024級MAE劉婧賢、張康、姚好、胡佳欣、陳嗣元

數字面龐的技術誕生讓一人千面成為了可能。由AI換臉詐騙的案例引發對不同種類數字面龐的探討，根據同一性和真實性的強弱關系將數字面龐分為數字面貌、數字復活、數字擬真、數字面具四大象限。對這四象限的倫理審視，涉及面孔失真、身份失落、社會失信等范圍的討論，并根據不同情況分析可能涉及的法律后果。結合列維納斯關于“臉”的表述，特別探討了數字復活能否成為“他者”、數字面貌中的“美顏”是再現美貌還是審美同質化等內容。希望提出更加明晰的數字面龐使用的知情同意書設計要求，需要嚴格授權、規范使用，涉及數字采集、數據應用及用戶體驗等方面知情同意，以期更規范化使用數字面龐。

專家點評：

鄭磊教授指出，AI換臉技術的濫用不僅涉及隱私侵犯，還可能對社會信任造成深遠影響。他強調，技術提供方應承擔起審查義務，確保技術不被用于非法目的。閆宏秀教授則從數據倫理的角度提出，應加強對數字臉龐使用的監管，明確數據采集和應用的規范，保障用戶的知情同意權。

案例二：生成式人工智能倫理問題

分享人：2024級MAE張育偉

近年來，通過“深度偽造（Deepfake）”技術生成的虛假內容造成侵權的事件多發，不法分子利用技術實施詐騙的案例也層出不窮。隨著生成式人工智能的發展，多模態的“深度偽造”內容的技術門檻已經很低，而技術普及帶來的倫理滑坡風險和給人類社會帶來的群體性危機也迫在眉睫，主體的“不在場”也在人與技術框架內造成了主體性消解的風險。在以互聯網為媒介的數字社會轉型的過程中，音視頻內容實際上已經成為了主流的信息傳播和大眾娛樂的主體，“AI數字人”等“深度偽造”內容的商業化也方興未艾。如何認識技術商業化和人的認知與權利保護的張力，如何對”深度偽造”技術的應用進行合理的治理，回顧智能手機和汽車等有效的治理實踐，也許能夠提供一種基于原則化的實踐治理路徑和基于人和技術責任的規制方式。

專家點評：

徐志宏副教授對張玉偉同學提出的分級治理路徑表示贊賞，他認為這為解決生成式人工智能的倫理問題提供了新思路。同時，他也指出，分級治理應結合具體場景，明確不同級別下的責任主體和監管措施。楊慶峰教授則強調，生成式人工智能的倫理問題復雜多變，需要跨學科合作，共同尋找解決方案。

案例三：AI Agent落地企業應用及相關問題

分享人：2024級MAE李春堂、陳丹妮

近年來，人工智能（AI）技術飛速發展，大模型驅動的AI Agent正從簡單自動化執行躍升至高度自主與創新，深度嵌入各行業，推動企業數智化轉型，成為新時代的創新引擎。從AI面試到智能客服，從知識管理到無人駕駛，AI Agent正在重塑傳統業務模式，為效率提升和生產力變革注入強大動能。然而，技術革命也帶來了諸如隱私保護、算法歧視、責任歸屬、職業替代和社會公平等一系列復雜倫理挑戰，迫使我們重新思考人類與AI的關系。在AI Agent逐步具備自主決策能力以及多AI系統復雜性涌現的背景下，構建跨主體、可解釋的動態治理機制已成當務之急。這不僅是防范技術濫用的必要措施，更是守護人類主體性和自由的關鍵保障。唯有將AI Agent深度融入社會—技術—自然的多元生態中，并與公正、自由和尊嚴等核心價值相對齊，人類方能邁向人機協作的全新時代，真正實現創新紅利的普惠共享。這是技術與倫理融合的時代命題，也是全社會共同面對的使命。

專家點評：

鄭磊教授對AI Agent在企業應用中的潛力表示肯定，但他也提醒，技術普及需警惕失業潮和分配不均等問題。閆宏秀教授則提出，企業應在智能化進程中關注員工的職業發展和培訓需求，確保技術紅利惠及更多人。

案例四：算法鏡像

分享人：2024級MAE侯弘毅

2024年初，某社交平臺因AI算法操控問題引發廣泛關注。該平臺運用大數據和AI技術，將算法操控產品化，極大威脅了用戶的自主性。用戶在這個體系中，由于自愛和利己傾向被過度放大，容易迷失于海量信息，被誘導消費，喪失自我決策的能力。這不僅侵犯了用戶隱私，更加劇了認知偏見，導致信息失衡和社會分化。算法操控的濫用還可能引發數據壟斷和不公平競爭，威脅社會經濟秩序。我們必須對此保持高度警惕，加強監管，明確技術倫理邊界，推動科技向善，保障數字經濟健康發展。用戶在使用這類平臺時，應理性看待算法推薦，保持獨立思考，避免喪失自主性，成為算法的傀儡。

專家點評：

徐志宏副教授對侯弘毅同學從廣告人視角剖析算法鏡像表示贊賞，他認為這有助于更深入地理解算法推薦機制的倫理問題。楊慶峰教授則強調，算法鏡像不僅影響用戶行為，還可能對社會價值觀和公共權益造成潛在威脅，因此需要加強監管和透明度。

案例五：誰能獲得醫療數據“金礦開采許可證”

分享人：2024級MAE許怡婷

醫療數據共享使用需要經過匿名化、清洗和標準化等處理，既有效保護患者的隱私，又確保數據的準確性和可用性，在基礎臨床研究、新藥研發、醫療服務優化以及保險產品開發等多個場景中，處理后的醫療數據發揮著重要價值并持續為醫療技術進步提供有效依據。個人、醫療機構和政府管理部門都面臨著功利主義與義務論的抉擇。個人需權衡隱私權、知情權與數據共享的利弊，同時關注數據安全的信任問題；醫療機構則需確保數據的質量與責任，避免利益沖突，保證數據共享的公平性和透明度；政府管理部門既要促進數據合理利用，又要切實保護個人隱私，將公共利益和社會責任放在首位，確保醫療數據在推動醫療進步的同時，也能充分保障各方的合法權益。

專家點評：

閆宏秀教授則提出，醫療數據交易應遵循公益性原則，確保數據的安全性和完整性，同時保障患者的知情權和選擇權。楊慶峰教授指出，醫療數據交易涉及多方利益，需建立健全的數據確權和隱私保護機制。

案例六：企業智能體實踐與反思

分享人：2024級MAE張璟

“智能時代下，為提升企業競爭力，企業嘗試依托人工智能技術構建企業智能體，全面提升企業智能化水平，重構企業組織形態，打破部門壁壘，讓企業員工可以精準滿足需求，促進企業內部的高效協作。然而，構建企業智能體的實踐過程中科技倫理問題相繼涌現，如員工數據確權與隱私保護、智能替代引發失業潮、智能調度下員工主體性缺失、新安全隱患的新治理措施、企業智能體事故定責、智能時代公平公正的保障，這些科技倫理問題都需要進行澄清、反思，并討論相應的解決方案。深切期望隨著科技倫理觀念的逐步普及、指導政策法規的逐步到位、全球合作的逐步加強，人類能形成體系化、敏捷迭代、面向未來的科技倫理解決方案，以應對諸多科技倫理問題的挑戰。”

專家點評：

鄭磊教授對企業智能體在提升企業運營效率方面的作用表示肯定，但他也提醒，技術替代人工需關注失業潮和人性關懷問題。楊慶峰教授則強調，企業智能體的發展應遵循倫理原則，確保技術服務于人類的整體福祉。

案例七：DBS（腦深度神經刺激）技術發展的倫理思考

分享人：2024級MAE張華、陳越

腦深部電刺激術（deep brain stimulation，DBS）又稱“大腦起搏器”，臨床多用于治療癲癇與帕金森等病癥。其原理是在腦內特定的神經核團植入電極，釋放高頻電刺激，抑制了因多巴胺能神經元減少而過度興奮的神經元的電沖動，降低了其過度興奮的狀態，從而減輕癥狀。案例分析人張華和陳越皆從事于生物制藥行業，本案例通過結合DBS 技術臨床應用現狀及相關倫理問題延申展開討論。腦科學的復雜，意識與神經活動的未知，神經疾病患者的特殊自主意識狀態，DBS技術的復雜，腦手術的高風險，高昂的醫療費用，醫療資源分布不均，治療后患者自主意識控制等；每一個話題都會引起人們對身處其中各方倫理的深思。 哲學學院專碩研究生為大家帶來思想的碰撞，思辨的盛宴；超越醫學和技術的交流，更是弱德之美人文哲學思考的升華。

專家點評：

鄭磊教授對DBS技術在治療神經系統疾病方面的潛力表示關注，但他也指出，技術應用需遵循倫理原則，確保患者的自主性和尊嚴不受侵犯。閆宏秀教授則從數據倫理的角度提出，DBS技術的數據收集和處理應遵循透明性原則，保障患者的知情同意權。

案例八：危廢物處置的環保技術推廣問題

分享人：2024級MAE王薏榕

危廢物的大量產生是經濟快速發展的副產品，處理不當會對水體、大氣等環境要素造成嚴重污染，危害生態平衡，危廢物處置環保技術可以實現危廢物無害化、資源化處理。但在實踐中，危廢物處置環保技術的落地推廣面臨技術創新成本高、政策反復性強、多方利益分配不均等多種難題。從哈貝馬斯商談倫理學的角度出發，可以從建立規范的商談程序、促進交往行為有效性方面為解決環保技術的落地推廣問題提供思路。閆宏秀教授提示環保和節能兩者之間有時候不能兼具，需要去平衡。

專家點評：

徐志宏副教授對王薏榕同學提出的商談倫理解決方案表示贊賞，他認為這有助于解決環保技術推廣中的利益沖突問題。楊慶峰教授則強調，環保技術推廣需關注多方主體的利益訴求，通過對話和協商尋求共識，實現環境保護和經濟發展的雙贏。

————————

結合實際案例，分享人進行了精彩的案例展示和深入剖析，展示出科技倫理問題的復雜性和緊迫性。AI換臉詐騙、生成式人工智能倫理問題、AI Agent企業應用、算法鏡像、醫療數據使用權、企業智能體實踐、DBS技術發展以及危廢物處置等前沿科技倫理議題，反映了科技倫理領域的熱點和難點，增強討論的現實關聯性和針對性。專家點評環節為每個案例提供了深刻的見解和建議，為案例提供了多維度的解讀。會議還特別設置了交流環節和現場投票，增加了互動性，使與會者能更積極地參與討論。研討會還邀請第一屆應用倫理專業碩士研究生2023級MAE黃鵬作為觀察員，他高度評價今年研討會在深度、交流及實踐方面均有顯著提升，希望協同持續探索，為構建公正、可持續的科技未來貢獻力量。

楊慶峰教授在總結發言中強調，科技倫理教育的重要性日益凸顯，希望通過此類研討會，培養出更多具有倫理意識的科技人才，為構建健康公正的科技生態貢獻智慧。他提出，未來將繼續推動跨專業交流，將科技倫理教育拓展到更廣泛的領域。

隨著科技的迅猛發展，科技倫理問題已成為社會關注的熱點。通過此次研討會，復旦大學應用倫理專碩學生展現了其在科技倫理教育和研究方面的專業能力和責任感，為推動科技倫理的學術研究和實踐應用提供了有力的支持。