9月8日，在2024浦江創新論壇的科技倫理論壇上，中國工程院院士、國家科技倫理委員會委員、人工智能倫理分委員會主任、鵬城實驗室主任高文表示，國內百“?！贝髴鹨蚕牧舜罅抠Y源，“整個社會用電里，大概1%~3%的耗電用在計算方面?！彼ㄗh加強國產算力和國產生成式大模型構建，把開源和閉源模型高效利用起來。

面對人工智能帶來的倫理問題，中國工程院院士高文表示，要加強技術研究和制度設計。

從完整概念提出至今，人工智能的發展歷史只有68年。高文表示，這68年里，人工智能經歷了三個階段：第一階段是基于邏輯推理的人工智能，大約經歷了20年；第二階段是基于規則的專家系統階段，這些規則由人類一條條羅列出來，也由神經網絡訓練而來，這個階段持續了大約30年。

從2006年至今是人工智能發展的第三階段，也就是基于深度神經網絡的階段。這一階段實際上又經歷了兩次浪潮，其中第一次浪潮是可用神經網絡對圖像分類的判別式人工智能，第二次浪潮則是從2017年起步的生成式人工智能。

生成式人工智能會帶來深度偽造、詐騙、抄襲、歧視、侵犯隱私和數據安全、“勞動降級”等社會問題。高文表示，判別式人工智能和生成式人工智能如火如荼，但對當前的勞動力市場影響不大，下一輪熱潮很可能是具身智能、人形機器人等，真正對勞動力市場產生大規模影響的，也是這一輪。“如果機器人被大量使用，怎樣使作為勞動力的人仍有工作，是我們必須要面臨的問題。”

高文表示，要從倫理上監管人工智能帶來的社會問題。當前的人工智能倫理面臨兩個派別，一派認為要堅決控制風險，另一派認為現在的人工智能尚未發展到需要立刻踩剎車的階段，現在只需設計好剎車，但不需要踩剎車。

“我們必須要有足夠的技術手段，在數據、算法或使用中設立規范和標準。”他認為，要想規避這些危害，就需要加強技術研究和制度設計，將來必須能對人工智能踩剎車、關電源，在設計人工智能時要留有處理手段?！皠x車的好壞、靈敏度都和技術有關，所以要加強技術研究。裝不裝剎車、什么時候裝剎車，這需要制度配合?！?/p>

他也提到，除了文生文 ，還要考慮文生圖、文生視頻，“大語言模型是一維的數據串，到了圖像就變成了兩維數據，到了視頻就變成三維數據，這些數據怎么在統一架構下訓練和學習？所以有很多技術上的問題需要考慮。”高文表示，要加強技術研究，完善理論基礎驗證，提升模型可解釋性，嚴格控制生成式人工智能的底層價值取向，實現安全價值對齊，“現在還是靠人來做對齊，把人回答的一些解讀一點點輸入來對齊，有沒有更好的對接方法，這也需要技術跟進?！?/p>

在算力能耗方面，“目前人工智能給我們帶來的一個技術和社會問題就是耗能太高。整個社會用電里，大概1%~3%的耗電用在計算方面。人工智能稍微再往前走一兩年，大概有10%的耗電用在算力上，再往前走很可能要30%左右被算力耗掉?！备呶谋硎?，如何有效利用電力做適當的算力是當前面臨的挑戰，國內百“?！贝髴鹨蚕牧舜罅抠Y源，要把開源和閉源模型高效利用起來，加強國產算力和國產生成式大模型構建。

與此同時，要確保數據要素可信流通。在制度設計方面，要開展與生成式人工智能倫理相關的理論研究，完善生成式人工智能的法律法規建設?！拔覀円谥卫眍I域形成共識，加強國際合作?！备呶谋硎?。