- +1
我們被困在算法里了嗎?有關部門、互聯網企業共議如何推動算法向善向上

“堅持主流價值導向 推動算法向上向善”主題分享會現場。 澎湃新聞記者 高宇婷 圖
3月30日下午,2025中國網絡媒體論壇“堅持主流價值導向 推動算法向上向善”主題分享會在廣西南寧舉行。主題分享會上發布了“算法向善”南寧宣言,重點互聯網企業代表集體簽署。
中央網信辦副主任、國家網信辦副主任牛一兵在“堅持主流價值導向 推動算法向上向善”主題分享會上致辭時強調,中央網信辦聚焦黨中央關心、人民群眾關切的算法問題,以壓實網站平臺主體責任為抓手,出臺系列政策法規,構建算法備案、安全評估、監測檢查、執法處罰等全流程監管體系,算法應用生態持續向好。加強算法治理,是維護網絡安全和意識形態安全的關鍵環節,是推動平臺經濟健康可持續發展的有力保障,是維護人民群眾利益的具體行動。要內化導向要求,把準算法治理“定盤星”,堅持黨管互聯網原則,把主流價值導向貫穿算法設計、開發、應用全過程。要凈化內容生態,守好算法應用“責任田”,加強網上正能量推送,嚴禁算法助推低俗信息傳播,提高算法設計的透明度和算法運行的可解釋性。要深化創新驅動,樹立算法發展“新標桿”,開發具有創新性、引領性的算法產品和服務,創造更多物質財富和精神財富。要強化多元共治,繪就算法向善“同心圓”,加強部門聯動,督促平臺建立長效機制,動員行業組織、廣大網民積極參與治理,形成共治共享良好局面。
在這場主題分享會上,抖音、微博、快手、阿里巴巴、美團、騰訊、京東等企業的相關負責人還分別發表了主旨演講,分享了如何引導、駕馭算法,推動算法向上向善的相關做法。主旨演講結束后,小紅書、嗶哩嗶哩、知乎、喜馬拉雅、百度等企業的相關負責人就“算法綜合治理的挑戰與創新”進行了一場圓桌對話。此外,來自中央和國家機關有關部門,中央新聞單位,中央和地方新聞網站,各地網信辦,主要商業網站、互聯網企業負責人等300余位嘉賓也參加了這場主題分享會。
澎湃新聞注意到,長達2個小時的主題活動中,上述企業負責人不僅介紹了短視頻平臺如何優化算法推薦,還探討了信息繭房如何破除,騎手如何不會被困在算法中,以及作為普通用戶,該怎樣認識算法、用好算法等話題。
抖音:實現算法向善向上,需回到算法原理中去持續改進
3月30日召開的“推薦主流價值導向 堅持算法向上向善”主題分享會上,抖音總裁韓尚佑在發表了題為《引導算法透明向善 共創多遠美好社區生態》的主旨演講。在他的分享中,可以看到短視頻平臺是如何優化算法推薦的。
韓尚佑提到,在大多數人的想象中,一個推薦系統是通過一系列的內容理解技術,把所有內容打上對應標簽,比如說是新聞、美食、唱歌、跳舞。其次通過一系列的用戶數據挖掘,給用戶打上對應的屬性,比如性別、年齡、可能的興趣愛好等。最后通過大量的歷史數據運算,計算這些標簽的相關性,并把對應標簽的內容推給對應屬性的用戶。
韓尚佑解釋,但隨著機器學習技術的發展,抖音的推薦系統已幾乎不依賴對內容和用戶打標簽了,而是通過一系列神經網絡的算法直接預估每一個用戶對每一個內容的點贊、關注、評論、分享等一系列行為的概率,通過層層篩選,最終在幾億內容中計算出概率最大的一次內容,推薦給用戶。
“這種大規模計算模型的優勢是顯然的,畢竟不能僅僅通過幾十個頻道、幾百個內容標簽就去刻畫所有內容,也沒辦法通過對幾億用戶興趣愛好的總結,來刻畫每一個用戶的生活經驗和興趣愛好的傾向。”韓尚佑說,這種機制對清晰理解和調試算法帶來了非常大的挑戰。因為我們并不真正地知道,在海量的數據計算構建的神經網絡當中,到底是哪些參數決定了人們點贊那個內容。
韓尚佑講道,雖然推薦系統本身并不依賴標簽,但抖音建設了一套完整的內容治理體系,通過對內容的機器識別和人工識別,在不同階段過濾掉不好的內容,解決系統對內容的理解缺失而帶來的安全問題。抖音也會在用戶最終看到這些內容之前對內容進行重組,避免內容過度密集和同質化。
但真正實現算法向善和向上,還需要回歸到算法的原理和生效機制去,持續地改進。韓尚佑提到,后來經過仔細分析和研究發現,一些用戶對于知識內容和自己覺得有用的內容會收藏。因此抖音專門訓練了預估收藏和重復觀看概率的算法大模型,并且將收藏的按鈕放在了抖音首頁最容易點擊的地方。
“經過了一年用戶習慣和算法數據的相互成就,抖音內部有用內容和長內容的分發得到了很大的改善。2024年一條450分鐘深度解讀紅樓夢的超長內容,在抖音獲得了超過3億的播放,其中有700萬收藏,最終有一百萬人在抖音里看完了450分鐘的超長視頻。”韓尚佑說,“這放在之前的抖音是不可想象的。”
韓尚佑提到,很多類似的案例也啟發他們找到正確的、和算法協作的方式。“雖然在一個具體的案例中,可能抖音最好的算法工程師也很難回答具體這個視頻為什么推薦給了你,而另一個你可能更喜歡的視頻卻沒有推薦給你,但我們也通過一系列的實踐認識到算法雖然復雜,但它可以被調教和馴化。”
微博:媒體及時介入回擊謠言,有效破除信息繭房
微博首席執行官王高飛分享了微博在算法治理與平臺內容生態建設方面的實踐與思考。
王高飛提到,中國正式接入國際互聯網已超過30年,當下社交媒體也逐漸成為信息傳播的主要載體。而算法作為平臺內容分發的核心引擎,不僅影響著用戶的信息獲取,更深刻塑造著網絡空間的內容生態和價值觀。算法不僅是技術手段,更體現了平臺的價值觀。
王高飛介紹,微博是最早推進媒體融合的平臺,微博開放的產品屬性,為媒體提供了便捷的內容載體和豐富的傳播手段。媒體也因此在微博落地生根、枝繁葉茂。經過十多年的融合發展,媒體賬號已經成為微博主要的內容生態,是微博正能量宣傳和熱點事件回應的主要力量。微博上注冊的媒體賬號約為1.72萬個,總粉絲超百億,月均閱讀量過千億。人民日報、新華社、央視新聞的粉絲均超過一億,以其為代表的媒體引導和帶動越來越多的年輕人在微博追新聞、看熱點。
而微博通過算法升級,進一步提升了媒體內容的推薦權重。2024年微博創建了媒體共建機制,讓更多的媒體正能量話題登上熱搜榜,并提供更多的流量加持。去年下半年熱搜前十的話題中,媒體主持的熱點話題環比增長90%。2024年熱搜中的時事社會熱點,96%來源于官方媒體。
王高飛還介紹,微博在熱搜等主要流量場景進行算法升級,把平臺的產品標簽向媒體開放。除之前微博上線的“原創”“首發”和“暖新聞”之外,微博還將“辟謠”“主題宣傳”“官方回應”等標簽開放給媒體。媒體在發布時可以對內容進行標注,根據媒體的標注,平臺對相關的原創內容進行推薦。2024年下半年對比上半年,媒體報道辟謠類的熱搜上榜量提升137%。另外,針對熱點事件中的爭議性內容,媒體可以進行說明,引導網民理性討論。
王高飛提到,前一段時間,米湯可以代替奶粉的相關流言在網上引發了討論。澎湃新聞等媒體發布的權威解讀在熱搜榜單高位呈現,及時回應了社會關切。微博也迅速對傳播偽科學的博主進行了社區處置,相關內容也登上了央視。媒體的及時介入和高效回應,有力回擊了謠言,也消除了雜音、噪音,更有效地破除了信息繭房,這也是媒體公信力的絕佳體現。
王高飛提到,年輕網民使用微博的主要訴求是了解媒體的權威報道。從數據上看,時政和社會熱點是熱搜的主要流量之一,網民希望媒體在重大事件中幫助他們抽絲剝繭、還原真相,以及對于熱點事件是否有跟進和回應。
王高飛還建議,媒體要回應大眾關切,媒體生產內容既要準確把握時代脈搏,也要深刻洞察民生關切。尤其對于年輕網民,更要了解他們的審美趣味和價值取向。只有和網民共情,才能凝聚網民共識,最后才能形成同頻共振。算法不是脫韁的野馬,而是技術的良駒。只有駕馭好這條良駒,才能行穩致遠。
美團騎手被困在算法里嗎?
在30日召開的“推薦主流價值導向 堅持算法向上向善”主題分享會上,美團黨委書記、副總裁陳榮凱回答了網友的一個疑問:“是不是美團的算法在讓騎手越跑越快?”對此陳榮凱表示,這是美團不能回避的、要直面的問題。
陳榮凱提到,算法是平臺基礎性的支撐,對美團這樣的平臺來說,如果沒有算法,很難在一天內幫助200萬騎手,為近7000萬用戶提供配送服務。“也就是在高峰期的時候,每分鐘有幾十萬的訂單要通過算法來完成這個匹配,可以說沒有算法就沒有這樣的業態。”
陳榮凱講道,算法不是一個單純的技術問題,算法有價值觀,要體現向上向善的意志。對配送算法來說,不能極致地追求時間的精確性而忽視了以人為本的概念。美團黨委專門組織了黨員走一線的活動,每個月都推動高管、產品人員、研發人員、客服等穿上工服,騎上電動車去小區里面走一走、取餐去送餐。如此,算法就從計算機里冰冷的代碼,變成大家心中非常直觀深入的體驗,激發大家內心深處的價值觀。這個價值觀,是平臺的“定盤星”。
此外,陳榮凱提到,算法不能是平臺單方面主導、說了算。過去幾年,美團累計召開了四百多場騎手懇談會,特別是去年以來,算法是每一場懇談會中的重要內容。“我們要聽騎手的意見,包括我自己也參加了不少,在現場聽一聽騎手的吐槽,聽一聽騎手臉紅脖子粗的責罵。騎手提出送餐路徑規劃太荒謬、太不合理,對每一個工程師都是觸動,知道我們改進的方向在哪里。”
最后,陳榮凱提到,算法不能只追求效率,要更多地考慮綜合平衡。美團在算法算出的送餐模型時間上再加8分鐘余量,展示給用戶預估送達的時間段,不是一個可丁可卯的時間點,以緩解雙方關于配送時間的焦慮感。對于商家出餐慢的問題,美團也逐步取消了騎手超時罰款。而為防止騎手過長時間的勞動,跑單8個小時會出現彈窗提醒,超過12個小時將采取強制下線。
“算法最后也還是一個技術問題,對美團來說算法跟內容平臺有差距,不完全是算法可以百分百支配的,是數字世界和物理世界的疊加。對物理世界的復雜變化怎樣精準定位、合理規劃?還需要不斷地提高技術能力。”陳榮凱說。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯網新聞信息服務許可證:31120170006
增值電信業務經營許可證:滬B2-2017116
? 2014-2025 上海東方報業有限公司