2024年11月以來(lái)，落實(shí)中央網(wǎng)信辦等四部門(mén)聯(lián)合部署要求，上海市委網(wǎng)信辦會(huì)同市通管局、市公安局、市市場(chǎng)監(jiān)管局推進(jìn)開(kāi)展“清朗浦江·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專(zhuān)項(xiàng)行動(dòng)。為鞏固專(zhuān)項(xiàng)治理成果，加強(qiáng)業(yè)務(wù)合規(guī)指導(dǎo)，近期上海市委網(wǎng)信辦會(huì)同上?；ヂ?lián)網(wǎng)應(yīng)急中心編寫(xiě)了《上海屬地網(wǎng)絡(luò)平臺(tái)算法治理合規(guī)指引（試行）》（下稱(chēng)《指引》），并于2025年4月1日起正式實(shí)施。

《指引》共七章，分為十七條細(xì)則，在興趣管理、推薦內(nèi)容、加強(qiáng)特殊群體權(quán)益保護(hù)等方面均作出引導(dǎo)提示。

《指引》圍繞個(gè)性化推薦、熱搜榜單、調(diào)度決策等算法場(chǎng)景，對(duì)“信息繭房”、違規(guī)操縱熱搜榜單、騎手“困在”算法里、大數(shù)據(jù)“殺熟”等社會(huì)關(guān)注度高的算法典型問(wèn)題，對(duì)屬地網(wǎng)絡(luò)平臺(tái)提出16條合規(guī)要求，強(qiáng)調(diào)要堅(jiān)持算法導(dǎo)向正確、公平公正、公開(kāi)透明、自主可控、責(zé)任落實(shí)原則，促進(jìn)算法應(yīng)用向上向善，保障用戶(hù)合法權(quán)益。

興趣管理自主化、推薦內(nèi)容清朗化

在個(gè)性化推薦場(chǎng)景方面，《指引》著重強(qiáng)調(diào)，要保障用戶(hù)的自主選擇權(quán)和體驗(yàn)。《指引》提出，用戶(hù)應(yīng)能便捷關(guān)閉個(gè)性化推薦，關(guān)閉后平臺(tái)不得靜默開(kāi)啟或頻繁打擾。同時(shí)，平臺(tái)需提供完善的興趣標(biāo)簽管理，注冊(cè)時(shí)不得強(qiáng)制用戶(hù)選擇標(biāo)簽，并且要不斷完善“不感興趣”等負(fù)反饋功能，細(xì)化多維度反饋選項(xiàng)。

澎湃新聞了解到，近日，在網(wǎng)信部門(mén)指導(dǎo)下，小紅書(shū)、嗶哩嗶哩上新“一鍵破繭”功能，通過(guò)圖表向用戶(hù)直觀(guān)展示目前瀏覽內(nèi)容的“信息繭房”程度，同時(shí)支持用戶(hù)自主調(diào)節(jié)個(gè)性化推薦的內(nèi)容偏好。

《指引》明確要求平臺(tái)推薦內(nèi)容清朗化。要積極利用算法技術(shù)，推動(dòng)平臺(tái)內(nèi)容生態(tài)治理。不一味以用戶(hù)偏好為導(dǎo)向，要在算法推薦中引入“賬號(hào)信用分”“作品質(zhì)量分”等類(lèi)似正向指標(biāo)，提高內(nèi)容合規(guī)指標(biāo)比重。從算法分發(fā)源頭，加大優(yōu)質(zhì)內(nèi)容、作者的流量?jī)A斜，完善違規(guī)信息特征庫(kù)，抑制不良信息出現(xiàn)頻率。

同時(shí)，《指引》提出，使用消費(fèi)者信息時(shí)要做減法。不得以個(gè)性化推薦為名過(guò)度收集超出算法本身功能必要范圍的用戶(hù)個(gè)人信息，如設(shè)備價(jià)格、收入水平等；商品或服務(wù)定價(jià)不得使用不合理的與用戶(hù)特征相關(guān)因素，包括年齡、性別、瀏覽記錄、消費(fèi)水平、設(shè)備類(lèi)型等。優(yōu)惠促銷(xiāo)活動(dòng)要明確說(shuō)明優(yōu)惠規(guī)則，如適用范圍、參與條件、用戶(hù)身份限制等，不得包含歧視性條件，如購(gòu)買(mǎi)能力等。

算法應(yīng)用向上向善，加強(qiáng)特殊群體權(quán)益保護(hù)

《指引》要求，網(wǎng)絡(luò)平臺(tái)提供算法相關(guān)服務(wù)，要堅(jiān)持算法導(dǎo)向正確、公平公正、公開(kāi)透明、自主可控、責(zé)任落實(shí)原則，促進(jìn)算法應(yīng)用向上向善，保障用戶(hù)合法權(quán)益。

澎湃新聞注意到，在特殊群體權(quán)益保護(hù)方面，《指引》要求健全涉未成年人內(nèi)容審核機(jī)制，完善未成年人模式，不得向未成年人用戶(hù)推送侵害其身心健康的網(wǎng)絡(luò)信息，不得設(shè)置誘導(dǎo)未成年人用戶(hù)沉迷、過(guò)度消費(fèi)等的算法模型。持續(xù)優(yōu)化面向老年人的算法推薦服務(wù)，減少向老年人推送保健產(chǎn)品、老年人用品和金融產(chǎn)品等營(yíng)銷(xiāo)信息，不推送不實(shí)新聞、反科學(xué)、封建迷信等容易引發(fā)恐慌情緒的內(nèi)容。

同時(shí)，《指引》還載明，要對(duì)生成合成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，提升生成合成信息檢測(cè)識(shí)別能力，及時(shí)發(fā)現(xiàn)處理違法違規(guī)生成合成信息。要在生成合成類(lèi)內(nèi)容的用戶(hù)發(fā)布流程中，通過(guò)必選項(xiàng)等方式顯著要求用戶(hù)選擇標(biāo)識(shí)。要建立完善兼顧用戶(hù)體驗(yàn)和安全可靠的模型評(píng)價(jià)體系，不能過(guò)度依賴(lài)用戶(hù)互動(dòng)反饋和停留時(shí)長(zhǎng)等業(yè)務(wù)標(biāo)準(zhǔn)。模型訓(xùn)練數(shù)據(jù)覆蓋類(lèi)別要全面、價(jià)值觀(guān)要對(duì)齊。

此外，要健全算法透明公示機(jī)制，主要算法“應(yīng)備盡備”。備案算法要在其對(duì)外提供服務(wù)的網(wǎng)站、應(yīng)用程序的顯著位置標(biāo)明其備案編號(hào)及公示鏈接，要求在首頁(yè)操作4步內(nèi)可達(dá)。要建立算法溝通機(jī)制，線(xiàn)上要設(shè)置便捷的公眾投訴舉報(bào)入口，包括服務(wù)熱線(xiàn)、舉報(bào)郵箱等。

針對(duì)同質(zhì)化推送營(yíng)造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、利用算法實(shí)施大數(shù)據(jù)“殺熟”等典型問(wèn)題，2024年11月，中央網(wǎng)信辦、工信部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局啟動(dòng)“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專(zhuān)項(xiàng)行動(dòng)。

2024年底，為指導(dǎo)平臺(tái)進(jìn)一步定位問(wèn)題、落實(shí)整改措施，上海市委網(wǎng)信辦聯(lián)合相關(guān)部門(mén)召開(kāi)算法治理合規(guī)指導(dǎo)會(huì)。針對(duì)相關(guān)問(wèn)題，上海市委網(wǎng)信辦要求網(wǎng)站平臺(tái)落實(shí)算法治理主體責(zé)任，結(jié)合專(zhuān)項(xiàng)行動(dòng)重點(diǎn)任務(wù)舉一反三自查整改，進(jìn)一步引導(dǎo)算法應(yīng)用公平公正、透明可釋?zhuān)浞直Ｕ暇W(wǎng)民合法權(quán)益。此后，屬地網(wǎng)站平臺(tái)積極行動(dòng)，加強(qiáng)算法功能迭代升級(jí)，推出多項(xiàng)創(chuàng)新舉措，進(jìn)一步保障網(wǎng)民合法權(quán)益。

2025年初，在上海市委網(wǎng)信辦指導(dǎo)下，小紅書(shū)、得物、喜馬拉雅、嗶哩嗶哩、拼多多等多家網(wǎng)站平臺(tái)陸續(xù)發(fā)布“清朗浦江·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專(zhuān)項(xiàng)行動(dòng)治理公告，并公布網(wǎng)民投訴舉報(bào)反饋渠道，表態(tài)主動(dòng)接受社會(huì)監(jiān)督，將根據(jù)網(wǎng)民反映的問(wèn)題調(diào)整優(yōu)化算法應(yīng)用，促進(jìn)算法應(yīng)用向上向善。

蘭州大學(xué)信息科學(xué)與工程學(xué)院副教授劉忻在接受媒體采訪(fǎng)時(shí)表示，算法作為一種工具，其使用方向決定善惡，作為一系列代碼的集合，它在某些領(lǐng)域?qū)儆诤诵馁Y產(chǎn)，查看算法模型對(duì)執(zhí)法者來(lái)說(shuō)需要一定門(mén)檻，這是目前規(guī)范算法的薄弱環(huán)節(jié)之一。從技術(shù)角度看，需盡快完善大數(shù)據(jù)算法模型制定依據(jù)和檢測(cè)辦法；從管理角度看，需加強(qiáng)監(jiān)管機(jī)制，明晰市場(chǎng)準(zhǔn)入制度，讓大數(shù)據(jù)走出技術(shù)“暗房”。

此次上海發(fā)布網(wǎng)絡(luò)平臺(tái)算法治理合規(guī)指引，有望進(jìn)一步凈化網(wǎng)絡(luò)空間，提升用戶(hù)體驗(yàn)，促進(jìn)互聯(lián)網(wǎng)行業(yè)的健康發(fā)展。