生成式人工智能（AIGC）是人工智能由1.0時代進(jìn)入2.0時代的重要標(biāo)志。隨著人工智能通用大模型的問世，全球?qū)IGC技術(shù)的強大潛力有了更加深刻的認(rèn)識。面對風(fēng)口，機遇與挑戰(zhàn)并存。媒體融合的下一個十年，AIGC又將如何重構(gòu)媒體生態(tài)？

7月22日，在澎湃新聞網(wǎng)主辦的“堅守媒體初心，擁抱AI時代”2023外灘新媒體年會上，多位來自業(yè)界的嘉賓就相關(guān)話題展開了圓桌對話。

參與討論的嘉賓有之江實驗室科藝融合研究中心主任耿衛(wèi)東、傳播大腦科技（浙江）股份有限公司副總經(jīng)理兼CTO張健、寧波日報報業(yè)集團(tuán)編委吳育新、騰訊云天御內(nèi)容風(fēng)控總監(jiān)周耀輝。本場圓桌論壇由澎湃新聞副總編輯黃楊主持。

“AIGC如何重構(gòu)媒體生態(tài)”圓桌論壇現(xiàn)場

技術(shù)賦能傳媒生態(tài)

今年初，浙江省舉全省之力打造的媒體統(tǒng)一技術(shù)支撐平臺傳播大腦橫空出世，引發(fā)了行業(yè)內(nèi)外的極大關(guān)注。作為賦能下一個十年媒體深度融合的重要布局，其提出的目標(biāo)是打造引領(lǐng)媒體變革的技術(shù)集成中心、數(shù)據(jù)交互中臺、融合傳播中樞，讓更多媒體“共享開源技術(shù)，共建開放生態(tài)”，以移動互聯(lián)網(wǎng)新思維新技術(shù)，賦能媒體深度融合發(fā)展。

傳播大腦科技（浙江）股份有限公司副總經(jīng)理兼CTO張健在論壇上介紹，雖然成立時間不長，但目前傳播大腦已經(jīng)有了三項主要成果。

澎湃新聞副總編輯黃楊

首先是新型的智能化媒體技術(shù)平臺，即“天目藍(lán)云”，它為各級媒體提供的豐富應(yīng)用，包括流程、直播等能力。第二個是前不久正式發(fā)布的媒體行業(yè)專業(yè)大模型“傳播大模型”平臺，通過緊跟傳媒發(fā)展的前沿，持續(xù)為媒體行業(yè)進(jìn)行業(yè)務(wù)賦能。第三項成果，是持續(xù)進(jìn)行的一張網(wǎng)的建設(shè)。通過建構(gòu)數(shù)據(jù)、運營、用戶一張網(wǎng)，從數(shù)據(jù)層面把全省的內(nèi)容、運營數(shù)據(jù)做打通，為全省的媒體賦能。

“作為一個省級的技術(shù)支撐平臺，最重要的是要有非常完整的業(yè)務(wù)體系。流程完整的業(yè)務(wù)體系和豐富的技術(shù)經(jīng)驗?zāi)軌蛑巫龊肂端的媒體服務(wù)，為全省的媒體單位賦能。”張健指出，媒體技術(shù)平臺一定要有足夠強的To B的業(yè)務(wù)模式，以此支撐起為媒體做服務(wù)的價值。同時也要有足夠強的C端洞悉能力，理解用戶到底需要什么。最后還要明確，用戶、媒體、監(jiān)管是一個完整的閉環(huán)，不僅要了解用戶需要什么，還要感知監(jiān)管的需求，進(jìn)而讓整個業(yè)務(wù)體系變成閉環(huán)。

傳播大腦科技（浙江）股份有限公司副總經(jīng)理兼CTO張健

寧波日報報業(yè)集團(tuán)編委吳育新表示，對客戶端來說，光做新聞是遠(yuǎn)遠(yuǎn)不夠的，還要努力搭建平臺，構(gòu)建自己的生態(tài)。他以甬派客戶端去年底上線的網(wǎng)絡(luò)小說頻道為例，表示要提高用戶的粘性需要有多樣化的思考和表達(dá)。

“網(wǎng)絡(luò)小說要生成圖片很不容易，沒有設(shè)計師做圖時編輯很是為難，直接使用網(wǎng)絡(luò)圖片又會牽扯版權(quán)問題。現(xiàn)在我們的編輯通過ChatGPT做成大圖，通過這一形式吸引用戶，增強用戶粘性。”吳育新希望，未來媒體能夠結(jié)合AIGC的特點，探索自身生態(tài)建設(shè)。

寧波日報報業(yè)集團(tuán)編委吳育新

AIGC的內(nèi)容安全之困

“科技向善”是眾多科技工作者的信仰，但面對AIGC可能帶來的內(nèi)容風(fēng)險，虛實混融中該如何守住真實底線？ 在圓桌論壇現(xiàn)場，澎湃新聞副總編輯黃楊也提出了這個問題。

騰訊云天御內(nèi)容風(fēng)控總監(jiān)周耀輝表示，從UGC（用戶生產(chǎn)內(nèi)容）、PGC（專業(yè)生產(chǎn)內(nèi)容）到AIGC，內(nèi)容安全建設(shè)有了一些新變化。首先是對內(nèi)容型平臺來說，會出現(xiàn)新的不合規(guī)內(nèi)容類型，比如說前段出現(xiàn)的AI深度合成偽造的人臉詐騙，還有AI創(chuàng)作工具在電商平臺的“盜圖抄店”，這些都是應(yīng)當(dāng)引起警惕的。

此外，對于非內(nèi)容型的平臺，AIGC會有內(nèi)容挖掘的需求，需要在前期對AI模型開展規(guī)范化訓(xùn)練。比如說在智能客服的場景，如果AIGC參與問答，會有不可預(yù)測的風(fēng)險，用戶很容易被AIGC惡意誘導(dǎo)回答一些內(nèi)容，從而泄露個人隱私。

“最后一點，不僅是要杜絕低俗類或者暴力血腥類內(nèi)容的傳播，我們也希望減少低質(zhì)量的內(nèi)容擴散。在UGC平臺上，當(dāng)用戶掌握了AIGC的工具以后，可能會生產(chǎn)出不少質(zhì)量不高的文章，這種內(nèi)容對平臺生態(tài)幫助不大，我們也嘗試在一些場景中把AIGC生成的內(nèi)容降權(quán)。”周耀輝說。

國家7部門近日聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》為AIGC的規(guī)范發(fā)展劃定了“紅線”和“底線”，對各方都將帶來新的挑戰(zhàn)。周耀輝表示，內(nèi)容風(fēng)控是攻防對抗不斷演進(jìn)的過程，面對AIGC生成的海量內(nèi)容帶來的內(nèi)容安全風(fēng)險，可以“用魔法打敗魔法”。

“騰訊在微信、騰訊視頻、騰訊新聞都有過用AIGC去輔助內(nèi)容審核的經(jīng)驗。簡單來說，內(nèi)容的智能審核需要對圖片進(jìn)行分類，對模型進(jìn)行訓(xùn)練和預(yù)訓(xùn)練，從而加快模型訓(xùn)練的速度，降低訓(xùn)練的成本。”周耀輝表示。

周耀輝強調(diào)，人工智能不是萬能的，可以通過人機協(xié)同提升準(zhǔn)確率。他建議媒體可以通過資深編輯的審校把關(guān)，與機器審核進(jìn)行聯(lián)動，降低內(nèi)容審核成本。

騰訊云天御內(nèi)容風(fēng)控總監(jiān)周耀輝

所有的技術(shù)都有優(yōu)勢，同樣所有的技術(shù)都存在局限性。在人工智能領(lǐng)域，AI出現(xiàn)錯誤或者偏差，導(dǎo)致生成不準(zhǔn)確、錯誤甚至荒誕結(jié)果的現(xiàn)象被稱為AI“幻覺”。它可能發(fā)生在多個層面上，如文本的胡編亂造、事實的錯誤捏造、無用代碼的生成，甚至編造出相關(guān)參考文獻(xiàn)。

“大模型解決了常識性的問題，讓人們覺得它無所不能。但是真正應(yīng)用它的時候，光有常識是不夠的，一定要結(jié)合專業(yè)領(lǐng)域的知識，相互結(jié)合才能更好地為我們的生態(tài)服務(wù)。”之江實驗室科藝融合研究中心主任耿衛(wèi)東表示，可以把大模型看成上知天文、下知地理的諸葛亮，但有了諸葛亮打算做什么？最好的角色是做劉備，必須有理想有目標(biāo)，在這個前提下請軍師幫忙，最后達(dá)到想要的結(jié)果。

之江實驗室科藝融合研究中心主任耿衛(wèi)東

人工智能時代，主流媒體更需要堅持真實權(quán)威的底線。吳育新表示，針對不時出現(xiàn)的用ChatGPT編造假新聞的情況。要在技術(shù)前置進(jìn)行優(yōu)化，不斷完善ChatGPT的算法，防止虛假內(nèi)容的輸出。另一方面，媒體的專業(yè)素養(yǎng)不能丟，媒體從業(yè)者對于技術(shù)不要過度依賴。

“從目前來看，AIGC對大多數(shù)媒體來說只是到門口。但風(fēng)吹到我們腳底下的話還要一段時間，我們要有心理準(zhǔn)備，現(xiàn)在還沒有到豬都能吹起來的地步。”吳育新說。

打造傳媒業(yè)的數(shù)據(jù)大模型

AIGC 技術(shù)的突破性進(jìn)展引發(fā)內(nèi)容生產(chǎn)方式變革，也對主流媒體以先進(jìn)技術(shù)賦能的思路、框架、方法、路徑提出了新要求。

“在媒體里，我們的每一篇稿子是專業(yè)的記者編輯花了很多精力高質(zhì)量生產(chǎn)出來的，這些都是大模型訓(xùn)練所必須的數(shù)據(jù)。”張健認(rèn)為，從大模型的演進(jìn)來說，當(dāng)下最主要的問題是每家媒體擁有的數(shù)據(jù)量太少了，各家數(shù)據(jù)的格式又存在較大差異，如果都從網(wǎng)上抓取要進(jìn)行清洗和格式優(yōu)化，太浪費資源和時間。如果可以通過建設(shè)傳媒業(yè)數(shù)據(jù)大模型的機會，把各家媒體的數(shù)據(jù)整合到一起，研發(fā)屬于傳媒行業(yè)的數(shù)據(jù)大模型，將是很有意義的一件事。

“從產(chǎn)品的演進(jìn)來說，通用化的大模型產(chǎn)品發(fā)展到接下來的私有化大模型產(chǎn)品，大模型的能力和本地資源形成合力，可以助力傳媒業(yè)盡快過渡到真正的智媒時代。”張健表示。

“迎接媒體融合轉(zhuǎn)型的下一個十年，需要合作伙伴們的抱團(tuán)取暖，通過人工智能驅(qū)動媒體的融合轉(zhuǎn)型，用魔法打敗魔法，用大用戶大生態(tài)構(gòu)建未來全媒體傳播的信息基礎(chǔ)。”澎湃新聞副總編輯黃楊在總結(jié)中表示。