界面新聞?dòng)浾?| 肖芳

界面新聞編輯 | 文姝琪

在平臺(tái)內(nèi)容生態(tài)治理上，字節(jié)跳動(dòng)變得越來(lái)越開放。

去年11月，農(nóng)夫山泉?jiǎng)?chuàng)始人鐘睒睒指責(zé)抖音和今日頭條隨意使用平臺(tái)手中的權(quán)力，進(jìn)行謠言傳播，并要求兩個(gè)平臺(tái)立即撤除對(duì)其的個(gè)人名譽(yù)權(quán)的侵害的言論、圖片。

雖然字節(jié)跳動(dòng)一直未對(duì)鐘睒睒的指責(zé)進(jìn)行正面回應(yīng)，但一系列改變卻在此事件之后相繼發(fā)生。從去年12月開始，抖音集團(tuán)副總裁李亮開始在微博活躍，每天回應(yīng)和解釋各種和平臺(tái)治理相關(guān)的信息。

近日，今日頭條首次舉辦“平臺(tái)治理開放日”，公開了目前對(duì)虛假謠言的治理舉措。今日頭條生態(tài)治理運(yùn)營(yíng)的負(fù)責(zé)人韓雨桐透露，謠言治理已經(jīng)是今日頭條平臺(tái)治理最重要的工作之一，平臺(tái)也投入了非常多的資源和精力。

據(jù)其介紹，目前今日頭條在謠言治理上著重建設(shè)了三個(gè)方面的能力，包括謠言庫(kù)、權(quán)威信源庫(kù)以及專業(yè)審核團(tuán)隊(duì)。

其中，謠言庫(kù)把今日頭條站內(nèi)外的已知虛假信息及突發(fā)熱點(diǎn)事件的相關(guān)謠言錄入庫(kù)中，并在后續(xù)的新增發(fā)文環(huán)節(jié)進(jìn)行攔截；權(quán)威信源庫(kù)是把權(quán)威媒體發(fā)布的內(nèi)容作為核心信源，輔助判斷一些沒(méi)有信源采集能力賬號(hào)的新發(fā)布的內(nèi)容是否真實(shí)可信；審核團(tuán)隊(duì)招募了大量具有時(shí)政、社會(huì)、醫(yī)療、財(cái)經(jīng)背景的專業(yè)人員，對(duì)相關(guān)信息進(jìn)行人工判斷。

今日頭條公布的數(shù)據(jù)顯示，2024年攔截不實(shí)信息超500萬(wàn)條。但從用戶反饋來(lái)看，很多人和鐘睒睒有相似的感受，他們并沒(méi)有感知到平臺(tái)在打擊謠言上的努力，反而感受到了大量謠言、低質(zhì)量信息帶來(lái)的困擾。

這在一定程度上反映了當(dāng)下內(nèi)容平臺(tái)在生態(tài)治理上的困境。

生成式AI讓網(wǎng)絡(luò)謠言治理變得更難

2022年11月，OpenAI剛剛開始發(fā)布ChatGPT時(shí)，業(yè)界和學(xué)界對(duì)生成式AI給內(nèi)容行業(yè)帶來(lái)的生產(chǎn)效率提升充滿了期待。但現(xiàn)實(shí)并沒(méi)有朝著很多人預(yù)期的美好方向發(fā)展，反而出現(xiàn)了更大的麻煩。

生成式AI讓創(chuàng)作成本變得更低，卻也生產(chǎn)了大量不實(shí)信息。一方面，網(wǎng)絡(luò)上本身就存在很多謠言，但生成式AI在搜索引用信息的過(guò)程中，并不能準(zhǔn)確分辨謠言，導(dǎo)致了虛假信息被反復(fù)使用；另一方面，大模型的幻覺(jué)問(wèn)題導(dǎo)致其在創(chuàng)作過(guò)程中憑空生成了很多不實(shí)信息，夾雜在真實(shí)的信息中讓人更加無(wú)法分辨。界面新聞對(duì)多款大模型進(jìn)行測(cè)試發(fā)現(xiàn)，即使是DeepSeek，也會(huì)生成很多無(wú)中生有的信息，如果不經(jīng)核實(shí)發(fā)布，很容易導(dǎo)致謠言的傳播。

清華大學(xué)新聞與傳播學(xué)院教授陸洪磊也注意到了相關(guān)問(wèn)題。在今日頭條“平臺(tái)治理開放日”活動(dòng)上，他展示了多條AI生成的新聞，在坐的觀眾很難分辨真假，但其實(shí)都是假新聞。

在陸洪磊看來(lái)，在AI技術(shù)的加持下，網(wǎng)絡(luò)謠言已經(jīng)出現(xiàn)了一些新特征。在空間上，AI謠言可以做到分平臺(tái)、分渠道、分時(shí)段，而且是分媒介的定制化的生成和發(fā)布，跨平臺(tái)影響力更大；在速度上，AI謠言由于其低廉的成本，可以做到短時(shí)間內(nèi)的成倍率的傳播，辟謠難度大大增加；在結(jié)構(gòu)上，AI謠言本身就自帶自我學(xué)習(xí)和自我強(qiáng)化的特性會(huì)加劇AI幻覺(jué)，令謠言本身更加顯得無(wú)懈可擊。

這些新的特征帶來(lái)的結(jié)果就是，謠言模糊程度越來(lái)越低，越來(lái)越清晰，顯得非常逼真。比如，今年1月西藏日喀則市定日縣發(fā)生地震之后，一張“被壓在廢墟下的小男孩”圖片在網(wǎng)絡(luò)上引發(fā)了病毒式傳播，讓很多網(wǎng)友揪心落淚。實(shí)際上，這張圖片是由AI生成，其不僅混淆公眾視線，更無(wú)情地消費(fèi)了公眾的情感。

韓雨桐在接受媒體采訪時(shí)明確表示，虛假謠言、低質(zhì)AI內(nèi)容等，破壞了平臺(tái)生態(tài)，也不利于創(chuàng)作公平。

面對(duì)快速發(fā)展的生成式AI，她表示，平臺(tái)在鼓勵(lì)用戶使用AI提效的基礎(chǔ)上，保護(hù)原創(chuàng)空間，迅速升級(jí)、迭代AI模型的識(shí)別能力，收嚴(yán)AI內(nèi)容的審核力度。

在北京師范大學(xué)法學(xué)院院長(zhǎng)梁迎修看來(lái)，AI虛假謠言加快了謠言的傳播速度，也增加了平臺(tái)的治理難度。平臺(tái)可以利用AI技術(shù)作為新工具，在謠言內(nèi)容識(shí)別、路徑追蹤和自動(dòng)化辟謠等方面“用魔法打敗魔法”。

提高公眾的網(wǎng)絡(luò)信息素養(yǎng)變得越來(lái)越重要

在鐘睒睒公開喊話之后，信息流算法再次引發(fā)爭(zhēng)議。爭(zhēng)議背后，是當(dāng)下信息傳播高度依賴算法，算法推薦哪些內(nèi)容確實(shí)直接影響著公眾認(rèn)知。因此，很多人認(rèn)為是算法帶來(lái)的謠言、網(wǎng)暴等低質(zhì)內(nèi)容泛濫的問(wèn)題。

實(shí)際上，一味指責(zé)算法帶來(lái)的問(wèn)題而忽視其積極影響也有失偏頗。雖然算法帶來(lái)了種種問(wèn)題，算法提升了信息分發(fā)效率，素人擁有了更多被別人看到的可能，信息流動(dòng)性高也同時(shí)對(duì)生產(chǎn)產(chǎn)生了促進(jìn)作用。

在這種情況下，學(xué)界和平臺(tái)都認(rèn)為，在積極治理謠言等低質(zhì)信息的同時(shí)，提高公眾的網(wǎng)絡(luò)信息素養(yǎng)變得越來(lái)越重要。在很長(zhǎng)一段時(shí)間中，網(wǎng)絡(luò)謠言并不能完全消除，但提高公眾的網(wǎng)絡(luò)信息素有助于普通個(gè)體分辨謠言，降低謠言的傳播力度和其帶來(lái)的損失。

在梁迎修看來(lái)，面對(duì)各種各樣的謠言變體，提高公眾的辨別力是一個(gè)非常有效的渠道，平臺(tái)可以通過(guò)自身影響力為公眾提供一些教育培訓(xùn)。

目前，微信公眾平臺(tái)、今日頭條等平臺(tái)均對(duì)此有了一些探索。其中，微信公眾平臺(tái)建立了“謠言過(guò)濾器” 官方辟謠賬號(hào)，與人民網(wǎng)、果殼網(wǎng)、丁香園等各方合作，在內(nèi)容運(yùn)營(yíng)、辟謠內(nèi)容鑒定等方面聯(lián)手過(guò)濾微信平臺(tái)上的謠言，重點(diǎn)關(guān)注社會(huì)熱點(diǎn)類、科普類以及醫(yī)療健康類內(nèi)容。

2023年以來(lái)，今日頭條推出了視頻內(nèi)容《頭條講真的》，聯(lián)合醫(yī)學(xué)、財(cái)經(jīng)、法律等領(lǐng)域?qū)I(yè)創(chuàng)作者，為用戶進(jìn)行辟謠、反詐宣傳。在內(nèi)容傳播形式上，《頭條講真的》改變了過(guò)往辟謠、科普類內(nèi)容嚴(yán)肅理性的風(fēng)格，而是動(dòng)畫演繹等更生動(dòng)的形式觸達(dá)用戶，并與熊出沒(méi)、南京紅山動(dòng)物園、我是小魔等知名IP、機(jī)構(gòu)和優(yōu)質(zhì)創(chuàng)作者多元合作，為平臺(tái)治理工作拓展了新的思路。

除了這些措施之外，北京大學(xué)教授、北京大學(xué)中國(guó)社會(huì)與發(fā)展研究中心主任邱澤奇此前在接受界面新聞采訪時(shí)還表示，平臺(tái)可以針對(duì)有真假爭(zhēng)議的信息進(jìn)行標(biāo)記，對(duì)用戶盡到提醒義務(wù)?！拔覀?cè)谥卫硖摷傩畔⑦^(guò)程中很重要的一點(diǎn)就是要讓平臺(tái)承擔(dān)提醒義務(wù)。”

據(jù)界面新聞了解，此前微博、微信公眾號(hào)等平臺(tái)試點(diǎn)過(guò)針對(duì)有事實(shí)爭(zhēng)議的內(nèi)容對(duì)用戶進(jìn)行提醒。今日頭條和抖音也在推進(jìn)標(biāo)注提醒的功能上線。

在處理謠言等低質(zhì)信息的問(wèn)題上，很多情況都是新出現(xiàn)的，平臺(tái)也沒(méi)有太多經(jīng)驗(yàn)可參考，只能不斷試錯(cuò)。梁迎修表示，網(wǎng)絡(luò)謠言治理需要多方綜合施策，平臺(tái)也要與政府機(jī)構(gòu)、媒體、公眾等加強(qiáng)協(xié)同。