界面新聞?dòng)浾?| 佘曉晨

界面新聞編輯 | 文姝琪

在人工智能治理的進(jìn)程中，又一個(gè)具有代表性的辦法正式發(fā)布。

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱“《標(biāo)識(shí)辦法》”），自2025年9月1日起施行。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，《標(biāo)識(shí)辦法》旨在促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，保護(hù)公民、法人和其他組織合法權(quán)益，維護(hù)社會(huì)公共利益。 

《標(biāo)識(shí)辦法》明確，人工智能生成合成內(nèi)容標(biāo)識(shí)主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式，顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)；隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。 

自人工智能技術(shù)加速發(fā)展以來，關(guān)于AI治理的議題就反復(fù)被行業(yè)人士討論。其中，關(guān)于AI生成內(nèi)容的風(fēng)險(xiǎn)尤其被外界和產(chǎn)業(yè)重視，包括虛假信息、信息繭房、數(shù)據(jù)安全和隱私保護(hù)等等——這些問題往往和AI用戶直接息息相關(guān)。

去年9月，國家互聯(lián)網(wǎng)信息辦公室起草了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》，向社會(huì)公開征求意見。如今《標(biāo)識(shí)辦法》正式發(fā)布，對(duì)于內(nèi)容提供方、內(nèi)容平臺(tái)和個(gè)人用戶來說都有不小的影響。

中國科學(xué)院科技戰(zhàn)略咨詢研究院研究員肖尤丹認(rèn)為，《標(biāo)識(shí)辦法》的發(fā)布實(shí)際上并不是AI內(nèi)容治理的終極手段，而是過程中一次“小步快走”的治理實(shí)踐，是更符合當(dāng)下中國人工智能發(fā)展階段的治理方法。

平衡“安全”與“發(fā)展”的關(guān)鍵一招

2022年12月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。這被外界視為人工智能治理的一次重要節(jié)點(diǎn)。

對(duì)于標(biāo)識(shí)制度，肖尤丹認(rèn)為，這是國家對(duì)生成式人工智能內(nèi)容側(cè)治理的新一步，但并不是一個(gè)孤立的辦法，應(yīng)當(dāng)把它放到生成式人工智能內(nèi)容治理的總體框架里，與算法備案管理、生成式人工智能服務(wù)管理、深度合成管理相互協(xié)調(diào)、共同發(fā)揮作用的角度去理解。

在此基礎(chǔ)上分析《標(biāo)識(shí)辦法》的實(shí)施，對(duì)于行業(yè)來說可能更有參考價(jià)值。

從具體的操作來看，《標(biāo)識(shí)辦法》提出，服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照下列要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)：包括在文本的起始、末尾、中間適當(dāng)位置添加文字提示或通用符號(hào)提示等標(biāo)識(shí)，或在交互場(chǎng)景界面或文字周邊添加顯著的提示標(biāo)識(shí)；在音頻的起始、末尾或中間適當(dāng)位置添加語音提示或音頻節(jié)奏提示等標(biāo)識(shí)，或在交互場(chǎng)景界面中添加顯著的提示標(biāo)識(shí)等等。

也就是說，《標(biāo)識(shí)辦法》解決的是關(guān)鍵性的“有或無”的問題，而不是治理的終極手段。

正因?yàn)榇耍?/span>肖尤丹認(rèn)為，《標(biāo)識(shí)辦法》是目前我國人工智能生成內(nèi)容治理和秩序管理發(fā)展過程中的關(guān)鍵一招，也和目前AIGC技術(shù)發(fā)展和社會(huì)化應(yīng)用階段相匹配。

“這是一種敏捷治理、小步快走的邏輯，而不是一招制敵、一勞永逸的邏輯?！毙び鹊ふf。原因在于，當(dāng)下人工智能的技術(shù)安全手段、外部監(jiān)管以及技術(shù)發(fā)展之間存在巨大落差，強(qiáng)制標(biāo)識(shí)制度可能是現(xiàn)階段社會(huì)共識(shí)最高、技術(shù)和治理成本最可行的方案，能在安全治理和產(chǎn)業(yè)發(fā)展之間形成較好的平衡，為當(dāng)前快速增長(zhǎng)的AIGC產(chǎn)業(yè)提供足夠的合規(guī)發(fā)展空間。

從整個(gè)內(nèi)容行業(yè)的角度而言，《標(biāo)識(shí)辦法》的推出也有利于市場(chǎng)的公平競(jìng)爭(zhēng)和有效管理。肖尤丹總結(jié)稱，“標(biāo)識(shí)”至少實(shí)現(xiàn)了了四個(gè)“區(qū)分開”：首先是區(qū)分AIGC和其他內(nèi)容，這有利于保護(hù)傳統(tǒng)內(nèi)容產(chǎn)業(yè)，降低一定程度的技術(shù)直接沖擊；第二是區(qū)分場(chǎng)景合規(guī)，即深度合成場(chǎng)景的合規(guī)要求高于其他生產(chǎn)場(chǎng)景；第三和第四則是區(qū)分AIGC的不同來源和AIGC生成、使用和傳播主體的不同責(zé)任，例如內(nèi)容來自于DeepSeek或是Kimi。

那么，既然《標(biāo)識(shí)辦法》對(duì)服務(wù)提供者提出了諸多要求，具體實(shí)現(xiàn)的難度如何？

相比技術(shù)上的難度，AI公司可能更需要適應(yīng)新規(guī)范下的運(yùn)營流程。肖尤丹分析稱，社會(huì)對(duì)該辦法出臺(tái)的預(yù)期比較穩(wěn)定，辦法也預(yù)留了半年左右的準(zhǔn)備時(shí)間，因此，對(duì)大多數(shù)AIGC服務(wù)提供者來說，履行辦法中的“標(biāo)識(shí)義務(wù)”并沒有太大的技術(shù)難度和合規(guī)成本。尤其是現(xiàn)在國內(nèi)主流的AI服務(wù)提供商，實(shí)際上已經(jīng)在采取類似的標(biāo)識(shí)方式。不過，對(duì)于那些提供接口服務(wù)或間接向公眾提供AI服務(wù)的公司來說，或許會(huì)需要一個(gè)技術(shù)調(diào)整與合規(guī)的過程。

提高違規(guī)和責(zé)任成本

值得一提的的是，就標(biāo)識(shí)義務(wù)來看，《標(biāo)識(shí)辦法》主要約束的是人工智能生成服務(wù)提供者，涉及用戶的只有兩條。因而從個(gè)人用戶的角度來看，《標(biāo)識(shí)辦法》的實(shí)施實(shí)際上不會(huì)產(chǎn)生太多內(nèi)容消費(fèi)體驗(yàn)或使用合規(guī)上的影響。

肖尤丹稱，這是因?yàn)?，現(xiàn)階段標(biāo)識(shí)規(guī)則首先需要解決的是關(guān)鍵主體、關(guān)鍵場(chǎng)景、關(guān)鍵活動(dòng)和關(guān)鍵風(fēng)險(xiǎn)筑牢底線的問題。例如，對(duì)于部分使用人工智能生成內(nèi)容輔助創(chuàng)作的個(gè)人，因?yàn)槠洳皇侨斯ぶ悄苌煞?wù)提供者，按照《標(biāo)識(shí)辦法》，就并不存在進(jìn)行標(biāo)識(shí)的義務(wù)，但是有保留AIGC上已有標(biāo)識(shí)的責(zé)任，不得惡意刪除、篡改、偽造、隱匿標(biāo)識(shí)。同時(shí)，《標(biāo)識(shí)辦法》也專門為用戶提供了向生成服務(wù)者申請(qǐng)?zhí)峁]有添加顯式標(biāo)識(shí)AIGC的合規(guī)機(jī)制。

可以肯定的是，對(duì)于那些批量化搬運(yùn)AI生成內(nèi)容、進(jìn)行病毒式傳播的“營銷號(hào)”們而言，未來將面臨更高的合規(guī)難度。

這也是《標(biāo)識(shí)辦法》對(duì)于內(nèi)容行業(yè)發(fā)展的最大意義之一：通過標(biāo)識(shí)解決一些特定場(chǎng)景的“透明義務(wù)”問題，提高違規(guī)和責(zé)任成本。

肖尤丹舉例稱，在沒有標(biāo)識(shí)的情況下，可能會(huì)存在一種情況——將公司“A”的人工智能生產(chǎn)內(nèi)容套用到“B”的結(jié)果上，對(duì)用戶形成誤導(dǎo)，甚至用不合規(guī)的內(nèi)容進(jìn)行“栽贓”。同樣，《標(biāo)識(shí)辦法》提出，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)，包括應(yīng)當(dāng)核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)、采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)等等。

在這樣的要求下，標(biāo)識(shí)的存在也會(huì)對(duì)大規(guī)模搬運(yùn)人工智能直接生成內(nèi)容的行為進(jìn)行攔截，讓內(nèi)容平臺(tái)有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運(yùn)營成本。

當(dāng)下，我國的人工智能立法已經(jīng)有了不少探索和成果，目前已經(jīng)發(fā)布的包括《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等等。但至今仍未形成專門的法律法規(guī)。

肖尤丹認(rèn)為，《標(biāo)識(shí)辦法》為優(yōu)化AIGC內(nèi)容秩序、防范技術(shù)大規(guī)模應(yīng)用等下提供了基礎(chǔ)性規(guī)范工具，構(gòu)建了以生成源頭強(qiáng)制標(biāo)識(shí)為基礎(chǔ)的內(nèi)容秩序監(jiān)管框架，不僅可以規(guī)范生成服務(wù)提供者的源頭生成行為，也提高了使用和傳播生成內(nèi)容的透明度，這必然會(huì)大幅增加利用AIGC進(jìn)行違法犯罪活動(dòng)的成本，也為進(jìn)一步遏制AIGC灰黑產(chǎn)業(yè)鏈和新型違法預(yù)留了制度接口。

不過，肖尤丹也向界面新聞表示，與當(dāng)前AIGC監(jiān)管中存在的各類風(fēng)險(xiǎn)和合規(guī)空白區(qū)相比，《標(biāo)識(shí)辦法》也并不完美。但從當(dāng)下現(xiàn)實(shí)的視角來看，《標(biāo)識(shí)辦法》的實(shí)施可以在相當(dāng)一段時(shí)期內(nèi)消除AIGC服務(wù)和內(nèi)容生產(chǎn)合規(guī)風(fēng)險(xiǎn)不穩(wěn)定的預(yù)期，便于相關(guān)產(chǎn)業(yè)輕裝上陣，抓住AI帶來的新機(jī)遇，加快擴(kuò)大技術(shù)應(yīng)用規(guī)模和助力產(chǎn)業(yè)發(fā)展空間。

（界面新聞?dòng)浾呃畋雽?duì)本文亦有貢獻(xiàn)）