文|IT時報記者  范昕茹

編輯|錢立富  孫妍

任何一項科技都有兩面性，在生成式AI快速發(fā)展的同時，對于其安全性的擔憂如影隨形，倒逼相關國家和地區(qū)加快立法進程，為生成式AI健康發(fā)展筑起“護欄”。

今年6月，歐洲議會高票通過《人工智能法案》草案，意味著歐洲議會、歐盟成員國和歐盟委員會將開始“三方談判”，以確定法案的最終條款。美國也在積極探討AI監(jiān)管相關事宜。

視線回到國內。今年4月，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》。今年7月，完成修訂后的《生成式人工智能服務管理暫行辦法》（簡稱《辦法》）正式出臺，將于2023年8月15日起施行，這被認為是全球首部生成式AI立法?！掇k法》從技術發(fā)展與治理、服務規(guī)范、監(jiān)督檢查和法律責任等方面對生成式人工智能做出具體規(guī)定，為我國生成式AI今后發(fā)展定下基調。

業(yè)內人士認為，《辦法》出臺后，合規(guī)已經(jīng)成為大模型廠商的必選項。《辦法》會給大模型廠商帶來哪些變化？《IT時報》記者詢問了騰訊、阿里云、百度等近十家大模型廠商，但他們都沒有給出正面回應。

01、生成式AI有法可依

7月13日，完成修訂后的《生成式人工智能服務管理暫行辦法》正式出臺，將于2023年8月15日起施行。

對比3個月前發(fā)布的《生成式人工智能服務管理辦法(征求意見稿)》就可以發(fā)現(xiàn)，《辦法》做了較大改動。

比如，《辦法》新提出“堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合”的原則，主張包容審慎和分類分級監(jiān)管，將鼓勵條款從征求意見稿的一條擴展到三條。

再比如，《辦法》不再強調利用生成式人工智能生成的內容應當真實準確，僅指出要提高生成內容的準確性和可靠性，尊重了大模型技術的新特點。

同時，《辦法》將必須要求用戶提供真實身份信息的要求變更為“生成式人工智能服務提供者應當與注冊其服務的服務使用者簽訂服務協(xié)議，明確雙方權利義務”，擴大了服務空間等。

在不少行業(yè)人士看來，對互聯(lián)網(wǎng)行業(yè)來說，《辦法》相比4月份公布的征求意見稿有了很大的進步?！斑@在一般的法規(guī)制定上，是不太常見的?！眳R業(yè)律師事務所律師史宇航認為，《辦法》的改動，吸納了相關從業(yè)者的意見，表明國家在推動生成式AI發(fā)展方面的積極態(tài)度。

不過，《辦法》并沒有完全解釋行業(yè)關心的問題。史宇航指出，針對數(shù)據(jù)來源合法性如何認定，對不得侵害他人依法享有的知識產(chǎn)權如何理解等問題，《辦法》并沒有給出詳細解釋，只能在后續(xù)司法、執(zhí)法實踐中去摸索，通過相關判例去明確方向。但在史宇航看來，《辦法》的出臺，至少讓國內生成式AI廠商“有法可依”。

02、合規(guī)成為“必選項”

《辦法》的出臺，對于大模型廠商而言，將帶來哪些實際影響？

在史宇航看來，《辦法》的出臺，意味著技術將不再是決定大模型廠商發(fā)展的唯一因素，合規(guī)也將影響到企業(yè)的發(fā)展速度。而合規(guī)能力將直接決定生成式AI的產(chǎn)品、服務能走多遠。

在最新出臺的《辦法》中，第十七條明確指出，提供具有輿論屬性或者社會動員能力的生成式人工智能服務，應當按照國家有關規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。也就是說，面向公眾的生成式AI想要投入使用，在絕大多數(shù)情況下都需要先過備案和安全評估關。

“這就要求企業(yè)提前考慮合規(guī)的問題?！笔酚詈浇忉屨f，因為生成式AI的合規(guī)鏈條非常長，項目的立項、研發(fā)、測試、發(fā)布、更新、下架每一個環(huán)節(jié)都涉及大量的合規(guī)控制點以及多個備案、申請的關卡，涉及不同領域的法律法規(guī)。而在備案階段，企業(yè)就需要針對生成式AI涉及的各個流程提交合規(guī)證明。一家大模型初創(chuàng)團隊人士就告訴記者，他們最近正是在研究《辦法》，并融入進自家產(chǎn)品的設計中。

具體到企業(yè)內部，合規(guī)帶來的改變將不僅僅停留在理論層面，而是涉及企業(yè)的方方面面。在史宇航看來，合規(guī)性的部署必然會觸動到企業(yè)底層機制和內容的變化。從企業(yè)內部的體系變革、崗位的設置到組織架構的搭建，從產(chǎn)品設計、測試到研發(fā)布局，各環(huán)節(jié)都需要根據(jù)合規(guī)要求進行調整?！肮镜牧鞒碳軜嫳仨氉龅浇∪?，至少不能只單純考慮技術研發(fā)投入的問題?！笔酚詈秸f道。

但對一些企業(yè)而言，合規(guī)事宜可能會帶來新的問題。由于合規(guī)本身需要成本投入，對于一些資金并不充裕的公司而言，需要在研發(fā)和合規(guī)之間進行權衡。史宇航說：“這可能會拖累企業(yè)研發(fā)的進度?！?/p>

03、落地執(zhí)行面臨挑戰(zhàn)

對大部分大模型廠商而言，合規(guī)是他們最關心的一個問題，但目前來看，想要將新規(guī)落地仍然困難重重。

林暉（化名）最近就接到了幾家公司的合規(guī)方案訂單。

“我們也是被幾個客戶逼著做的?！毙乱?guī)發(fā)布后，應客戶要求，林暉和團隊開始拆解新規(guī)，根據(jù)客戶產(chǎn)品打造定制化的合規(guī)方案。

“指導意見并不代表標準答案。”林暉告訴記者，目前廠商在合規(guī)問題上遇到的最大困難就是缺乏具體的應用場景細則?！掇k法》雖然搭好了框架，但仍屬于指導性的意見，無法涵蓋所有應用場景，具體的邊界、尺度的把握仍需要企業(yè)根據(jù)自身的應用場景去摸索?！斑@是一件微妙的事，比如你根據(jù)《辦法》制定了10條合規(guī)要求，那超出的部分如果出了問題，算不算違規(guī)？”林暉表示。

由于生成式AI合規(guī)不僅涉及法律法規(guī)，還涉及技術層面的操作，這也給合規(guī)方案的落地帶來了難度。在林暉看來，想要根據(jù)現(xiàn)有的法律法規(guī)推演出合適的方案，方案制定人需要在懂法、懂安全、懂技術架構的同時，對公安、網(wǎng)安、網(wǎng)信、金融等所有監(jiān)管條例都特別清楚。只有如此，才能基于相關機構的監(jiān)管習慣，去制定方案?！凹幢闳绱?，也不能保證制定的合規(guī)方案是正確的?！绷謺熣f。

而在具體的操作中，一個合規(guī)方案往往要包括產(chǎn)品合規(guī)、業(yè)務整改、隱私條款說明等內容，定制化程度非常高，通常需要做到一企一案。

備案環(huán)節(jié)同樣存在模糊地帶。史宇航認為，由于算法本身難以描述，在備案過程中，企業(yè)需要自行摸索描述算法及其安全性的邊界。而在合規(guī)性的審核上，往往采取企業(yè)自證的方式進行，企業(yè)也需要根據(jù)自己的實際情況準備材料。他說：“目前還沒有統(tǒng)一的標準，仍然需要企業(yè)自己去摸索?！?/p>

今年6月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《關于發(fā)布深度合成服務算法備案信息的公告》，共有41個生成式AI完成備案，包括釘釘智能客服算法、達摩院開放域自然對話合成算法、百度文生圖內容生成算法、騰訊會議虛擬背景算法、訊飛語音識別算法等。

不過，大多數(shù)大模型廠商對備案和合規(guī)的內容仍諱莫如深?！禝T時報》記者嘗試采訪了騰訊、阿里云、百度等近十家大模型廠商，都沒有給出正面回應。即便已經(jīng)通過相關備案，某大廠回應稱，報備流程等方面還處于一個不可描述的階段，無法做正面回應。

排版／ 季嘉穎

圖片／ 中國網(wǎng)信網(wǎng) 

來源／《IT時報》公眾號vittimes