記者 | 安晶

12月8日，在經(jīng)過(guò)一周的馬拉松式談判和激烈爭(zhēng)論后，歐盟委員會(huì)、歐洲議會(huì)和歐盟成員國(guó)代表就《人工智能法案》（AI Act）達(dá)成初步協(xié)議，新法案涉及包括ChatGPT在內(nèi)的通用目的AI系統(tǒng)。

這是全球首份針對(duì)AI監(jiān)管的全面法規(guī)，意在從保護(hù)人類(lèi)基本權(quán)利和不阻礙人工智能行業(yè)發(fā)展之間尋求平衡。法案的技術(shù)細(xì)節(jié)內(nèi)容還在討論中，最終文本沒(méi)有對(duì)外公布。

根據(jù)歐洲議會(huì)和歐盟委員會(huì)公布的信息，法案將AI系統(tǒng)分為低風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、不可接受風(fēng)險(xiǎn)、特定透明度風(fēng)險(xiǎn)等不同等級(jí)，按照風(fēng)險(xiǎn)級(jí)別制定相應(yīng)規(guī)定。

不可接受風(fēng)險(xiǎn)等級(jí)的AI應(yīng)用將被直接禁止，包括在特定情況下使用生物特征分類(lèi)系統(tǒng)和人臉識(shí)別系統(tǒng)。法案還專(zhuān)門(mén)針對(duì)通用AI系統(tǒng)（general-purpose AI）設(shè)置規(guī)定，存在系統(tǒng)性威脅的通用AI將接受更嚴(yán)格監(jiān)管。

歐洲議會(huì)官網(wǎng)8日的聲明列出了將被禁止的AI應(yīng)用類(lèi)型，包括：

• 使用敏感特征的生物特征分類(lèi)系統(tǒng)，敏感特征涉及政治、宗教、哲學(xué)信仰、性取向、種族。
• 網(wǎng)絡(luò)或視頻監(jiān)控進(jìn)行無(wú)目標(biāo)的人臉信息收集以創(chuàng)建人臉識(shí)別數(shù)據(jù)庫(kù)。
• 工作場(chǎng)所和教育機(jī)構(gòu)進(jìn)行表情識(shí)別。
• 根據(jù)社會(huì)行為或者個(gè)人特征進(jìn)行社會(huì)評(píng)分。
• 操縱人類(lèi)行為、繞開(kāi)人類(lèi)自由意志的AI系統(tǒng)。
• 剝削脆弱人群的AI系統(tǒng)。

歐盟委員會(huì)解釋?zhuān)瑢?duì)人類(lèi)基本權(quán)利構(gòu)成明顯威脅的AI系統(tǒng)屬于不可接受風(fēng)險(xiǎn)級(jí)別，此類(lèi)系統(tǒng)將全部禁用。

但在包括人臉識(shí)別在內(nèi)的生物識(shí)別系統(tǒng)應(yīng)用中，歐盟的AI法案將允許執(zhí)法部門(mén)在嚴(yán)格限制條件下，對(duì)涉嫌或者已經(jīng)被判決犯下重罪的人員進(jìn)行非實(shí)時(shí)遠(yuǎn)程生物識(shí)別。

執(zhí)法部門(mén)要進(jìn)行實(shí)時(shí)生物識(shí)別只能在特定情況下，例如尋找受害人、阻止恐怖襲擊威脅、定位識(shí)別犯下謀殺等嚴(yán)重罪行的嫌犯。

高風(fēng)險(xiǎn)級(jí)別為有很大可能傷害人類(lèi)健康、人身安全、基本權(quán)利或者破壞環(huán)境、民主和法治的AI系統(tǒng)。例如能源領(lǐng)域和醫(yī)療機(jī)構(gòu)關(guān)鍵基建使用的AI系統(tǒng)，招聘員工、教育機(jī)構(gòu)接收學(xué)員的系統(tǒng)，執(zhí)法部門(mén)、邊境管控使用的AI系統(tǒng)。能影響選舉結(jié)果和選民行為的系統(tǒng)也被視為高風(fēng)險(xiǎn)。

這類(lèi)系統(tǒng)在使用時(shí)需要符合一系列嚴(yán)格要求，包括設(shè)立風(fēng)險(xiǎn)緩釋系統(tǒng)、活動(dòng)日志記錄、詳細(xì)歸檔、詳細(xì)的使用者信息、人類(lèi)工作人員監(jiān)督。一旦認(rèn)為自己的權(quán)利受到損壞，公民將有權(quán)對(duì)相關(guān)AI系統(tǒng)進(jìn)行投訴。

低風(fēng)險(xiǎn)級(jí)別系統(tǒng)則為沒(méi)有對(duì)公民權(quán)利或者安全構(gòu)成威脅或者威脅很小的AI系統(tǒng)。此類(lèi)系統(tǒng)可以自由使用，例如垃圾郵件過(guò)濾器、推薦系統(tǒng)。

特定透明度風(fēng)險(xiǎn)則涉及聊天機(jī)器人、深度偽造內(nèi)容。在提供聊天機(jī)器人服務(wù)時(shí)，提供方需讓用戶(hù)知道與自己對(duì)話的是機(jī)器；深度偽造和其他AI生成的內(nèi)容則應(yīng)該被標(biāo)記說(shuō)明。提供方在使用表情識(shí)別或者生物特征分類(lèi)系統(tǒng)時(shí)應(yīng)該告知用戶(hù)。

除此之外，提供方在設(shè)計(jì)系統(tǒng)時(shí)需要將合成的視頻、音頻、文字和圖像標(biāo)注為機(jī)器可讀格式，并且能夠被檢測(cè)出是AI生成內(nèi)容。

對(duì)于類(lèi)似ChatGPT的通用AI系統(tǒng)（GPAI）以及相關(guān)的GPAI模型，提供方需要制作技術(shù)文件、遵守歐盟版權(quán)法、披露訓(xùn)練系統(tǒng)時(shí)使用的數(shù)據(jù)內(nèi)容匯總。

如果高強(qiáng)度的GPAI模型構(gòu)成系統(tǒng)性風(fēng)險(xiǎn)，則還需滿足一系列更嚴(yán)格要求，包括進(jìn)行模型評(píng)估、對(duì)抗測(cè)試、降低系統(tǒng)性風(fēng)險(xiǎn)、發(fā)生嚴(yán)重事故時(shí)向歐盟委員會(huì)匯報(bào)。歐洲議會(huì)和歐盟委員會(huì)周五公布的說(shuō)明沒(méi)有解釋哪些風(fēng)險(xiǎn)屬于系統(tǒng)性風(fēng)險(xiǎn)。

在監(jiān)督上，歐盟成員國(guó)的市場(chǎng)監(jiān)督部門(mén)將負(fù)責(zé)監(jiān)督AI法在各國(guó)的執(zhí)行。歐盟委員會(huì)則將設(shè)立新的歐洲AI辦公室負(fù)責(zé)成員國(guó)間的協(xié)調(diào)，AI辦公室還將負(fù)責(zé)監(jiān)督GPAI模型規(guī)則的執(zhí)行情況。

各企業(yè)和機(jī)構(gòu)違反歐盟的AI法將面臨罰款。罰款金額最低為750萬(wàn)歐元或公司營(yíng)業(yè)額的1.5%，最高3500萬(wàn)歐元或公司全球營(yíng)業(yè)額的7%。

之后，歐盟代表還將對(duì)AI法案的部分技術(shù)細(xì)節(jié)進(jìn)行完善，最終文本或有所調(diào)整。確定法案最終文本后，歐洲議會(huì)和歐盟委員會(huì)將對(duì)法案進(jìn)行投票。法案全部實(shí)施最早預(yù)計(jì)需到2025年，彼時(shí)AI領(lǐng)域很可能已經(jīng)有了新的發(fā)展。

歐盟科技領(lǐng)域部分人士指責(zé)新的AI法案阻礙行業(yè)發(fā)展、浪費(fèi)企業(yè)資源。科技行業(yè)組織“數(shù)字歐洲”總干事博內(nèi)費(fèi)爾德-達(dá)爾（Cecilia Bonefeld-Dahl）認(rèn)為歐盟AI法的嚴(yán)苛要求會(huì)讓科技公司為遵守法律而耗費(fèi)大量資源，還需要花更多錢(qián)請(qǐng)律師而不是聘請(qǐng)AI工程師。

但人權(quán)組織不滿歐盟的法案存在諸多漏洞，沒(méi)有規(guī)范AI系統(tǒng)在移民和邊境管控上的使用，還為企業(yè)避免系統(tǒng)被定為高風(fēng)險(xiǎn)提供了操作空間。

雖然不完美，但歐盟的首個(gè)AI法將成為其他國(guó)家的重要參考。美國(guó)媒體指出，歐盟此前推出的數(shù)字隱私法案、數(shù)據(jù)保護(hù)規(guī)定已經(jīng)讓部分美國(guó)科技公司調(diào)整了歐盟外的用戶(hù)數(shù)據(jù)處理流程。美國(guó)也在探索制定自己的AI法。