界面新聞記者 | 劉子象
歐盟的人工智能法案距離生效只差臨門一腳。
當(dāng)?shù)貢r間周三，歐洲議會以499票贊成、28票反對的壓倒性結(jié)果通過了《人工智能法案》草案，為最終落地生效掃清了一個關(guān)鍵障礙。接下來的程序?qū)⑦M(jìn)入成員國、歐洲議會和歐盟委員會的三方談判。在此過程中，最終文本的法案可能會有一些措辭方面的改變。法案的最終審批預(yù)計將在今年年底前通過。
不過，這些規(guī)則距離正式生效還有一段時間。法案最終審批通過后，將會為企業(yè)和組織留出一段寬限適應(yīng)期，通常為兩年左右。
值得注意的是，為了填補法案正式生效前的這段空白期，歐洲和美國正在聯(lián)合起草一份自愿行為準(zhǔn)則。雙方官員在5月底承諾將在“幾周內(nèi)”起草，并可能擴大到其他“志同道合的國家”。
這是全球首個全面的人工智能規(guī)則法案。該法案在2021年就已著手制定，但是隨著去年底生成式人工智能的快速發(fā)展，制定過程更加緊迫。針對新情況，周三通過的法案做了部分調(diào)整。
法案內(nèi)容
這項法案的框架在2021年首次提出，旨在對任何使用人工智能系統(tǒng)的產(chǎn)品或服務(wù)進(jìn)行管理。根據(jù)風(fēng)險的高低，人工智能系統(tǒng)的使用場景被劃分為四個級別：低風(fēng)險、有限風(fēng)險、高風(fēng)險和不可接受的風(fēng)險。
對于風(fēng)險較高的應(yīng)用程序，如針對兒童的招聘或技術(shù)，將面臨更嚴(yán)格的要求，包括提高透明度和使用準(zhǔn)確的數(shù)據(jù)等。違反規(guī)則的應(yīng)用程序可能被要求下架，具體執(zhí)行尺度將取決于歐盟27個成員國自身的判斷。
在最嚴(yán)重的情況下，違規(guī)行為可能會被處以最高4000萬歐元的罰款，或公司全球年營業(yè)收入的7%左右。如谷歌和微軟這樣體量的科技巨頭而言，罰款可能高達(dá)數(shù)十億歐元。
歐盟委員會表示，大多數(shù)人工智能系統(tǒng)，如視頻游戲或垃圾郵件過濾器，都屬于低風(fēng)險或無風(fēng)險類別。
法案對人工智能的使用場景劃定了禁忌區(qū)，比如利用兒童等弱勢群體，或使用可能導(dǎo)致傷害的潛意識操縱的人工智能，或鼓勵危險行為的互動對話玩具。而對于那些預(yù)測性警務(wù)工具，比如通過分析數(shù)據(jù)來預(yù)測誰會犯罪，也被禁止。
另外，在周三的投票中，一項允許利用人工智能尋找失蹤兒童，或防止恐怖主義威脅等執(zhí)法例外的修正條款沒有被通過。
對于部分領(lǐng)域，最新的法案收緊了要求。比如，實時遠(yuǎn)程生物識別技術(shù)在最初的提案中是“高風(fēng)險”，但在最新投票中被調(diào)整為“不可接受的風(fēng)險”，即人工智能在該領(lǐng)域的應(yīng)用是被禁止的。
該法案最初的內(nèi)容并不包括聊天機器人，為了應(yīng)對近幾個月該領(lǐng)域的最新進(jìn)展，法案增加了一些條款，比如要求明確標(biāo)注出聊天機器人，以便用戶知道他們正在與機器進(jìn)行交互。
另一個重大補充是要求全面記錄用于訓(xùn)練人工智能系統(tǒng)的人類作品（文本、圖像、視頻和音樂）的任何版權(quán)材料。這將讓內(nèi)容創(chuàng)作者知道自己的作品是否被用于訓(xùn)練算法，進(jìn)而決定自己是否被抄襲，并尋求賠償。
而考慮到人工智能在就業(yè)和教育等領(lǐng)域的應(yīng)用可能會影響個人生活和工作，因此這些應(yīng)用面臨更嚴(yán)格的監(jiān)管要求，比如需要對用戶保持高度透明，并采取措施評估和減少算法產(chǎn)生偏見的風(fēng)險等。
成為全球標(biāo)準(zhǔn)？
歐盟并不是尖端人工智能發(fā)展領(lǐng)域的重要參與者，這個角色由美國和中國扮演。但是有分析認(rèn)為，在監(jiān)管的法規(guī)方面，歐盟往往扮演著引領(lǐng)潮流的角色，制定的規(guī)定經(jīng)常會成為事實上的全球標(biāo)準(zhǔn)。
原因之一在于歐盟是巨大的單一市場，擁有4.5億消費者。對于公司來說，他們不需要為不同地區(qū)開發(fā)不同產(chǎn)品，更容易遵守規(guī)定。
另外，歐洲在監(jiān)管步伐方面也確實走在最前列，已經(jīng)基本定型的《人工智能法案》是全球首個綜合性的可以強制執(zhí)行的此類法案。對于用戶來說，這相當(dāng)于一顆“定心丸”，方便公司拓展市場。
愛爾蘭公民自由委員會(ICCL)的技術(shù)專家Kris Shrishak說，歐盟的法案是可以強制執(zhí)行的，違規(guī)公司將被追究責(zé)任，這一事實“意義重大”，因為美國、英國等其他地方目前只是提供了指導(dǎo)和建議，“其他國家可能想要適應(yīng)和復(fù)制歐盟的規(guī)則”。
而企業(yè)和行業(yè)組織則警告稱，歐洲在監(jiān)管方面需要取得適當(dāng)?shù)钠胶?。比如，OpenAI首席執(zhí)行官Sam Altman在支持對人工智能發(fā)展設(shè)置一些規(guī)則的同時，也明確表示“現(xiàn)在就對該領(lǐng)域?qū)嵤﹪?yán)格監(jiān)管是一個錯誤”。
科技公司游說團體“計算機和通信行業(yè)協(xié)會”(CCIA) 的政策經(jīng)理Boniface de Champris指出，歐盟將成為監(jiān)管人工智能的領(lǐng)導(dǎo)者，但它是否會引領(lǐng)人工智能創(chuàng)新仍有待觀察。因為它需要有效地解決風(fēng)險，同時也要為開發(fā)人員提供足夠的靈活性。
已經(jīng)脫離歐盟的英國也正在爭奪人工智能領(lǐng)導(dǎo)的領(lǐng)導(dǎo)地位。首相蘇納克計劃在今年秋天主辦一次人工智能安全的全球峰會。他在本周的一次科技會議上表示，英國不僅希望成為人工智能技術(shù)發(fā)展的據(jù)點，同時也想成為安全監(jiān)管的全球中心。