文|創(chuàng)瞰巴黎 Jean Zeid
編輯|Meister Xia
導(dǎo)讀
去年年底，由ChatGPT掀起了新一輪人工智能的熱潮還在持續(xù)。以生成式人工智能和大模型為代表的新一代智能技術(shù)發(fā)展日新月異，成為本輪世界科技革命和產(chǎn)業(yè)變革的先導(dǎo)力量。隨著以ChatGPT為代表的大模型進入應(yīng)用，AI的重要性愈發(fā)凸顯。但是，發(fā)展的同時會帶來新的安全問題。是否需要對AI發(fā)展制定相應(yīng)的法規(guī)進行監(jiān)管？應(yīng)該采取什么方法來監(jiān)管AI？AI監(jiān)管應(yīng)該關(guān)注哪些方面的問題？
一覽：
- AI的應(yīng)用范圍在不斷擴大，其管理問題引發(fā)了人們的諸多擔(dān)憂。
- 盡管AI的發(fā)展日新月異，但歐洲目前還未推出專門針對AI的法規(guī)。
- 歐洲議會已投票支持通過《人工智能法》——一項針對AI的法規(guī)。
- AI的使用和快速發(fā)展引發(fā)了人們對安全、透明度和自動化等重大問題的探討。
- 為了解決這些問題，法國國家信息與自由委員會（CNIL）成立了一個跨學(xué)科部門，專門負責(zé)AI相關(guān)事務(wù)。
生成式人工智能產(chǎn)業(yè)正在蓬勃發(fā)展。據(jù)彭博社（Bloomberg）報道，到 2032年，該產(chǎn)業(yè)的市值有望達到1.3萬億美元。但是，生成式AI的指數(shù)型增長在世界范圍內(nèi)引發(fā)了不少擔(dān)憂，人們對其安全和立法問題也提出了不少疑問。面對這一不斷增長的市場，微軟、谷歌、OpenAI和初創(chuàng)公司Anthropic這四家美國AI巨頭正在聯(lián)手進行自我監(jiān)管，以平息日益增多的質(zhì)疑聲。歐洲正在考慮制定相關(guān)法規(guī)，英國首相蘇納克（Rishi Sunak）也在不久前宣布，將于今年年底在英國舉辦全球首次AI峰會。
由于AI的重要性愈發(fā)凸顯，法國國家信息與自由委員會（CNIL）史無前例地成立了一個AI監(jiān)管部門。在部門主任Félicien Vallet的領(lǐng)導(dǎo)下，該機構(gòu)正努力對安全、透明度和自動化等重大問題提供監(jiān)管。
01 為什么CNIL認為有必要成立一個專門負責(zé)AI的新部門？
自1978年成立以來，CNIL這一監(jiān)管部門始終負責(zé)法國境內(nèi)的數(shù)據(jù)保護。2018年后，相關(guān)數(shù)據(jù)保護一直以通用數(shù)據(jù)保護條例（GDPR）為參考。最近，各大領(lǐng)域都出現(xiàn)了與AI相關(guān)的個人數(shù)據(jù)問題，且數(shù)量在不斷上漲。CNIL的一貫做法是以部門為基礎(chǔ)開展相關(guān)工作，例如，我們會設(shè)置專門負責(zé)衛(wèi)生或政府事務(wù)的部門。我們的觀察顯示，AI正越來越多地應(yīng)用于多種領(lǐng)域，包括：打擊房產(chǎn)稅偷稅漏稅（如基于衛(wèi)星圖像的住宅游泳池自動檢測）、安保（如能分析人類行為的增強型視頻監(jiān)控系統(tǒng)）、醫(yī)療保?。ㄈ巛o助診斷）和教育（如基于學(xué)習(xí)習(xí)慣分析的教學(xué)模式個性化）等領(lǐng)域。作為個人數(shù)據(jù)處理的監(jiān)管機構(gòu)，法國國家信息與自由委員會（CNIL）特別關(guān)注可能對公民產(chǎn)生影響的AI應(yīng)用。之所以設(shè)立一個專門負責(zé)AI的多學(xué)科部門，是因為該領(lǐng)域所涉及的問題具有跨學(xué)科性質(zhì)。
02 CNIL對AI的定義是什么？是我們現(xiàn)在常說的生成式AI嗎？
CNIL對AI并沒有嚴格的定義。根據(jù)我們發(fā)布在網(wǎng)站上的描述，AI指的是一種邏輯和自動化過程，通常以算法為基礎(chǔ)，并以執(zhí)行定義明確的任務(wù)為目的。歐洲議會將AI定義為機器用來“再現(xiàn)與人類相關(guān)的行為，如推理、規(guī)劃和創(chuàng)造力”的工具。生成式AI是現(xiàn)有AI系統(tǒng)的一個組成部分，但它也會引發(fā)人們對個人數(shù)據(jù)使用的擔(dān)憂。
03 CNIL采取了什么方法來監(jiān)管AI？
CNIL采用了一種基于風(fēng)險的方法。這一方法是歐盟正在起草的《人工智能法》（AI Act）的核心，它根據(jù)風(fēng)險等級將AI系統(tǒng)分為了四類：不可接受、高風(fēng)險、有限風(fēng)險和最低風(fēng)險。由于監(jiān)管對“不可接受”這一等級的AI系統(tǒng)根本不予考慮，因此完全沒有在歐洲本土實施。高風(fēng)險系統(tǒng)通常部署在醫(yī)療保健或政府事務(wù)等領(lǐng)域，由于它們總是牽涉到個人數(shù)據(jù)的處理，與個人的發(fā)展息息相關(guān)，因此格外敏感。在部署這些AI系統(tǒng)之前，也會采取一些特別的預(yù)防措施。生成式AI屬于有限風(fēng)險系統(tǒng)，需要為用戶提供更大的透明度。低風(fēng)險系統(tǒng)則不受任何特定義務(wù)的約束。
04 圍繞這些AI系統(tǒng)的主要問題是什么？
主要問題是透明度、自動化和安全性。有了透明度，人們才會明白AI系統(tǒng)在處理與其相關(guān)的個人數(shù)據(jù)，并且自己擁有一定的反對權(quán)。這些系統(tǒng)處理的信息體量可能十分龐大，而并非所有人都知曉這一點。
自動化也絕非萬無一失，即便有人類操作員的參與，過度信任機器等認知偏差也會影響決策，因此，我們需要對操作員的控制方法，以及操作員在決策環(huán)路中扮演的角色保持警惕。
AI系統(tǒng)的安全性是另一個主要擔(dān)憂。與其他IT系統(tǒng)一樣，AI系統(tǒng)也可能成為網(wǎng)絡(luò)攻擊的對象，特別是訪問劫持或數(shù)據(jù)盜竊。此外，它們還可能被惡意利用，如開展網(wǎng)絡(luò)釣魚活動或大規(guī)模傳播虛假信息等。
05 有沒有什么方法能夠確保這些法規(guī)的實施？
我們的行動計劃主要圍繞四點展開。首先是了解AI技術(shù)，畢竟該領(lǐng)域日新月異，每天都會迸發(fā)源源不斷的創(chuàng)新和靈感，技術(shù)也在突飛猛進。
第二是引導(dǎo)AI的使用。之前也說了，我們主要以《通用數(shù)據(jù)保護條例》（GDPR）為參考，但該文件比較中立，并沒有具體規(guī)定在AI時代下應(yīng)如何處理個人數(shù)據(jù)。因此，我們需要根據(jù)AI的不同技術(shù)路徑和用途來調(diào)整GDPR的一般原則，從而為專業(yè)人員提供有效的指導(dǎo)。
第三點是與我們的歐洲同行、權(quán)利捍衛(wèi)者（Défenseur des droits）、法國競爭管理機構(gòu)（Autorité de la concurrence）及研究機構(gòu)開展互動與合作，以解決與歧視、競爭和創(chuàng)新有關(guān)的問題，并動員各方廣泛參與這些問題的解決。
最后，我們需要在AI系統(tǒng)實施前后部署管控措施，并探索能夠助力我們執(zhí)行管控的方法，如制定核對清單，使用自我評估指南等。
06 法國或其他國家有其他類似的項目嗎？
目前，無論是法國、歐洲境內(nèi)還是其他地區(qū)，都沒有專門針對AI的法規(guī)，歐洲的《人工智能法》草案將是這一領(lǐng)域的首創(chuàng)。不過，與GDPR類似的通用法規(guī)可以間接適用于AI，且某些特定行業(yè)與產(chǎn)品安全相關(guān)的法規(guī)也可能適用于包含AI的產(chǎn)品，如醫(yī)療設(shè)備。
07 歐美的法規(guī)差異是否會在AI領(lǐng)域表現(xiàn)得更加明顯？
根據(jù)以往的經(jīng)驗，歐洲在數(shù)字技術(shù)的法規(guī)實施方面一直比較積極主動，GDPR的頒布便是有力證明。不過，美國對AI監(jiān)管的呼聲也越來越高。例如，OpenAI的首席執(zhí)行官明確告訴美國國會，對AI進行監(jiān)管將帶來諸多益處。話雖如此，我們也不應(yīng)忘記，美國技術(shù)高管眼中的“適當(dāng)監(jiān)管”與歐洲的設(shè)想可能不盡相同。為了給《人工智能法》的通過做鋪墊，并盡量爭取主要工業(yè)企業(yè)的支持，歐委會委員Margrethe Vestager（負責(zé)競爭事務(wù)）和Thierry Breton（負責(zé)內(nèi)部市場事務(wù)）分別提出了《人工智能行為準則》（AI Code of Conduct）和《人工智能契約》（AI Pact）。