文|觀察未來科技

就在這兩天，一直高歌前進(jìn)的ChatGPT突然急轉(zhuǎn)直下，陷入了輿論之中。

上周末，先是意大利暫時封殺ChatGPT，限制OpenAI處理本國用戶信息。接著，據(jù)韓國媒體報道，三星導(dǎo)入ChatGPT不到20天，便曝出機密資料外泄。此后，又有消息傳出ChatGPT目前停止注冊，開始大面積封號，4月2日全面封亞洲登錄賬號。

關(guān)于ChatGPT的爭議還在繼續(xù)，而接二連三的事件里——封殺、泄密、封號，都有一個共同的特征，就是涉及數(shù)據(jù)安全。實際上，ChatGPT走紅到今天，關(guān)于ChatGPT的數(shù)據(jù)安全一直是人們關(guān)心的一個問題，只是這一次，ChatGPT再也無法逃避關(guān)于數(shù)據(jù)保護(hù)的現(xiàn)實問題。

封殺、泄密、封號

意大利對于ChatGPT的封殺來得很突然。

3月31日，意大利個人數(shù)據(jù)保護(hù)局（Garante）于當(dāng)?shù)貢r間 3 月 31 日宣布，即日起禁止使用聊天機器人 ChatGPT，并限制 OpenAl 處理意大利用戶信息。這是世界上第一個明令禁止“封殺”ChatGPT的西方國家。

做出這一限令的原因在于，意大利官方認(rèn)為 OpenAI 沒有檢查 ChatGPT 用戶的年齡，這些用戶應(yīng)該在 13 歲或以上，而且沒有就收集處理用戶信息進(jìn)行告知，缺乏大量收集和存儲個人信息的法律依據(jù)。

事實也確實如此，ChatGPT并不冤枉。ChatGPT近期就出現(xiàn)了“用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失”的情況。這一消息也被OpenAI官方確認(rèn)。

不僅如此，近期，ChatGPT在國際巨頭三星的應(yīng)用上也出現(xiàn)了問題——三星引入ChatGPT不到20天，就爆出了3件半導(dǎo)體機密數(shù)據(jù)外泄，涉及半導(dǎo)體設(shè)備測量資料、產(chǎn)品良率等內(nèi)容，網(wǎng)傳已經(jīng)被存入ChatGPT的數(shù)據(jù)庫中。

消息一經(jīng)發(fā)布立馬引發(fā)了各界熱議，韓媒方面甚至表示，因為三星員工直接將企業(yè)機密信息以提問的方式輸入到ChatGPT中，會導(dǎo)致相關(guān)內(nèi)容進(jìn)入學(xué)習(xí)數(shù)據(jù)庫，從而可能泄漏給更多人。據(jù)三星表示，為了避免這種情況再次發(fā)生，他們已經(jīng)告知員工謹(jǐn)慎使用ChatGPT。如果后面仍發(fā)生類似事故，將考慮禁止在公司內(nèi)網(wǎng)上使用ChatGPT。

實際上，自從問世以來，人們對ChatGPT可能泄露企業(yè)數(shù)據(jù)的擔(dān)憂一直沒有聽停過。據(jù) Cyberhaven 統(tǒng)計結(jié)果顯示，近 160 萬名打工人中，有 8.2% 的員工在工作場所使用過它——許多人稱，因為使用 ChatGPT，他們的工作效率“提高了 10 倍”。同時，有 6.5% 的員工表示會將公司數(shù)據(jù)復(fù)制到 ChatGPT 中，更有 3.1% 的員工表示曾將公司的機密數(shù)據(jù)放入 ChatGPT。

與之相對應(yīng)的，越來越多企業(yè)因擔(dān)心機密數(shù)據(jù)外泄，禁止員工訪問 ChatGPT還有摩根大通、美國銀行、花旗集團(tuán)、高盛、德意志銀行等。近期軟銀也向全體員工通報了禁止向 ChatGPT 輸入機密信息等注意事項?？雌饋恚珻hatGPT提高工作效率是真的，但它會把對話內(nèi)容作為訓(xùn)練數(shù)據(jù)似乎也是真的。

就在ChatGPT遭遇封殺和泄密的同時，一場大規(guī)模的封號又忽然到來。4月2日，各個社交平臺都流傳著這樣的消息：ChatGPT官方大面積封號，尤其針對亞洲用戶。根據(jù)搜集反饋，并非所有賬號都受到影響：有些可以順利登錄，有些只能登錄手機端，有些手機和PC端都無法登錄。但ChatGPT的大規(guī)模封號行動似乎已經(jīng)開始了。據(jù)市場統(tǒng)計，已有數(shù)百萬用戶的賬號受到了影響。在新用戶注冊方面，目前注冊網(wǎng)頁已經(jīng)無法進(jìn)入，更為關(guān)鍵的是很多收碼平臺近期已經(jīng)關(guān)閉。

不止ChatGPT，3 月 30 日，據(jù)外媒報道，當(dāng)下最火的 AI 作畫神器 Midjourney也已暫停免費試用。其公司創(chuàng)始人兼 CEO David Holz 在采訪中表示，做出此舉的主要原因是新用戶的大量涌入。David Holz 在社交軟件 Discord 上發(fā)布消息時，提到了存在 “怪異需求和試用濫用”。

從封殺到泄密，再到封號，ChatGPT正在陷入一場又一場的爭議。

成于數(shù)據(jù)，傷于數(shù)據(jù)

ChatGPT的成功，離不開大數(shù)據(jù)的幫助。ChatGPT模型使用從各種來源收集的大型對話數(shù)據(jù)集進(jìn)行訓(xùn)練，包括社交媒體、公共論壇以及其他我們暫未得知的渠道。龐大的數(shù)據(jù)訓(xùn)練，才使得ChatGPT具有我們今天看到的優(yōu)秀性能。

但這也意味著，模型實際上在不斷地接觸各種對話，其中可能包含相關(guān)的敏感信息。每次升級都可能伴隨著新的對話和新的隱私泄露風(fēng)險。為了保護(hù)數(shù)據(jù)安全，開發(fā)者必須采取措施確保用于訓(xùn)練ChatGPT的數(shù)據(jù)隱私得到妥善保護(hù)。但現(xiàn)實卻并非如此。

ChatGPT引發(fā)的數(shù)據(jù)安全包括了三方面的隱患。首先就是ChatGPT獲取數(shù)據(jù)合法性的問題。訓(xùn)練像ChatGPT這樣的大型語言模型需要海量自然語言數(shù)據(jù)，其訓(xùn)練數(shù)據(jù)的來源主要是互聯(lián)網(wǎng)，但開發(fā)商OpenAI并沒有對數(shù)據(jù)來源做詳細(xì)說明，數(shù)據(jù)的合法性就成了一個問題。

歐洲數(shù)據(jù)保護(hù)委員會成員Alexander Hanff質(zhì)疑，ChatGPT是一種商業(yè)產(chǎn)品，雖然互聯(lián)網(wǎng)上存在許多可以被訪問的信息，但從具有禁止第三方爬取數(shù)據(jù)條款的網(wǎng)站收集海量數(shù)據(jù)可能違反相關(guān)規(guī)定，不屬于合理使用。國際機器學(xué)習(xí)會議ICML表示，ChatGPT雖然接受公共數(shù)據(jù)的訓(xùn)練，但這些數(shù)據(jù)通常是在未經(jīng)同意的情況下收集的。此外還要考慮到受GDPR等保護(hù)的個人信息，爬取這些信息并不合規(guī)。

其次，是ChatGPT使用過程造成的數(shù)據(jù)泄漏問題。目前ChatGPT對于用戶群體沒有多作篩選，滿足基本條件的都可以注冊成為用戶，而且用戶在使用ChatGPT前，亦不需要經(jīng)過特別的培訓(xùn)，ChatGPT對于用戶的使用基本沒作限制。也就是說，用戶可以非常任意和開放地使用ChatGPT。

因此，用戶為了完成某項任務(wù)或達(dá)到某個目的，在使用ChatGPT過程中，可能會輸入一些敏感數(shù)據(jù)、商業(yè)秘密甚至是機密信息，稍不留神，就會造成數(shù)據(jù)泄漏。正如三星近日所擔(dān)憂的一樣，數(shù)據(jù)一旦輸入，就會被收集和使用，輸入的數(shù)據(jù)亦不能刪除和修改。

3月末，ChatGPT被曝出現(xiàn)bug會導(dǎo)致用戶對話數(shù)據(jù)、支付信息丟失泄露。這一度導(dǎo)致了ChatGPT短暫關(guān)閉。OpenAI的回應(yīng)中表示，這一漏洞可能導(dǎo)致了1.2%ChatGPT Plus用戶的支付信息被暴露了約9個小時。漏洞還導(dǎo)致了用戶的對話主題及記錄能被別人看到，如果里面包含隱私信息，則有泄露的風(fēng)險。

最后，是ChatGPT的數(shù)據(jù)可能被惡意使用。OpenAI首席技術(shù)官米拉·穆拉蒂（Mira Murati）曾表示，可能會有人利用ChatGPT自然語言編寫的能力，編寫惡意軟件，從而逃避防病毒軟件的檢測；利用ChatGPT的編寫功能，生成釣魚電子郵件；利用ChatGPT的對話功能，冒充真實的人或者組織騙取他人信息等。

如何防范數(shù)據(jù)安全風(fēng)險

面對來勢洶洶的數(shù)據(jù)安全風(fēng)險，從某種意義上講，要保證數(shù)據(jù)的絕對安全，就要將數(shù)據(jù)全部物理隔絕，變成“死”數(shù)據(jù)，這樣顯然是最“安全”的，既拿不走，也不能破壞。但這樣做卻也損失了數(shù)據(jù)的價值——數(shù)據(jù)只有在流動、分享、加工處理過程中才能創(chuàng)造價值。

數(shù)據(jù)安全治理的核心正是保障數(shù)據(jù)在安全可控的情況下使用并發(fā)揮價值。換言之，數(shù)據(jù)本身無罪，有罪的是數(shù)據(jù)沒有被安全地保護(hù)或使用。也就是說，想要實現(xiàn)數(shù)據(jù)安全，關(guān)鍵要看具體實現(xiàn)的方法和管理措施。

因此，如何確保數(shù)據(jù)授權(quán)、界定數(shù)據(jù)安全的責(zé)任與科技公司的義務(wù)，規(guī)避隱私泄露、知識產(chǎn)權(quán)等風(fēng)險，這些都將是以GPT技術(shù)為代表的人工智能在大規(guī)模介入公共領(lǐng)域后，必須首先解決的問題。

顯然，以數(shù)據(jù)為中心，是數(shù)據(jù)安全工作的核心技術(shù)思想。這意味著，將數(shù)據(jù)的防竊取、防濫用、防誤用作為主線，在數(shù)據(jù)的生命周期內(nèi)各不同環(huán)節(jié)所涉及的信息系統(tǒng)、運行環(huán)境、業(yè)務(wù)場景和操作人員等作為圍繞數(shù)據(jù)安全保護(hù)的支撐。并且，數(shù)據(jù)要素的所有權(quán)、使用權(quán)、監(jiān)管權(quán)，以及信息保護(hù)和數(shù)據(jù)安全等都需要全新治理體系。這需要在法規(guī)制度方面“劃清紅線”。比如，明確ChatGPT的開發(fā)者和使用人等主體責(zé)任的劃分和承擔(dān)方式；落實數(shù)據(jù)分類分級，明確ChatGPT獲取數(shù)據(jù)的途徑和方法的相關(guān)法律規(guī)定。

其次，數(shù)據(jù)安全離不開“運用數(shù)字技術(shù)進(jìn)行治理”，即運用數(shù)字與智能技術(shù)優(yōu)化治理技術(shù)體系，進(jìn)而提升治理能力。比如，將ChatGPT的語言訓(xùn)練方法及算法合規(guī)納入數(shù)據(jù)安全合規(guī)體系，加強技術(shù)監(jiān)管和定期進(jìn)行安全審計。

事實上，在數(shù)據(jù)生命周期的不同階段，數(shù)據(jù)面臨的安全威脅、可以采用的安全手段也不一樣。在數(shù)據(jù)采集階段，可能存在采集數(shù)據(jù)被攻擊者直接竊取，或者個人生物特征數(shù)據(jù)不必要的存儲面臨泄露危險等；在數(shù)據(jù)存儲階段，可能存在存儲系統(tǒng)被入侵進(jìn)而導(dǎo)致數(shù)據(jù)被竊取，或者存儲設(shè)備丟失導(dǎo)致數(shù)據(jù)泄露等；在數(shù)據(jù)處理階段，可能存在算法不當(dāng)導(dǎo)致用戶個人信息泄露等。

面對不同階段不同角度的風(fēng)險，對癥下藥，是技術(shù)治理的必要，改進(jìn)治理技術(shù)、治理手段和治理模式，將有效實現(xiàn)復(fù)雜治理問題的超大范圍協(xié)同、精準(zhǔn)滴灌、雙向觸達(dá)和超時空預(yù)判。

最后，數(shù)據(jù)安全的實現(xiàn)不僅要自上而下，更要自下而上。數(shù)據(jù)安全治理的核心目的，是實現(xiàn)安全與發(fā)展的平衡。這一方面，需要讓企業(yè)自己有提升和證明自身數(shù)據(jù)安全能力成熟度水平的積極性，讓數(shù)據(jù)安全能力成熟度高的企業(yè)擁有更大的發(fā)展空間和競爭優(yōu)勢。另一方面，還需要提高使用人數(shù)據(jù)安全的風(fēng)險意識，制定ChatGPT的安全使用指南。

面對人工智能的迅速發(fā)展，數(shù)據(jù)的基礎(chǔ)性戰(zhàn)略資源屬性進(jìn)一步突顯。ChatGPT只是數(shù)據(jù)安全治理的第一步，也是不可回避的重要一步。