正在閱讀:

生成式人工智能新規(guī)強化個人信息保護,以知情同意為首要原則

掃一掃下載界面新聞APP

生成式人工智能新規(guī)強化個人信息保護,以知情同意為首要原則

《辦法》相關規(guī)定體現(xiàn)了個人信息在人工智能語境下全生命周期的有效保護,能夠最大限度地尊重保障個人權益的基礎訴求。

圖片來源:視覺中國

界面新聞記者 | 張旭

界面新聞編輯 | 翟瑞民

近期,利用“AI換臉”技術進行視頻合成、進而實施詐騙的案件頻發(fā),包括網(wǎng)絡上出現(xiàn)利用AI技術侵犯明星肖像權等情況,如何規(guī)范人工智能技術應用和發(fā)展引起社會廣泛關注。

2023年7月13日,國家網(wǎng)信辦等7部門聯(lián)合對外發(fā)布《生成式人工智能服務管理暫行辦法》(簡稱《辦法》)》,自2023年8月15日起施行。

國家網(wǎng)信辦有關負責人表示,近年來,生成式人工智能技術快速發(fā)展,為經(jīng)濟社會發(fā)展帶來新機遇的同時,也產(chǎn)生了傳播虛假信息、侵害個人信息權益、數(shù)據(jù)安全和偏見歧視等問題,如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關注。出臺《辦法》,旨在促進生成式人工智能健康發(fā)展和規(guī)范應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。

生成式人工智能又稱AIGC或生成式AI,是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關技術,被視為數(shù)字化時代一種顛覆性的技術創(chuàng)新。界面新聞注意到,此次出臺的《辦法》對個人信息保護,防范侵權等方面作出明確規(guī)定。

《辦法》明確,提供和使用生成式人工智能服務,應當遵守法律、行政法規(guī),尊重社會公德和倫理道德。在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務等過程中,采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視;尊重他人合法權益,不得危害他人身心健康,不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。

北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括向界面新聞表示,從個人信息保護角度來看,《辦法》涉及的相關規(guī)定,事實上是根據(jù)國家網(wǎng)絡安全法、數(shù)據(jù)安全法以及個人信息保護法等法律法規(guī),針對人工智能技術邏輯和產(chǎn)業(yè)特點所做出的專門設計。

“得益于國家和社會層面的公共支持,此次《辦法》突出了合法性、安全性和倫理性的三重融合?!眳巧蚶ㄕf。

北京市京師(深圳)律師事務所知識產(chǎn)權主任管巧麗表示,《辦法》出臺為保護權利人的知識產(chǎn)權等合法權益提供了法律依據(jù),同時對生成式人工智能服務提供者提出了知識產(chǎn)權法律風險防范與合規(guī)的要求。

針對個人信息保護,在數(shù)據(jù)的收集、處理、加工以及刪除等各個環(huán)節(jié),《辦法》也專門設定了相應的服務規(guī)定。

《辦法》要求,生成式人工智能服務提供者在開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動時,涉及知識產(chǎn)權的,不得侵害他人依法享有的知識產(chǎn)權;涉及個人信息的,應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形。

在提供服務過程中,服務提供者應當依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任,履行網(wǎng)絡信息安全義務。涉及個人信息的,依法承擔個人信息處理者責任,履行個人信息保護義務。

《辦法》規(guī)定,不得收集非必要個人信息,不得非法留存能夠識別使用者身份的輸入信息和使用記錄,不得非法向他人提供使用者的輸入信息和使用記錄。此外,提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。

在監(jiān)督檢查環(huán)節(jié),《辦法》還規(guī)定,參與安全評估和監(jiān)督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業(yè)秘密、個人隱私和個人信息應當保密,不得泄露或者非法向他人提供。

“這體現(xiàn)了個人信息在人工智能語境下全生命周期的有效保護,能夠最大限度地尊重保障個人權益的基礎訴求?!眳巧蚶ū硎?,《辦法》涉及的防止個人信息侵權的制度核心中,強調(diào)的是以知情同意為原則,同時能夠兼容個人信息保護法所規(guī)定的六種例外情形?!盀槿斯ぶ悄墚a(chǎn)業(yè)發(fā)展和必要的數(shù)據(jù)資源的獲取帶來制度性空間。”吳沈括說。

不過,吳沈括也建議,在《辦法》施行過程當中,無論是在算力的共享、算力資源的共享,還是公共數(shù)據(jù)的開放利用等方面,決策部門應出臺更多配套政策和規(guī)定來予以支持落地,為產(chǎn)業(yè)發(fā)展提供更好地公共支持。其次,在安全評估、算法備案、內(nèi)容審核等業(yè)務合規(guī)方面期待引入更多細化指引規(guī)則。

除此之外,服務提供者針對數(shù)據(jù)平臺內(nèi)容進行合規(guī)治理時,管巧麗建議要做好知識產(chǎn)權侵權風險防范。

她表示,建立必要的版權審查和過濾機制。對平臺內(nèi)已存在的數(shù)據(jù)內(nèi)容要進行篩查、過濾及比對,及時處理涉嫌數(shù)據(jù)安全內(nèi)容。同時建立人工復核制度,在平臺內(nèi)部對數(shù)據(jù)安全內(nèi)容的審核要提高到相對重要的上位制度高度。

另外,鑒于人工智能服務生產(chǎn)的作品形態(tài)具有多元性,管巧麗建議設置多重投訴應對措施,減小侵權作品的傳播范圍,降低構成侵權之可能性。

“也要盡最大努力取得權利人的授權。”管巧麗表示,服務提供者取得權利人的授權這是最直接有效的措施,亦是首要的合規(guī)方式,平臺可以通過與權利人簽訂授權許可形成平臺自有素材庫?;蛘咂脚_開辟創(chuàng)作者專區(qū),鼓勵各類原創(chuàng)者通過有償方式在平臺上上傳原創(chuàng)素材,其他用戶在使用之前通過有償方式取得除人身性權利外的其他各種權益授權或轉(zhuǎn)讓。

未經(jīng)正式授權嚴禁轉(zhuǎn)載本文,侵權必究。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

生成式人工智能新規(guī)強化個人信息保護,以知情同意為首要原則

《辦法》相關規(guī)定體現(xiàn)了個人信息在人工智能語境下全生命周期的有效保護,能夠最大限度地尊重保障個人權益的基礎訴求。

圖片來源:視覺中國

界面新聞記者 | 張旭

界面新聞編輯 | 翟瑞民

近期,利用“AI換臉”技術進行視頻合成、進而實施詐騙的案件頻發(fā),包括網(wǎng)絡上出現(xiàn)利用AI技術侵犯明星肖像權等情況,如何規(guī)范人工智能技術應用和發(fā)展引起社會廣泛關注。

2023年7月13日,國家網(wǎng)信辦等7部門聯(lián)合對外發(fā)布《生成式人工智能服務管理暫行辦法》(簡稱《辦法》)》,自2023年8月15日起施行。

國家網(wǎng)信辦有關負責人表示,近年來,生成式人工智能技術快速發(fā)展,為經(jīng)濟社會發(fā)展帶來新機遇的同時,也產(chǎn)生了傳播虛假信息、侵害個人信息權益、數(shù)據(jù)安全和偏見歧視等問題,如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關注。出臺《辦法》,旨在促進生成式人工智能健康發(fā)展和規(guī)范應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。

生成式人工智能又稱AIGC或生成式AI,是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關技術,被視為數(shù)字化時代一種顛覆性的技術創(chuàng)新。界面新聞注意到,此次出臺的《辦法》對個人信息保護,防范侵權等方面作出明確規(guī)定。

《辦法》明確,提供和使用生成式人工智能服務,應當遵守法律、行政法規(guī),尊重社會公德和倫理道德。在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務等過程中,采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視;尊重他人合法權益,不得危害他人身心健康,不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。

北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括向界面新聞表示,從個人信息保護角度來看,《辦法》涉及的相關規(guī)定,事實上是根據(jù)國家網(wǎng)絡安全法、數(shù)據(jù)安全法以及個人信息保護法等法律法規(guī),針對人工智能技術邏輯和產(chǎn)業(yè)特點所做出的專門設計。

“得益于國家和社會層面的公共支持,此次《辦法》突出了合法性、安全性和倫理性的三重融合?!眳巧蚶ㄕf。

北京市京師(深圳)律師事務所知識產(chǎn)權主任管巧麗表示,《辦法》出臺為保護權利人的知識產(chǎn)權等合法權益提供了法律依據(jù),同時對生成式人工智能服務提供者提出了知識產(chǎn)權法律風險防范與合規(guī)的要求。

針對個人信息保護,在數(shù)據(jù)的收集、處理、加工以及刪除等各個環(huán)節(jié),《辦法》也專門設定了相應的服務規(guī)定。

《辦法》要求,生成式人工智能服務提供者在開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動時,涉及知識產(chǎn)權的,不得侵害他人依法享有的知識產(chǎn)權;涉及個人信息的,應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形。

在提供服務過程中,服務提供者應當依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任,履行網(wǎng)絡信息安全義務。涉及個人信息的,依法承擔個人信息處理者責任,履行個人信息保護義務。

《辦法》規(guī)定,不得收集非必要個人信息,不得非法留存能夠識別使用者身份的輸入信息和使用記錄,不得非法向他人提供使用者的輸入信息和使用記錄。此外,提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。

在監(jiān)督檢查環(huán)節(jié),《辦法》還規(guī)定,參與安全評估和監(jiān)督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業(yè)秘密、個人隱私和個人信息應當保密,不得泄露或者非法向他人提供。

“這體現(xiàn)了個人信息在人工智能語境下全生命周期的有效保護,能夠最大限度地尊重保障個人權益的基礎訴求。”吳沈括表示,《辦法》涉及的防止個人信息侵權的制度核心中,強調(diào)的是以知情同意為原則,同時能夠兼容個人信息保護法所規(guī)定的六種例外情形。“為人工智能產(chǎn)業(yè)發(fā)展和必要的數(shù)據(jù)資源的獲取帶來制度性空間。”吳沈括說。

不過,吳沈括也建議,在《辦法》施行過程當中,無論是在算力的共享、算力資源的共享,還是公共數(shù)據(jù)的開放利用等方面,決策部門應出臺更多配套政策和規(guī)定來予以支持落地,為產(chǎn)業(yè)發(fā)展提供更好地公共支持。其次,在安全評估、算法備案、內(nèi)容審核等業(yè)務合規(guī)方面期待引入更多細化指引規(guī)則。

除此之外,服務提供者針對數(shù)據(jù)平臺內(nèi)容進行合規(guī)治理時,管巧麗建議要做好知識產(chǎn)權侵權風險防范。

她表示,建立必要的版權審查和過濾機制。對平臺內(nèi)已存在的數(shù)據(jù)內(nèi)容要進行篩查、過濾及比對,及時處理涉嫌數(shù)據(jù)安全內(nèi)容。同時建立人工復核制度,在平臺內(nèi)部對數(shù)據(jù)安全內(nèi)容的審核要提高到相對重要的上位制度高度。

另外,鑒于人工智能服務生產(chǎn)的作品形態(tài)具有多元性,管巧麗建議設置多重投訴應對措施,減小侵權作品的傳播范圍,降低構成侵權之可能性。

“也要盡最大努力取得權利人的授權?!惫芮甥惐硎荆仗峁┱呷〉脵嗬说氖跈噙@是最直接有效的措施,亦是首要的合規(guī)方式,平臺可以通過與權利人簽訂授權許可形成平臺自有素材庫。或者平臺開辟創(chuàng)作者專區(qū),鼓勵各類原創(chuàng)者通過有償方式在平臺上上傳原創(chuàng)素材,其他用戶在使用之前通過有償方式取得除人身性權利外的其他各種權益授權或轉(zhuǎn)讓。

未經(jīng)正式授權嚴禁轉(zhuǎn)載本文,侵權必究。