正在閱讀:

深圳又領先一步,首部“人工智能專項立法”出臺

掃一掃下載界面新聞APP

深圳又領先一步,首部“人工智能專項立法”出臺

人工智能發(fā)展絕不能以傷害人類為代價,這是一大定律,但如何通過立法來保護人類?

文|IT時報見習記者 沈毅斌

編輯|挨踢妹

9月6日,我國首部人工智能產(chǎn)業(yè)專項立法《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》正式公布,于2022年11月1日起實施,破解人工智能落地難題的同時,《條例》還要求政府設立專門的人工智能倫理委員會,推進人工智能倫理安全規(guī)范的制訂和實施。

人工智能發(fā)展絕不能以傷害人類為代價,這是一大定律,但如何通過立法來保護人類?在2022世界人工智能大會上,上海市法學會會長崔亞東表示,人工智能法治建設已經(jīng)成為全世界的共識,要建立健全相關的法律法規(guī)、制度體系、倫理道德,形成人工智能依法治理的中國方案。

生而為人,不能被AI計算

如果一位騎手接到5個訂單,10個任務點,系統(tǒng)會在11萬條路線規(guī)劃中,完成萬單對萬人的秒級求解,算出最快的送餐路線。這段描述出自一篇爆火的調(diào)查報道《外賣騎手,困在系統(tǒng)里》。

人工智能算法可以給出最快的方案,卻將騎手的配送時間壓縮到極致,但凡多等個紅綠燈可能都會超時。騎手不得不選擇超速行駛,其生命安全與路人安全,都是人工智能考慮不到的范圍。

“我建議在AI算出的時間上,再多預留5至10分鐘;不僅是給予騎手一些可控空間,也是對人對生命的一種尊重。”上海市司法局副局長羅培新表示,人是自由且靈活的,不應該被AI所計算,人工智能發(fā)展條例制定中,以人為本是原則性規(guī)定。

就以人為本而言,復旦大學附屬華山醫(yī)院教授顧士欣舉了個例子,A方案能延長病人5年的壽命,期間病人可以正常生活,吃喝玩樂不受限制;B方案能延長病人6年的壽命,但需要服用大量昂貴藥物,且只能臥床養(yǎng)病忍受病痛。作為人來說,A方案無疑是最理想的選擇;但人工智能會選擇B方案,因為壽命延得更長。

不可否認的是,人工智能確實推動了醫(yī)療事業(yè)的發(fā)展,幫助醫(yī)生救治更多病人,但最高效便捷并不代表最好。目前,人工智能只能依靠單一的數(shù)據(jù)算出所謂的“最優(yōu)解”,而無法理解人類特有的情感、思維、倫理。要真正做到以人為本,還是需要人類自己參與判斷。

在邁向智能化、數(shù)字化時代時,人工智能治理的挑戰(zhàn)隨之而來。

“我認為對于人工智能來說,法治是最好的營商環(huán)境,也是最好的治理能力的基礎、要義和歸宿?!?上海市政協(xié)副主席周漢民認為,人工智能發(fā)展超前半步即可,治理要緊緊跟上,不能超前也不能滯后。當前需要做的就是完善“以人為本”的人工智能治理體系,加快推動立法,形成共識、廣泛的標準化條例法規(guī)和治理框架。

數(shù)據(jù)安全立法事關人人

人工智能擁有如此強大的算力,少不了數(shù)據(jù)的支撐。大數(shù)據(jù)時代下,每個人仿佛都沒了“隱私”,如何保護隱私數(shù)據(jù)安全,成為人工智能法治的重中之重。

雖然國家在2021年頒布的《中華人民共和國數(shù)據(jù)安全法》中,明確規(guī)定保障國家、企業(yè)和個人數(shù)據(jù)安全的重要性,建立健全全流程數(shù)據(jù)安全管理制度。但對于人工智能的數(shù)據(jù)運用與保護方面,并沒有相關規(guī)定。

雖然沒有系統(tǒng)的立法,但在部分法律條例中有提及數(shù)據(jù)保護。

《東方法學》一書中提到,基于數(shù)據(jù)權(quán)益保護實踐以及數(shù)據(jù)產(chǎn)權(quán)本身的特殊性,《反不正當競爭法》可以成為架構(gòu)和保護企業(yè)數(shù)據(jù)權(quán)益的重要法律。上海交通大學知識產(chǎn)權(quán)與競爭法研究院院長孔祥俊也提到,在第三次《反不正當競爭法》修訂中,將以企業(yè)數(shù)據(jù)權(quán)益保護作為重點,構(gòu)建一種既賦予排他性,又兼顧數(shù)據(jù)流通利用的商業(yè)數(shù)據(jù)弱權(quán)利保護機制。

在商業(yè)競爭中,企業(yè)用攫取競爭對手數(shù)據(jù)的方式來達到壓制對方發(fā)展,更有甚至派黑客蹲在競對樓下拖庫,《反不正當競爭法》數(shù)據(jù)保護條例出臺的初衷可能是保護企業(yè)在正當、健康的法治環(huán)境里發(fā)展,但如今卻具有普世的價值。

如何讓數(shù)據(jù)可用又安全?抖音集團數(shù)據(jù)及隱私法務負責人田申介紹,傳統(tǒng)的數(shù)據(jù)脫敏或匿名化處理保護方式,都要以犧牲部分數(shù)據(jù)維度為代價,導致數(shù)據(jù)信息無法有效被利用;而隱私計算則是在保證安全的前提下盡可能使數(shù)據(jù)價值最大化。

數(shù)據(jù)法律的確立,將給予隱私計算技術一個穩(wěn)定且準確的考量,還為技術提供了改進方向;若是將技術與相關法律進行配套,數(shù)據(jù)安全將得到最大程度的保護。

政府與企業(yè)轉(zhuǎn)變“貓鼠關系”

當汽車無法識別出行人時,究竟是優(yōu)先保護車主撞向行人,還是優(yōu)先保護行人撞向護欄?事后的判決,究竟是車主擔責,還是車企擔責?面對如此復雜多樣的問題,單靠立法機關的力量是不夠的,而是需要人人都參與到法制建設中。

“政府與企業(yè)應轉(zhuǎn)變傳統(tǒng)的貓鼠關系,發(fā)揮企業(yè)的敏捷聯(lián)動,尤其鼓勵頭部企業(yè)進行合作,共同推動行規(guī)形成?!眹倚乱淮斯ぶ悄苤卫韺I(yè)委員會主任薛瀾所提出的人工智能敏捷治理模式,需要企業(yè)參與立法,將抽象模糊的治理準則轉(zhuǎn)換成具體精準的法律法規(guī),并納入到相關政策中。同時聽取專家的專業(yè)建議和社會上的多種建議,實現(xiàn)多主體參與,全方位共同治理。

阿里研究院數(shù)據(jù)經(jīng)濟研究中心副主任傅宏宇也同樣表示,人工智能治理是一個多學科、多方面的共同探索過程;建立一個內(nèi)外聯(lián)動的協(xié)同共治機制,讓更多專家學者、公民融入其中,也讓每個人從人工智能中獲益。

除了聯(lián)動國內(nèi)多方參與外,還要以包容開放的心態(tài),學習借鑒國外的人工智能治理方法。比如歐盟在人工智能法提案中,設置了4種風險等級,每一個等級都有相應的監(jiān)管規(guī)則。

“立法既要包容開放,更要守住底線?!鄙虾J腥舜蟪N瘯ㄖ乒ぷ魑瘑T會主任閆銳認為,集思廣益的同時也要杜絕以法謀私的行為,底線是法律的基本框架,在框架內(nèi)暢所欲言才能積極推動人工智能立法。

排版/ 季嘉穎

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

深圳又領先一步,首部“人工智能專項立法”出臺

人工智能發(fā)展絕不能以傷害人類為代價,這是一大定律,但如何通過立法來保護人類?

文|IT時報見習記者 沈毅斌

編輯|挨踢妹

9月6日,我國首部人工智能產(chǎn)業(yè)專項立法《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》正式公布,于2022年11月1日起實施,破解人工智能落地難題的同時,《條例》還要求政府設立專門的人工智能倫理委員會,推進人工智能倫理安全規(guī)范的制訂和實施。

人工智能發(fā)展絕不能以傷害人類為代價,這是一大定律,但如何通過立法來保護人類?在2022世界人工智能大會上,上海市法學會會長崔亞東表示,人工智能法治建設已經(jīng)成為全世界的共識,要建立健全相關的法律法規(guī)、制度體系、倫理道德,形成人工智能依法治理的中國方案。

生而為人,不能被AI計算

如果一位騎手接到5個訂單,10個任務點,系統(tǒng)會在11萬條路線規(guī)劃中,完成萬單對萬人的秒級求解,算出最快的送餐路線。這段描述出自一篇爆火的調(diào)查報道《外賣騎手,困在系統(tǒng)里》。

人工智能算法可以給出最快的方案,卻將騎手的配送時間壓縮到極致,但凡多等個紅綠燈可能都會超時。騎手不得不選擇超速行駛,其生命安全與路人安全,都是人工智能考慮不到的范圍。

“我建議在AI算出的時間上,再多預留5至10分鐘;不僅是給予騎手一些可控空間,也是對人對生命的一種尊重?!鄙虾J兴痉ň指本珠L羅培新表示,人是自由且靈活的,不應該被AI所計算,人工智能發(fā)展條例制定中,以人為本是原則性規(guī)定。

就以人為本而言,復旦大學附屬華山醫(yī)院教授顧士欣舉了個例子,A方案能延長病人5年的壽命,期間病人可以正常生活,吃喝玩樂不受限制;B方案能延長病人6年的壽命,但需要服用大量昂貴藥物,且只能臥床養(yǎng)病忍受病痛。作為人來說,A方案無疑是最理想的選擇;但人工智能會選擇B方案,因為壽命延得更長。

不可否認的是,人工智能確實推動了醫(yī)療事業(yè)的發(fā)展,幫助醫(yī)生救治更多病人,但最高效便捷并不代表最好。目前,人工智能只能依靠單一的數(shù)據(jù)算出所謂的“最優(yōu)解”,而無法理解人類特有的情感、思維、倫理。要真正做到以人為本,還是需要人類自己參與判斷。

在邁向智能化、數(shù)字化時代時,人工智能治理的挑戰(zhàn)隨之而來。

“我認為對于人工智能來說,法治是最好的營商環(huán)境,也是最好的治理能力的基礎、要義和歸宿?!?上海市政協(xié)副主席周漢民認為,人工智能發(fā)展超前半步即可,治理要緊緊跟上,不能超前也不能滯后。當前需要做的就是完善“以人為本”的人工智能治理體系,加快推動立法,形成共識、廣泛的標準化條例法規(guī)和治理框架。

數(shù)據(jù)安全立法事關人人

人工智能擁有如此強大的算力,少不了數(shù)據(jù)的支撐。大數(shù)據(jù)時代下,每個人仿佛都沒了“隱私”,如何保護隱私數(shù)據(jù)安全,成為人工智能法治的重中之重。

雖然國家在2021年頒布的《中華人民共和國數(shù)據(jù)安全法》中,明確規(guī)定保障國家、企業(yè)和個人數(shù)據(jù)安全的重要性,建立健全全流程數(shù)據(jù)安全管理制度。但對于人工智能的數(shù)據(jù)運用與保護方面,并沒有相關規(guī)定。

雖然沒有系統(tǒng)的立法,但在部分法律條例中有提及數(shù)據(jù)保護。

《東方法學》一書中提到,基于數(shù)據(jù)權(quán)益保護實踐以及數(shù)據(jù)產(chǎn)權(quán)本身的特殊性,《反不正當競爭法》可以成為架構(gòu)和保護企業(yè)數(shù)據(jù)權(quán)益的重要法律。上海交通大學知識產(chǎn)權(quán)與競爭法研究院院長孔祥俊也提到,在第三次《反不正當競爭法》修訂中,將以企業(yè)數(shù)據(jù)權(quán)益保護作為重點,構(gòu)建一種既賦予排他性,又兼顧數(shù)據(jù)流通利用的商業(yè)數(shù)據(jù)弱權(quán)利保護機制。

在商業(yè)競爭中,企業(yè)用攫取競爭對手數(shù)據(jù)的方式來達到壓制對方發(fā)展,更有甚至派黑客蹲在競對樓下拖庫,《反不正當競爭法》數(shù)據(jù)保護條例出臺的初衷可能是保護企業(yè)在正當、健康的法治環(huán)境里發(fā)展,但如今卻具有普世的價值。

如何讓數(shù)據(jù)可用又安全?抖音集團數(shù)據(jù)及隱私法務負責人田申介紹,傳統(tǒng)的數(shù)據(jù)脫敏或匿名化處理保護方式,都要以犧牲部分數(shù)據(jù)維度為代價,導致數(shù)據(jù)信息無法有效被利用;而隱私計算則是在保證安全的前提下盡可能使數(shù)據(jù)價值最大化。

數(shù)據(jù)法律的確立,將給予隱私計算技術一個穩(wěn)定且準確的考量,還為技術提供了改進方向;若是將技術與相關法律進行配套,數(shù)據(jù)安全將得到最大程度的保護。

政府與企業(yè)轉(zhuǎn)變“貓鼠關系”

當汽車無法識別出行人時,究竟是優(yōu)先保護車主撞向行人,還是優(yōu)先保護行人撞向護欄?事后的判決,究竟是車主擔責,還是車企擔責?面對如此復雜多樣的問題,單靠立法機關的力量是不夠的,而是需要人人都參與到法制建設中。

“政府與企業(yè)應轉(zhuǎn)變傳統(tǒng)的貓鼠關系,發(fā)揮企業(yè)的敏捷聯(lián)動,尤其鼓勵頭部企業(yè)進行合作,共同推動行規(guī)形成?!眹倚乱淮斯ぶ悄苤卫韺I(yè)委員會主任薛瀾所提出的人工智能敏捷治理模式,需要企業(yè)參與立法,將抽象模糊的治理準則轉(zhuǎn)換成具體精準的法律法規(guī),并納入到相關政策中。同時聽取專家的專業(yè)建議和社會上的多種建議,實現(xiàn)多主體參與,全方位共同治理。

阿里研究院數(shù)據(jù)經(jīng)濟研究中心副主任傅宏宇也同樣表示,人工智能治理是一個多學科、多方面的共同探索過程;建立一個內(nèi)外聯(lián)動的協(xié)同共治機制,讓更多專家學者、公民融入其中,也讓每個人從人工智能中獲益。

除了聯(lián)動國內(nèi)多方參與外,還要以包容開放的心態(tài),學習借鑒國外的人工智能治理方法。比如歐盟在人工智能法提案中,設置了4種風險等級,每一個等級都有相應的監(jiān)管規(guī)則。

“立法既要包容開放,更要守住底線。”上海市人大常委會法制工作委員會主任閆銳認為,集思廣益的同時也要杜絕以法謀私的行為,底線是法律的基本框架,在框架內(nèi)暢所欲言才能積極推動人工智能立法。

排版/ 季嘉穎

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。