正在閱讀:

AI深度偽造攪局大選,歐美如何應(yīng)對(duì)?

掃一掃下載界面新聞APP

AI深度偽造攪局大選,歐美如何應(yīng)對(duì)?

歐盟的AI法案中有專門針對(duì)深度偽造的規(guī)定,但法案尚未生效。

2023年8月23日,美國洛杉磯,主持人塔克·卡爾森對(duì)美國前總統(tǒng)特朗普的采訪。圖片來源:視覺中國

記者 | 安晶

編輯|劉海川

2023年6月,支持美國共和黨新星、佛羅里達(dá)州州長羅恩·德桑蒂斯的團(tuán)隊(duì)在X平臺(tái)發(fā)布了一段與前總統(tǒng)唐納德·特朗普有關(guān)的視頻。當(dāng)時(shí)德桑蒂斯剛宣布參加2024年美國大選,是特朗普在共和黨內(nèi)的最大競(jìng)爭(zhēng)對(duì)手。

這段視頻混剪了特朗普在參加真人秀時(shí)期的“你被炒了”片段,與特朗普任總統(tǒng)時(shí)對(duì)美國國家過敏癥和傳染病研究所所長安東尼·福奇的態(tài)度做對(duì)比。

新冠疫情剛開始時(shí),福奇是白宮高級(jí)衛(wèi)生顧問,他也成為反疫苗運(yùn)動(dòng)和右翼保守派的攻擊對(duì)象。雖然與福奇不和,但特朗普多次接受媒體采訪時(shí)均表示不會(huì)解雇福奇。

德桑蒂斯的團(tuán)隊(duì)在視頻中使用了特朗普接受采訪時(shí)的音頻配以福奇的照片。視頻中有一幀是特朗普與福奇的合影錦集,錦集中有三張照片顯示特朗普擁抱福奇、親吻福奇的額頭,意圖說明特朗普與保守派厭惡的福奇關(guān)系密切。

圖片來源:X

法國媒體隨后發(fā)現(xiàn),特朗普與福奇擁抱的三張照片均為AI生成的假照片。類似的事情也出現(xiàn)在歐洲的選舉中。

去年9月底,斯洛伐克舉行國民議會(huì)選舉。在投票開始前,F(xiàn)acebook上流出一段音頻,音頻中聽上去是進(jìn)步斯洛伐克黨主席米哈爾·希梅奇卡的男子與一家主流報(bào)社的工作人員討論如何用錢來買選票。

音頻發(fā)布的時(shí)間正好是在投票前的48小時(shí)噤聲期內(nèi),政客不得再就選舉發(fā)聲。在最終投票中,希梅奇卡所在的進(jìn)步斯洛伐克黨輸給了左翼政黨方向黨。方向黨反對(duì)向?yàn)蹩颂m提供軍事援助,進(jìn)步斯洛伐克黨則是親歐盟的自由派政黨。

事后,F(xiàn)acebook上流出的音頻被認(rèn)定有AI生成的痕跡。而Facebook主要禁止發(fā)布深度偽造視頻,并沒有對(duì)音頻做出相應(yīng)要求。深度偽造是指利用深度學(xué)習(xí)算法來制作音頻、視頻、圖像,呈現(xiàn)相關(guān)人員從未說過和做過的事,或者創(chuàng)造從未存在過的人。

2024年是大選之年,全球50多個(gè)國家將舉行選舉,參選人用AI深度偽造內(nèi)容攻擊政治對(duì)手、利益團(tuán)體用偽造內(nèi)容左右選民投票、信息真假難辨影響選民對(duì)選舉的信任度成為各國的新?lián)鷳n。

在AI立法上走在全球前列的歐盟再次出手,準(zhǔn)備趕在6月的歐洲議會(huì)選舉前對(duì)深度偽造進(jìn)行管控。

當(dāng)?shù)貢r(shí)間3月14日,歐盟委員會(huì)正式向Bing、Google、Facebook、TikTok,、YouTube、X等8家平臺(tái)發(fā)出通知,要求各平臺(tái)說明其采取了哪些措施以降低與生成式AI有關(guān)的風(fēng)險(xiǎn) 。相關(guān)風(fēng)險(xiǎn)包括AI“幻覺”也就是AI制造虛假信息、深度偽造的病毒式傳播以及能誤導(dǎo)選民的自動(dòng)化處理。

針對(duì)生成式AI對(duì)選舉進(jìn)程、傳播非法信息、保護(hù)個(gè)人數(shù)據(jù)、保護(hù)未成年人等領(lǐng)域的影響,歐盟委員會(huì)還要求各平臺(tái)提供內(nèi)部資料,資料內(nèi)容包括風(fēng)險(xiǎn)評(píng)估和應(yīng)對(duì)措施。

委員會(huì)要求各平臺(tái)在4月5日結(jié)束前提交與保護(hù)選舉有關(guān)的資料,其余資料提交截止日為4月26日,不按時(shí)做出回應(yīng)的平臺(tái)可能遭到歐盟委員會(huì)罰款。

歐盟委員會(huì)此次發(fā)出的通知是基于已經(jīng)生效的《數(shù)字服務(wù)法》。該法案涉及對(duì)數(shù)字平臺(tái)的監(jiān)管,并非專門針對(duì)AI。本周三,歐洲議會(huì)正式投票批準(zhǔn)了歐盟的《人工智能法案》,該法案也是全球首部AI法。

歐盟的AI法案中有專門針對(duì)深度偽造的監(jiān)管。法案第52條規(guī)定,如果AI系統(tǒng)生成或處理的圖像、音頻、視頻內(nèi)容構(gòu)成深度偽造,則系統(tǒng)開發(fā)方應(yīng)披露相關(guān)內(nèi)容為AI生成或處理。只有在相關(guān)AI應(yīng)用與調(diào)查刑事犯罪有關(guān)或者進(jìn)行文藝創(chuàng)作時(shí),開發(fā)方才無需嚴(yán)格披露。

《人工智能法案》

該法條還對(duì)AI文本生成做出了規(guī)定。如果AI系統(tǒng)生成或處理的文本是為了讓公眾知曉與公共利益有關(guān)的信息,則開發(fā)方應(yīng)披露相關(guān)文本為AI生成或處理。但如果AI生成的相關(guān)文本經(jīng)過人類檢查或編輯,并且有自然人或法人對(duì)內(nèi)容發(fā)布承擔(dān)編輯責(zé)任,則無需披露文本為AI生成。

雖然對(duì)深度偽造進(jìn)行了約束,但歐盟的首部AI法案還在進(jìn)行最后的法律術(shù)語檢查,只有在歐盟官方公報(bào)上公布后20天才能正式生效。法案執(zhí)行的時(shí)間則根據(jù)內(nèi)容各有不同,部分內(nèi)容為生效6個(gè)月后執(zhí)行,部分為12個(gè)月。這也意味著,今年的歐洲議會(huì)選舉前,歐盟的AI法將無法發(fā)揮作用。

在總統(tǒng)大選已經(jīng)拉開帷幕的美國,今年以來AI深度偽造已多次攪局:新罕布什爾州初選前,AI偽造的約瑟夫·拜登音頻通過電話呼吁選民不要參加初選投票,把選票留到11月的最終對(duì)決;AI偽造的照片顯示特朗普曾搭乘杰弗里·愛潑斯坦的飛機(jī)前往“蘿莉島”,愛潑斯坦被控組織未成年少女從事性交易。

“蘿莉島”照片事件后,特朗普憤怒發(fā)聲,警告AI將在未來成為一個(gè)大危險(xiǎn),呼吁制定“強(qiáng)有力的法律”監(jiān)管AI。

但在美國聯(lián)邦層面,距離出臺(tái)全國實(shí)施的AI法還非常遙遠(yuǎn)。今年2月,也就是美國大選初選已經(jīng)開始后,美國眾議院才宣布成立跨黨派工作組研究針對(duì)AI的立法。

對(duì)于大選中已經(jīng)出現(xiàn)的深度偽造問題,目前美國的處理辦法是由聯(lián)邦通信委員會(huì)依照具體情況頒禁令。上月,美國聯(lián)邦通信委員會(huì)宣布禁止用AI生成的聲音撥打自動(dòng)語音電話,明確該行為違反1991年的《電話消費(fèi)者保護(hù)法》。

美國消費(fèi)者權(quán)益組織Public Citizen去年向聯(lián)邦通信委員會(huì)發(fā)起申訴,要求委員會(huì)修改規(guī)章,明確故意使用AI生成內(nèi)容歪曲競(jìng)選候選人或政黨立場(chǎng)的行為是違法行為。聯(lián)邦通信委員會(huì)接收了申訴,但還沒有做出決定。

相比聯(lián)邦機(jī)構(gòu),美國各州對(duì)在州范圍內(nèi)制定AI法更為積極。

圖片來源:Public Citizen

Public Citizen統(tǒng)計(jì)顯示目前美國有43個(gè)州提出了70項(xiàng)法案限制AI在選舉中的使用,這70項(xiàng)法案中有7項(xiàng)已生效。在密歇根州,去年11月生效的法案禁止個(gè)人在選舉前90天內(nèi)發(fā)布破壞候選人名譽(yù)、扭曲候選人立場(chǎng)、試圖影響選民行為的AI生成深度偽造內(nèi)容。

但這70項(xiàng)法案中有至少30項(xiàng)是今年才提出,從州議會(huì)討論到正式投票還需經(jīng)過漫長的過程。深度偽造在今年的美國大選已無法避免,未知數(shù)僅在于這些偽造內(nèi)容將對(duì)選民產(chǎn)生多大影響。

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。

評(píng)論

暫無評(píng)論哦,快來評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

AI深度偽造攪局大選,歐美如何應(yīng)對(duì)?

歐盟的AI法案中有專門針對(duì)深度偽造的規(guī)定,但法案尚未生效。

2023年8月23日,美國洛杉磯,主持人塔克·卡爾森對(duì)美國前總統(tǒng)特朗普的采訪。圖片來源:視覺中國

記者 | 安晶

編輯|劉海川

2023年6月,支持美國共和黨新星、佛羅里達(dá)州州長羅恩·德桑蒂斯的團(tuán)隊(duì)在X平臺(tái)發(fā)布了一段與前總統(tǒng)唐納德·特朗普有關(guān)的視頻。當(dāng)時(shí)德桑蒂斯剛宣布參加2024年美國大選,是特朗普在共和黨內(nèi)的最大競(jìng)爭(zhēng)對(duì)手。

這段視頻混剪了特朗普在參加真人秀時(shí)期的“你被炒了”片段,與特朗普任總統(tǒng)時(shí)對(duì)美國國家過敏癥和傳染病研究所所長安東尼·福奇的態(tài)度做對(duì)比。

新冠疫情剛開始時(shí),福奇是白宮高級(jí)衛(wèi)生顧問,他也成為反疫苗運(yùn)動(dòng)和右翼保守派的攻擊對(duì)象。雖然與福奇不和,但特朗普多次接受媒體采訪時(shí)均表示不會(huì)解雇福奇。

德桑蒂斯的團(tuán)隊(duì)在視頻中使用了特朗普接受采訪時(shí)的音頻配以福奇的照片。視頻中有一幀是特朗普與福奇的合影錦集,錦集中有三張照片顯示特朗普擁抱福奇、親吻福奇的額頭,意圖說明特朗普與保守派厭惡的福奇關(guān)系密切。

圖片來源:X

法國媒體隨后發(fā)現(xiàn),特朗普與福奇擁抱的三張照片均為AI生成的假照片。類似的事情也出現(xiàn)在歐洲的選舉中。

去年9月底,斯洛伐克舉行國民議會(huì)選舉。在投票開始前,F(xiàn)acebook上流出一段音頻,音頻中聽上去是進(jìn)步斯洛伐克黨主席米哈爾·希梅奇卡的男子與一家主流報(bào)社的工作人員討論如何用錢來買選票。

音頻發(fā)布的時(shí)間正好是在投票前的48小時(shí)噤聲期內(nèi),政客不得再就選舉發(fā)聲。在最終投票中,希梅奇卡所在的進(jìn)步斯洛伐克黨輸給了左翼政黨方向黨。方向黨反對(duì)向?yàn)蹩颂m提供軍事援助,進(jìn)步斯洛伐克黨則是親歐盟的自由派政黨。

事后,F(xiàn)acebook上流出的音頻被認(rèn)定有AI生成的痕跡。而Facebook主要禁止發(fā)布深度偽造視頻,并沒有對(duì)音頻做出相應(yīng)要求。深度偽造是指利用深度學(xué)習(xí)算法來制作音頻、視頻、圖像,呈現(xiàn)相關(guān)人員從未說過和做過的事,或者創(chuàng)造從未存在過的人。

2024年是大選之年,全球50多個(gè)國家將舉行選舉,參選人用AI深度偽造內(nèi)容攻擊政治對(duì)手、利益團(tuán)體用偽造內(nèi)容左右選民投票、信息真假難辨影響選民對(duì)選舉的信任度成為各國的新?lián)鷳n。

在AI立法上走在全球前列的歐盟再次出手,準(zhǔn)備趕在6月的歐洲議會(huì)選舉前對(duì)深度偽造進(jìn)行管控。

當(dāng)?shù)貢r(shí)間3月14日,歐盟委員會(huì)正式向Bing、Google、Facebook、TikTok,、YouTube、X等8家平臺(tái)發(fā)出通知,要求各平臺(tái)說明其采取了哪些措施以降低與生成式AI有關(guān)的風(fēng)險(xiǎn) 。相關(guān)風(fēng)險(xiǎn)包括AI“幻覺”也就是AI制造虛假信息、深度偽造的病毒式傳播以及能誤導(dǎo)選民的自動(dòng)化處理。

針對(duì)生成式AI對(duì)選舉進(jìn)程、傳播非法信息、保護(hù)個(gè)人數(shù)據(jù)、保護(hù)未成年人等領(lǐng)域的影響,歐盟委員會(huì)還要求各平臺(tái)提供內(nèi)部資料,資料內(nèi)容包括風(fēng)險(xiǎn)評(píng)估和應(yīng)對(duì)措施。

委員會(huì)要求各平臺(tái)在4月5日結(jié)束前提交與保護(hù)選舉有關(guān)的資料,其余資料提交截止日為4月26日,不按時(shí)做出回應(yīng)的平臺(tái)可能遭到歐盟委員會(huì)罰款。

歐盟委員會(huì)此次發(fā)出的通知是基于已經(jīng)生效的《數(shù)字服務(wù)法》。該法案涉及對(duì)數(shù)字平臺(tái)的監(jiān)管,并非專門針對(duì)AI。本周三,歐洲議會(huì)正式投票批準(zhǔn)了歐盟的《人工智能法案》,該法案也是全球首部AI法。

歐盟的AI法案中有專門針對(duì)深度偽造的監(jiān)管。法案第52條規(guī)定,如果AI系統(tǒng)生成或處理的圖像、音頻、視頻內(nèi)容構(gòu)成深度偽造,則系統(tǒng)開發(fā)方應(yīng)披露相關(guān)內(nèi)容為AI生成或處理。只有在相關(guān)AI應(yīng)用與調(diào)查刑事犯罪有關(guān)或者進(jìn)行文藝創(chuàng)作時(shí),開發(fā)方才無需嚴(yán)格披露。

《人工智能法案》

該法條還對(duì)AI文本生成做出了規(guī)定。如果AI系統(tǒng)生成或處理的文本是為了讓公眾知曉與公共利益有關(guān)的信息,則開發(fā)方應(yīng)披露相關(guān)文本為AI生成或處理。但如果AI生成的相關(guān)文本經(jīng)過人類檢查或編輯,并且有自然人或法人對(duì)內(nèi)容發(fā)布承擔(dān)編輯責(zé)任,則無需披露文本為AI生成。

雖然對(duì)深度偽造進(jìn)行了約束,但歐盟的首部AI法案還在進(jìn)行最后的法律術(shù)語檢查,只有在歐盟官方公報(bào)上公布后20天才能正式生效。法案執(zhí)行的時(shí)間則根據(jù)內(nèi)容各有不同,部分內(nèi)容為生效6個(gè)月后執(zhí)行,部分為12個(gè)月。這也意味著,今年的歐洲議會(huì)選舉前,歐盟的AI法將無法發(fā)揮作用。

在總統(tǒng)大選已經(jīng)拉開帷幕的美國,今年以來AI深度偽造已多次攪局:新罕布什爾州初選前,AI偽造的約瑟夫·拜登音頻通過電話呼吁選民不要參加初選投票,把選票留到11月的最終對(duì)決;AI偽造的照片顯示特朗普曾搭乘杰弗里·愛潑斯坦的飛機(jī)前往“蘿莉島”,愛潑斯坦被控組織未成年少女從事性交易。

“蘿莉島”照片事件后,特朗普憤怒發(fā)聲,警告AI將在未來成為一個(gè)大危險(xiǎn),呼吁制定“強(qiáng)有力的法律”監(jiān)管AI。

但在美國聯(lián)邦層面,距離出臺(tái)全國實(shí)施的AI法還非常遙遠(yuǎn)。今年2月,也就是美國大選初選已經(jīng)開始后,美國眾議院才宣布成立跨黨派工作組研究針對(duì)AI的立法。

對(duì)于大選中已經(jīng)出現(xiàn)的深度偽造問題,目前美國的處理辦法是由聯(lián)邦通信委員會(huì)依照具體情況頒禁令。上月,美國聯(lián)邦通信委員會(huì)宣布禁止用AI生成的聲音撥打自動(dòng)語音電話,明確該行為違反1991年的《電話消費(fèi)者保護(hù)法》。

美國消費(fèi)者權(quán)益組織Public Citizen去年向聯(lián)邦通信委員會(huì)發(fā)起申訴,要求委員會(huì)修改規(guī)章,明確故意使用AI生成內(nèi)容歪曲競(jìng)選候選人或政黨立場(chǎng)的行為是違法行為。聯(lián)邦通信委員會(huì)接收了申訴,但還沒有做出決定。

相比聯(lián)邦機(jī)構(gòu),美國各州對(duì)在州范圍內(nèi)制定AI法更為積極。

圖片來源:Public Citizen

Public Citizen統(tǒng)計(jì)顯示目前美國有43個(gè)州提出了70項(xiàng)法案限制AI在選舉中的使用,這70項(xiàng)法案中有7項(xiàng)已生效。在密歇根州,去年11月生效的法案禁止個(gè)人在選舉前90天內(nèi)發(fā)布破壞候選人名譽(yù)、扭曲候選人立場(chǎng)、試圖影響選民行為的AI生成深度偽造內(nèi)容。

但這70項(xiàng)法案中有至少30項(xiàng)是今年才提出,從州議會(huì)討論到正式投票還需經(jīng)過漫長的過程。深度偽造在今年的美國大選已無法避免,未知數(shù)僅在于這些偽造內(nèi)容將對(duì)選民產(chǎn)生多大影響。

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。