界面新聞記者 | 劉子象
界面新聞編輯 | 劉海川
人工智能正在改變這個世界，但是我們將被帶往哪個方向令人不安。2024年2月16日，科技界再次被這一技術(shù)的新進(jìn)展攪動。繼推出開啟人工智能技術(shù)新浪潮的聊天機(jī)器人ChatGPT之后，OpenAI又發(fā)布首個文字生成視頻模型Sora，目前可以基于文本直接輸出60秒的視頻，足以模糊真實和虛構(gòu)的界限，再次激起全球熱議。
同一天，在德國舉行的慕尼黑安全會議（MSC）上，20家人工智能相關(guān)行業(yè)公司簽署自愿協(xié)議，承諾打擊這一新技術(shù)生成欺騙性信息擾亂全球選舉。
據(jù)聯(lián)合聲明，簽署方包括了這一領(lǐng)域的主要玩家，比如人工智能模型公司OpenAI、Anthropic和谷歌等，以及可能幫助其傳播的社交媒體平臺，比如TikTok 、X，以及Facebook和Instagram的母公司Meta等。
值得注意的是，另一個流行的人工智能圖像生成器公司Midjourney缺席。截至發(fā)稿，這家總部位于舊金山的初創(chuàng)公司沒有立即回應(yīng)媒體置評請求。
2024年是前所未有的選舉年，40多個國家的40多億人將參加投票。據(jù)咨詢公司Anchor Change的數(shù)據(jù)，今年全球預(yù)計將舉行至少83場大選，這是至少未來24年內(nèi)最大規(guī)模的選舉年。
最近幾周，孟加拉國、巴基斯坦和印度尼西亞等地民眾都參加了投票，美國、俄羅斯、烏克蘭、歐洲議會、印度等地也將陸續(xù)舉行大選。
為了防止人工智能新技術(shù)生成的虛假信息被用于政治目的，上述20家公司做出8項具體承諾，這包括：合作開發(fā)相關(guān)開源工具，以減少涉及選舉的欺騙性人工智能生成內(nèi)容；設(shè)法檢測此類內(nèi)容的在線傳播情況；推動教育活動，提高公眾防范意識和媒體素養(yǎng)等，以培養(yǎng)跨行業(yè)抵御此類內(nèi)容的能力等。
不過，協(xié)議承諾的模糊性和缺乏強(qiáng)制約束力被批評者詬病。
美國“兩黨政策中心”選舉項目高級副主任奧雷 (Rachel Orey) 認(rèn)為協(xié)議措辭“并不像人們想象中那么強(qiáng)烈”。
非政府組織“公共公民”執(zhí)行副總裁吉爾伯特（Lisa Gilbert）表示協(xié)議力度“還不夠”。她認(rèn)為為了避免潛在問題，人工智能公司應(yīng)該在實質(zhì)性和充分的保障措施到位前，“抑制技術(shù)”發(fā)展速度，最新發(fā)布的文生視頻模型令她尤其擔(dān)憂。
然而，OpenAI的合作伙伴微軟則認(rèn)為在技術(shù)進(jìn)步這一議題上，我們面臨的“最基本挑戰(zhàn)不在技術(shù)本身，而是人性”。微軟公司總裁布拉德·史密斯在一份聲明中稱，總體上來看，最新協(xié)議的承諾提高了行業(yè)的檢測和響應(yīng)能力，將使不良行為者更難使用合法工具制造誤導(dǎo)性內(nèi)容。
前Facebook數(shù)據(jù)科學(xué)家艾倫（Jeff Allen）對美聯(lián)社表示協(xié)議是“積極的一步”，但他仍然希望社交媒體公司采取其他行動來打擊錯誤信息，比如建立不把用戶參與度放在首位的內(nèi)容推薦系統(tǒng)。
歐盟委員會副主席朱羅娃（(Vera Jourová）在慕尼黑安全會議上指出，雖然這個協(xié)議并不全面，但它包含了“非常有影響力和積極的元素?！彼€敦促政界人士承擔(dān)起責(zé)任，不要以欺騙性方式使用人工智能工具。
人工智能干預(yù)選舉的現(xiàn)象已經(jīng)出現(xiàn)。
在美國，上個月新罕布什爾州初選中投票期間，有選民稱接收到了模仿美國總統(tǒng)拜登聲音的人工智能機(jī)器人電話，勸阻他們不要投票。這引發(fā)了監(jiān)管和法律的抵制，美國一些州立法者正在起草法案來規(guī)范人工智能生成的政治內(nèi)容。
在歐洲，2023年11月斯洛伐克大選前幾天，人工智能生成的錄音冒充一名候選人，討論提高啤酒價格和操縱選舉的計劃。錄音在社交媒體上傳播后，引起當(dāng)局核查。
政客也開始嘗試用這項技術(shù)與選民溝通。上周巴基斯坦舉行國民議會選舉，該國兩個前總理伊姆蘭·汗以及納瓦茲·謝里夫雙雙宣布勝選。正在監(jiān)獄中的伊姆蘭·汗還使用人工智能制作的“真人講話”視頻宣布勝利消息，引發(fā)外界關(guān)注。自入獄以來，伊姆蘭·汗一直用人工智能合成信息與選民溝通。
對于不斷推陳出新的這一新技術(shù)進(jìn)展，OpenAI的最大競爭對手Anthrophic表示，人工智能新技術(shù)的應(yīng)用充滿了驚喜和意想不到的影響，“我們預(yù)計2024年人工智能系統(tǒng)將會出現(xiàn)令人驚訝的用途，這些用途將是開發(fā)人員沒有預(yù)料到的?！?/p>