界面新聞?dòng)浾?| 于浩
界面新聞編輯 | 文姝琪
日漸成熟的AI技術(shù)正在模糊虛擬與現(xiàn)實(shí)的邊界，諸多爭(zhēng)議也隨之出現(xiàn)。
2月19日，梅西于微博上就“邁阿密國(guó)際中國(guó)香港行沒有出場(chǎng)”一事作出澄清。視頻中梅西表示，未出場(chǎng)并非是由于政治原因或其他原因，只是因?yàn)閮?nèi)收肌有炎癥，確實(shí)無法上場(chǎng)參賽。
隨后這一視頻被質(zhì)疑可能是由AI生成。質(zhì)疑者稱，該視頻畫質(zhì)模糊且存在多處剪輯痕跡，他認(rèn)為在視頻中的梅西面部反光異常、左肩膀陰影跳變過快、發(fā)型與現(xiàn)在發(fā)型有出入?；谏鲜鲆蛩?，質(zhì)疑者認(rèn)為這一視頻是可能是用巴黎時(shí)期因?yàn)槿庇?xùn)而公開道歉的視頻合成。
界面新聞隨后聯(lián)系瑞萊智慧進(jìn)行了視頻檢測(cè)。據(jù)其工作人員介紹，瑞萊智慧的生成式人工智能內(nèi)容檢測(cè)平臺(tái)DeepReal檢測(cè)結(jié)果顯示，梅西澄清視頻沒有明顯的AI生成技術(shù)痕跡。鑒定視頻是否為偽造，還需結(jié)合梅西的日常習(xí)慣、發(fā)布者賬號(hào)等常識(shí)性信息進(jìn)行聯(lián)合研判。
從技術(shù)角度來看，通過AI數(shù)字人、AI換臉變聲等手段制作一段“梅西本人視頻”并不是新鮮事。今年年初，阿里云通義千問全民舞王功能已經(jīng)能產(chǎn)出“馬斯克跳科目三”的視頻內(nèi)容，如小冰、商湯等企業(yè)推出的數(shù)字人解決方案也已經(jīng)步入商用階段，在真實(shí)程度上完成商業(yè)驗(yàn)證。
AI換臉變聲則更加普遍，以“AI換臉”為關(guān)鍵詞在視頻平臺(tái)搜索就可以很輕易找到相關(guān)教程，通過AI換臉變聲技術(shù)實(shí)施詐騙的案例在近幾年也頻繁出現(xiàn)。
多發(fā)的詐騙案例側(cè)面說明了AI生成視頻內(nèi)容質(zhì)量已達(dá)到一定水平。具體到梅西發(fā)布澄清視頻的案例中，上海哈沐科技CEO鄧庭豪認(rèn)為，上述質(zhì)疑者指出的“面部反光不自然”、“未露出牙齒”等特征因素可以作為辨別時(shí)的參考，但是并不能百分之百下定論?！癆I生成的（視頻）牙齒也可以很清晰的?！?/span>
上海哈沐科技此前曾以換臉技術(shù)為基礎(chǔ)服務(wù)出海短劇的制作，據(jù)鄧庭豪的觀察，類似澄清視頻這種講話場(chǎng)景，現(xiàn)階段的技術(shù)已經(jīng)可以做到肉眼很難分辨，AI容易出紕漏的點(diǎn)在于手指。他表示，AI很難生成正常的連續(xù)活動(dòng)的手指。布局出海短劇的易點(diǎn)天下也在嘗試使用AI換臉技術(shù)。易點(diǎn)天下KreadoAI負(fù)責(zé)人羅曉奇也指出，在手部遮擋臉部的時(shí)候，AI產(chǎn)出的內(nèi)容往往會(huì)有很大的瑕疵。
整體來看，瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪在接受界面新聞采訪時(shí)曾表示，AI生成內(nèi)容越來越逼真是近幾年的一個(gè)趨勢(shì)，個(gè)人用戶想要通過肉眼進(jìn)行分辨會(huì)很困難。
在視頻電話等場(chǎng)景下，蕭子豪建議通過讓對(duì)方做一些大幅度的搖頭、張嘴之類的動(dòng)作來嘗試辨別真?zhèn)?。在技術(shù)手段較弱的情況下，對(duì)方有可能會(huì)出現(xiàn)面部邊緣或者牙齒的瑕疵。
肉眼可能很難分辨，但是借由技術(shù)手段依然可能捕捉到一些端倪。瑞萊智慧所推出的生成式人工智能內(nèi)容檢測(cè)平臺(tái)DeepReal可對(duì)圖像、視頻、音頻內(nèi)容進(jìn)行真?zhèn)伪鎰e，在學(xué)術(shù)數(shù)據(jù)集和主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中的準(zhǔn)確率為99%以上。
據(jù)蕭子豪介紹，瑞萊智慧辨別思路大致可分為兩種，一種是尋找圖像編輯痕跡，“一般來說這類換臉都會(huì)對(duì)原先的人臉進(jìn)行編輯，做動(dòng)畫的過程中會(huì)有類似圖片編輯的操作并且留下痕跡，這類痕跡和真正拍攝時(shí)的痕跡是不一樣的。我們會(huì)檢測(cè)這類痕跡做出記錄?！笔捵雍澜忉屨f。
另一類則是檢測(cè)視頻中是否會(huì)展現(xiàn)出不符合常識(shí)的行為，如長(zhǎng)時(shí)間不眨眼等等。綜合上述特征，瑞萊智慧團(tuán)隊(duì)就可以判別是否存在深度偽造的可能性，并根據(jù)可能性大小來處置這一內(nèi)容。
與“梅西澄清視頻是否真人拍攝”相比，AI技術(shù)背后可能存在的安全隱患或許更值得公眾關(guān)注。2月初香港便出現(xiàn)了一起詐騙金額高達(dá)2億元港幣的詐騙案例，據(jù)瑞萊智慧的不完全統(tǒng)計(jì)，2023年全年AI詐騙案件在全國(guó)已發(fā)生至少16起。
隨著AI技術(shù)不斷取得新進(jìn)展，相關(guān)監(jiān)管政策也在逐步跟進(jìn)。2023年年中《生成式人工智能服務(wù)管理暫行辦法》中指出，服務(wù)提供者應(yīng)當(dāng)對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。目前，如抖音、B站等視頻平臺(tái)都已上線了相關(guān)提示功能，在有AI參與制作的視頻內(nèi)容下都出現(xiàn)了“疑似AI生成”的提示。
對(duì)于個(gè)人而言，因?yàn)樯疃葌卧熘谱鞯娜牧鲜莻€(gè)人音頻、圖片、視頻，這些數(shù)據(jù)越多訓(xùn)練出的視頻就越逼真，所以瑞萊智慧建議，可以盡量避免在公開平臺(tái)上大量曬出自己或家人的照片和視頻，給不法分子提供便利。