文|創(chuàng)瞰巴黎 Sirine Azouaoui

編輯|Meister Xia

導(dǎo)讀

隨著虛擬化身技術(shù)的崛起，人們可以通過與逝者的聊天機(jī)器人互動，延續(xù)與已故親人的交流。然而，這一技術(shù)引發(fā)了眾多爭議和擔(dān)憂，如心理影響、數(shù)據(jù)使用等問題。在這個充滿可能性和挑戰(zhàn)的新領(lǐng)域中，我們需要認(rèn)真思考：逝者機(jī)器人的出現(xiàn)是否邁出了道德和社會的界限？人們在對待逝者數(shù)據(jù)時應(yīng)該如何平衡尊重與隱私保護(hù)的關(guān)系？AI技術(shù)的快速發(fā)展是否需要更加嚴(yán)格的監(jiān)管和規(guī)范？

一覽：

• AI的最新進(jìn)展，讓逝者的數(shù)字化保存技術(shù)更上一層樓。
• 一些企業(yè)正在開發(fā)虛擬永生技術(shù)，基于逝者在網(wǎng)上留下的信息，生成一個虛擬化身或聊天機(jī)器人，供人們與逝者交流，以這種方式“延續(xù)生命”。
• 這些虛擬化身利用生成式AI技術(shù)，通過學(xué)習(xí)逝者生前的錄音、信息、趣聞軼事等數(shù)據(jù)來生成內(nèi)容。
• 盡管AI技術(shù)已經(jīng)取得了諸多進(jìn)展，但現(xiàn)階段的虛擬化身仍不完美，專業(yè)人士擔(dān)心用戶會誤以為聊天機(jī)器人是人類、產(chǎn)生依戀心理，并逐漸與世隔絕。
• 我們需要幫助用戶了解這些工具的風(fēng)險和挑戰(zhàn)，并明確數(shù)據(jù)使用權(quán)的歸屬，從而為相關(guān)實(shí)踐提供一個規(guī)范框架。

人們離世后，留下的個人數(shù)據(jù)將何去何從？其實(shí)，很多都會保留在數(shù)字空間中，如網(wǎng)站和社交平臺上的個人資料等。不少網(wǎng)絡(luò)平臺都開辟了紀(jì)念功能，比如，當(dāng)臉書（Facebook）用戶離世后，賬戶便會被設(shè)為悼念帳戶，供人們悼念逝者、留言，并發(fā)布照片。

如今，有了人工智能（AI）技術(shù)的助力，我們能夠進(jìn)一步升級對逝者的數(shù)字化保存。比如，一些企業(yè)正在開發(fā)虛擬永生技術(shù)，基于逝者在網(wǎng)上留下的信息，生成一個虛擬化身或聊天機(jī)器人，供人們與逝者交流，以這種方式“延續(xù)生命”。早在2017年，微軟就申請了一項(xiàng)基于個人數(shù)據(jù)創(chuàng)建對話替身的專利，并于四年后獲得批準(zhǔn)。他們的想法是，創(chuàng)建一個虛擬化身來賦予逝者生命?！叭藗兛傁Ｍ约耗軕?zhàn)無不勝、長生不老，對死亡的抗拒可謂是刻在骨子里，”法國索邦大學(xué)AI專業(yè)教授Laurence Devillers解釋說，“這樣說來，如果每個人都愿意付費(fèi)在逝去后生成一個虛擬化身或是聊天機(jī)器人，那將極具經(jīng)濟(jì)效益?！?/p>

自2017年之后，一個全新的行業(yè)如雨后春筍般出現(xiàn)。2018年，美國記者James Vlahos開發(fā)了一個聊天機(jī)器人，經(jīng)過訓(xùn)練后，說話口吻與其因癌癥去世的父親一模一樣。在父親生前， Vlahos對父親進(jìn)行了采訪，并全程錄音。隨后，Vlahos與他人共同創(chuàng)辦了一個“交互式記憶應(yīng)用”平臺，名為HereAfter AI。這一平臺可以在人們在世時記錄下他們的故事、回憶，并留下錄音，在他們?nèi)ナ篮笠粤奶鞕C(jī)器人的方式繼續(xù)與親朋好友對話。許多初創(chuàng)公司都提供創(chuàng)建數(shù)字化身的服務(wù)，讓人們在死后繼續(xù)“存在”在世上。韓國企業(yè)Deepbrain AI推出了一種名為Re:memory的技術(shù)，用戶只需花費(fèi)一萬美元，便可通過投射影像的方式，與一個具有逝者面容、聲音和表情的虛擬化身互動。英國企業(yè)Somnium Space則是想要更上一層樓，讓用戶在元宇宙中享受與逝者的沉浸式互動。

01 基于海量數(shù)據(jù)創(chuàng)建虛擬化身

生成式AI的快速發(fā)展讓上述設(shè)想成為了現(xiàn)實(shí)。當(dāng)前，網(wǎng)絡(luò)上普遍存在各種聊天機(jī)器人，能在語義上理解用戶的語言輸入，并做出回復(fù)。類似地，“逝者機(jī)器人”在學(xué)習(xí)數(shù)十億條數(shù)據(jù)后，可以模仿人類進(jìn)行對話。無論是錄音、電子郵件、短信、來自別人的評價、還是生平事跡都可以作為資料，來創(chuàng)建虛擬化身。Devillers解釋道：“計算機(jī)會從死者的現(xiàn)有數(shù)據(jù)中尋找規(guī)律。生成式AI可以為大量數(shù)據(jù)建模，并為其配備人像和聲音。當(dāng)與用戶開展對話時，AI會在這個龐大的模型中搜索被觸發(fā)的相關(guān)信息，這樣一來，AI可能會說出一些死者從未說出口的話?！?/p>

這些算法會讓人產(chǎn)生與逝者交談的錯覺。在Devillers看來，這是且只是一種錯覺。提供這些服務(wù)的初創(chuàng)公司通過復(fù)制逝者的樣貌、聲音和說話方式，讓逝者得以“永生”，或是延續(xù)記憶。但是，這些“逝者機(jī)器人”永遠(yuǎn)無法完美重現(xiàn)逝者。Laurence警告說：“從當(dāng)前的技術(shù)水平來看，聲音的模仿度已幾近完美，詞匯的選擇也極為貼切，但與完美之間永遠(yuǎn)存在著距離。機(jī)器也不可避免地會犯錯，甚至胡編亂造?！?/p>

“該技術(shù)是好是壞還不能蓋棺定論，但從社會層面而言，我們還沒有做好充分準(zhǔn)備?！?/p>

AI就像一個基于數(shù)據(jù)統(tǒng)計的預(yù)測器。當(dāng)用戶與AI進(jìn)行對話時，算法會根據(jù)話題在數(shù)據(jù)庫中尋找答案。當(dāng)沒有現(xiàn)成答案時，算法只能使用相關(guān)性最高的內(nèi)容，這意味著生成的結(jié)果未必是當(dāng)事人會給出的回答。更重要的是，AI并不會隨時間的推移而調(diào)整與用戶之間的對話?！澳Ｐ捅澈蟮臄?shù)據(jù)擁有豐富的內(nèi)容，覆蓋多個語境。所以會帶來錯覺，讓我們以為機(jī)器會根據(jù)提問來調(diào)整回答。但事實(shí)上，機(jī)器是在記錄對話歷史，根據(jù)用戶的提問和回答不斷豐富語料庫，從而變得越來越精確。或許，未來能開發(fā)出會隨我們而調(diào)整的技術(shù)，但明天尚未到來?！?/p>

02 用戶面臨的重大風(fēng)險

因此，“逝者機(jī)器人”技術(shù)并不旨在讓人們實(shí)現(xiàn)永生，反而更像是為記憶注入生命，用“活著的記憶”來與用戶進(jìn)行對話和互動。這些技術(shù)的開發(fā)者聲稱，它們不僅可以幫助我們更好地了解祖先，還可以用于寄托哀思。然而，我們遠(yuǎn)遠(yuǎn)無法斷言這些工具絲毫不存在負(fù)面影響。2021年，法國國家數(shù)字倫理試點(diǎn)委員會（CNPEN）與Devillers合著了一份報告，其中指出了常見聊天機(jī)器人（如商業(yè)網(wǎng)站上使用的類型）的風(fēng)險。用戶可能會在不知情的情況下，誤以為自己是在與人類對話，并產(chǎn)生依戀心理。在Devillers看來，當(dāng)聊天機(jī)器人長得與已故親人一模一樣，并用他們的聲音訴說往事時，產(chǎn)生誤會的風(fēng)險會更高。她擔(dān)心，“逝者機(jī)器人可能會延長悼念的過程，使分離和痛苦的感覺更持久。這樣一來，我們與機(jī)器人的關(guān)系會變得更加難以界定。而且，人們對逝者心存愛意，也許會與聊天機(jī)器人難舍難分?！?/p>

由于機(jī)器不具備真正的推理能力或道德觀念，因此風(fēng)險更大。報告指出，逝者機(jī)器人可能會帶來“恐怖谷效應(yīng)”。例如，聊天機(jī)器人可能會說出令人反感的話，或是在一連串正常的應(yīng)答之后，說出逝者完全不可能說出的話。作者們擔(dān)心，這種效應(yīng)會導(dǎo)致晴天霹靂般的心理痛苦。Devillers還指出，人們可能會對這些機(jī)器人上癮，從而變得更為孤僻。

03 社會層面需對此類工具開展評估

除了擔(dān)心這些技術(shù)可能對用戶產(chǎn)生的心理影響之外，數(shù)據(jù)的使用方面也惹人擔(dān)憂。為了創(chuàng)建這些虛擬化身，AI算法需要從逝者處獲取大量數(shù)據(jù)。根據(jù)2016年的法國《數(shù)字共和國法》（Law for a Digital Republic），人們可以選擇保留、刪除或使用個人數(shù)據(jù)，并可以指派他人來執(zhí)行上述決策。然而，隨著逝者機(jī)器人的不斷涌現(xiàn)，收集、存儲和使用逝者數(shù)據(jù)也引發(fā)了一系列討論：兒童是否享有對數(shù)據(jù)的決策權(quán)？虛擬化身及其數(shù)據(jù)的使用是否要設(shè)置有效期？Devillers解釋道：“現(xiàn)狀是，聊天機(jī)器人開發(fā)商會與用戶簽訂合同，由用戶決定其個人數(shù)據(jù)的使用情況?！?/p>

逝者機(jī)器人市場仍處于起步階段，用戶今后是否會每天大量使用這些工具仍是未知。不過，虛擬化身服務(wù)近年來正如雨后春筍般涌現(xiàn)。隨著聯(lián)網(wǎng)技術(shù)的發(fā)展，對話機(jī)器人可能會成為我們?nèi)粘Ｉ钪胁豢苫蛉钡囊徊糠?。Devillers認(rèn)為，社會層面需要對這些工具的使用展開集體討論。“該技術(shù)是好是壞還不能蓋棺定論，但從社會層面而言，我們還沒有做好充分準(zhǔn)備。我們需要幫助用戶了解AI的挑戰(zhàn)和風(fēng)險?！盌evillers還主張成立一個委員會，通過制定規(guī)則來規(guī)范相關(guān)做法。她總結(jié)道：“上述實(shí)踐將產(chǎn)生社會影響，因此，我們迫切需要嚴(yán)肅對待這一議題。相關(guān)決策不應(yīng)留給少數(shù)資本家來做?！?/p>

參考資料

Report by the French National Digital Ethics Committee on conversational agents, 2021