正在閱讀:

離世后,能以AI虛擬化身的形式“延續(xù)生命”嗎?

掃一掃下載界面新聞APP

離世后,能以AI虛擬化身的形式“延續(xù)生命”嗎?

逝者機(jī)器人的出現(xiàn)是否邁出了道德和社會的界限?人們在對待逝者數(shù)據(jù)時應(yīng)該如何平衡尊重與隱私保護(hù)的關(guān)系?

文|創(chuàng)瞰巴黎 Sirine Azouaoui

編輯|Meister Xia

導(dǎo)讀

隨著虛擬化身技術(shù)的崛起,人們可以通過與逝者的聊天機(jī)器人互動,延續(xù)與已故親人的交流。然而,這一技術(shù)引發(fā)了眾多爭議和擔(dān)憂,如心理影響、數(shù)據(jù)使用等問題。在這個充滿可能性和挑戰(zhàn)的新領(lǐng)域中,我們需要認(rèn)真思考:逝者機(jī)器人的出現(xiàn)是否邁出了道德和社會的界限?人們在對待逝者數(shù)據(jù)時應(yīng)該如何平衡尊重與隱私保護(hù)的關(guān)系?AI技術(shù)的快速發(fā)展是否需要更加嚴(yán)格的監(jiān)管和規(guī)范?

一覽:

  • AI的最新進(jìn)展,讓逝者的數(shù)字化保存技術(shù)更上一層樓。
  • 一些企業(yè)正在開發(fā)虛擬永生技術(shù),基于逝者在網(wǎng)上留下的信息,生成一個虛擬化身或聊天機(jī)器人,供人們與逝者交流,以這種方式“延續(xù)生命”。
  • 這些虛擬化身利用生成式AI技術(shù),通過學(xué)習(xí)逝者生前的錄音、信息、趣聞軼事等數(shù)據(jù)來生成內(nèi)容。
  • 盡管AI技術(shù)已經(jīng)取得了諸多進(jìn)展,但現(xiàn)階段的虛擬化身仍不完美,專業(yè)人士擔(dān)心用戶會誤以為聊天機(jī)器人是人類、產(chǎn)生依戀心理,并逐漸與世隔絕。
  • 我們需要幫助用戶了解這些工具的風(fēng)險和挑戰(zhàn),并明確數(shù)據(jù)使用權(quán)的歸屬,從而為相關(guān)實(shí)踐提供一個規(guī)范框架。

人們離世后,留下的個人數(shù)據(jù)將何去何從?其實(shí),很多都會保留在數(shù)字空間中,如網(wǎng)站和社交平臺上的個人資料等。不少網(wǎng)絡(luò)平臺都開辟了紀(jì)念功能,比如,當(dāng)臉書(Facebook)用戶離世后,賬戶便會被設(shè)為悼念帳戶,供人們悼念逝者、留言,并發(fā)布照片。

如今,有了人工智能(AI)技術(shù)的助力,我們能夠進(jìn)一步升級對逝者的數(shù)字化保存。比如,一些企業(yè)正在開發(fā)虛擬永生技術(shù),基于逝者在網(wǎng)上留下的信息,生成一個虛擬化身或聊天機(jī)器人,供人們與逝者交流,以這種方式“延續(xù)生命”。早在2017年,微軟就申請了一項(xiàng)基于個人數(shù)據(jù)創(chuàng)建對話替身的專利,并于四年后獲得批準(zhǔn)。他們的想法是,創(chuàng)建一個虛擬化身來賦予逝者生命。“人們總希望自己能戰(zhàn)無不勝、長生不老,對死亡的抗拒可謂是刻在骨子里,”法國索邦大學(xué)AI專業(yè)教授Laurence Devillers解釋說,“這樣說來,如果每個人都愿意付費(fèi)在逝去后生成一個虛擬化身或是聊天機(jī)器人,那將極具經(jīng)濟(jì)效益?!?/p>

自2017年之后,一個全新的行業(yè)如雨后春筍般出現(xiàn)。2018年,美國記者James Vlahos開發(fā)了一個聊天機(jī)器人,經(jīng)過訓(xùn)練后,說話口吻與其因癌癥去世的父親一模一樣。在父親生前, Vlahos對父親進(jìn)行了采訪,并全程錄音。隨后,Vlahos與他人共同創(chuàng)辦了一個“交互式記憶應(yīng)用”平臺,名為HereAfter AI。這一平臺可以在人們在世時記錄下他們的故事、回憶,并留下錄音,在他們?nèi)ナ篮笠粤奶鞕C(jī)器人的方式繼續(xù)與親朋好友對話。許多初創(chuàng)公司都提供創(chuàng)建數(shù)字化身的服務(wù),讓人們在死后繼續(xù)“存在”在世上。韓國企業(yè)Deepbrain AI推出了一種名為Re:memory的技術(shù),用戶只需花費(fèi)一萬美元,便可通過投射影像的方式,與一個具有逝者面容、聲音和表情的虛擬化身互動。英國企業(yè)Somnium Space則是想要更上一層樓,讓用戶在元宇宙中享受與逝者的沉浸式互動。

01 基于海量數(shù)據(jù)創(chuàng)建虛擬化身

生成式AI的快速發(fā)展讓上述設(shè)想成為了現(xiàn)實(shí)。當(dāng)前,網(wǎng)絡(luò)上普遍存在各種聊天機(jī)器人,能在語義上理解用戶的語言輸入,并做出回復(fù)。類似地,“逝者機(jī)器人”在學(xué)習(xí)數(shù)十億條數(shù)據(jù)后,可以模仿人類進(jìn)行對話。無論是錄音、電子郵件、短信、來自別人的評價、還是生平事跡都可以作為資料,來創(chuàng)建虛擬化身。Devillers解釋道:“計算機(jī)會從死者的現(xiàn)有數(shù)據(jù)中尋找規(guī)律。生成式AI可以為大量數(shù)據(jù)建模,并為其配備人像和聲音。當(dāng)與用戶開展對話時,AI會在這個龐大的模型中搜索被觸發(fā)的相關(guān)信息,這樣一來,AI可能會說出一些死者從未說出口的話。”

這些算法會讓人產(chǎn)生與逝者交談的錯覺。在Devillers看來,這是且只是一種錯覺。提供這些服務(wù)的初創(chuàng)公司通過復(fù)制逝者的樣貌、聲音和說話方式,讓逝者得以“永生”,或是延續(xù)記憶。但是,這些“逝者機(jī)器人”永遠(yuǎn)無法完美重現(xiàn)逝者。Laurence警告說:“從當(dāng)前的技術(shù)水平來看,聲音的模仿度已幾近完美,詞匯的選擇也極為貼切,但與完美之間永遠(yuǎn)存在著距離。機(jī)器也不可避免地會犯錯,甚至胡編亂造?!?/p>

“該技術(shù)是好是壞還不能蓋棺定論,但從社會層面而言,我們還沒有做好充分準(zhǔn)備?!?/p>

AI就像一個基于數(shù)據(jù)統(tǒng)計的預(yù)測器。當(dāng)用戶與AI進(jìn)行對話時,算法會根據(jù)話題在數(shù)據(jù)庫中尋找答案。當(dāng)沒有現(xiàn)成答案時,算法只能使用相關(guān)性最高的內(nèi)容,這意味著生成的結(jié)果未必是當(dāng)事人會給出的回答。更重要的是,AI并不會隨時間的推移而調(diào)整與用戶之間的對話?!澳P捅澈蟮臄?shù)據(jù)擁有豐富的內(nèi)容,覆蓋多個語境。所以會帶來錯覺,讓我們以為機(jī)器會根據(jù)提問來調(diào)整回答。但事實(shí)上,機(jī)器是在記錄對話歷史,根據(jù)用戶的提問和回答不斷豐富語料庫,從而變得越來越精確?;蛟S,未來能開發(fā)出會隨我們而調(diào)整的技術(shù),但明天尚未到來?!?/p>

02 用戶面臨的重大風(fēng)險

因此,“逝者機(jī)器人”技術(shù)并不旨在讓人們實(shí)現(xiàn)永生,反而更像是為記憶注入生命,用“活著的記憶”來與用戶進(jìn)行對話和互動。這些技術(shù)的開發(fā)者聲稱,它們不僅可以幫助我們更好地了解祖先,還可以用于寄托哀思。然而,我們遠(yuǎn)遠(yuǎn)無法斷言這些工具絲毫不存在負(fù)面影響。2021年,法國國家數(shù)字倫理試點(diǎn)委員會(CNPEN)與Devillers合著了一份報告,其中指出了常見聊天機(jī)器人(如商業(yè)網(wǎng)站上使用的類型)的風(fēng)險。用戶可能會在不知情的情況下,誤以為自己是在與人類對話,并產(chǎn)生依戀心理。在Devillers看來,當(dāng)聊天機(jī)器人長得與已故親人一模一樣,并用他們的聲音訴說往事時,產(chǎn)生誤會的風(fēng)險會更高。她擔(dān)心,“逝者機(jī)器人可能會延長悼念的過程,使分離和痛苦的感覺更持久。這樣一來,我們與機(jī)器人的關(guān)系會變得更加難以界定。而且,人們對逝者心存愛意,也許會與聊天機(jī)器人難舍難分?!?/p>

由于機(jī)器不具備真正的推理能力或道德觀念,因此風(fēng)險更大。報告指出,逝者機(jī)器人可能會帶來“恐怖谷效應(yīng)”。例如,聊天機(jī)器人可能會說出令人反感的話,或是在一連串正常的應(yīng)答之后,說出逝者完全不可能說出的話。作者們擔(dān)心,這種效應(yīng)會導(dǎo)致晴天霹靂般的心理痛苦。Devillers還指出,人們可能會對這些機(jī)器人上癮,從而變得更為孤僻。

03 社會層面需對此類工具開展評估

除了擔(dān)心這些技術(shù)可能對用戶產(chǎn)生的心理影響之外,數(shù)據(jù)的使用方面也惹人擔(dān)憂。為了創(chuàng)建這些虛擬化身,AI算法需要從逝者處獲取大量數(shù)據(jù)。根據(jù)2016年的法國《數(shù)字共和國法》(Law for a Digital Republic),人們可以選擇保留、刪除或使用個人數(shù)據(jù),并可以指派他人來執(zhí)行上述決策。然而,隨著逝者機(jī)器人的不斷涌現(xiàn),收集、存儲和使用逝者數(shù)據(jù)也引發(fā)了一系列討論:兒童是否享有對數(shù)據(jù)的決策權(quán)?虛擬化身及其數(shù)據(jù)的使用是否要設(shè)置有效期?Devillers解釋道:“現(xiàn)狀是,聊天機(jī)器人開發(fā)商會與用戶簽訂合同,由用戶決定其個人數(shù)據(jù)的使用情況?!?/p>

逝者機(jī)器人市場仍處于起步階段,用戶今后是否會每天大量使用這些工具仍是未知。不過,虛擬化身服務(wù)近年來正如雨后春筍般涌現(xiàn)。隨著聯(lián)網(wǎng)技術(shù)的發(fā)展,對話機(jī)器人可能會成為我們?nèi)粘I钪胁豢苫蛉钡囊徊糠?。Devillers認(rèn)為,社會層面需要對這些工具的使用展開集體討論?!霸摷夹g(shù)是好是壞還不能蓋棺定論,但從社會層面而言,我們還沒有做好充分準(zhǔn)備。我們需要幫助用戶了解AI的挑戰(zhàn)和風(fēng)險。”Devillers還主張成立一個委員會,通過制定規(guī)則來規(guī)范相關(guān)做法。她總結(jié)道:“上述實(shí)踐將產(chǎn)生社會影響,因此,我們迫切需要嚴(yán)肅對待這一議題。相關(guān)決策不應(yīng)留給少數(shù)資本家來做?!?/p>

參考資料

Report by the French National Digital Ethics Committee on conversational agents, 2021

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

離世后,能以AI虛擬化身的形式“延續(xù)生命”嗎?

逝者機(jī)器人的出現(xiàn)是否邁出了道德和社會的界限?人們在對待逝者數(shù)據(jù)時應(yīng)該如何平衡尊重與隱私保護(hù)的關(guān)系?

文|創(chuàng)瞰巴黎 Sirine Azouaoui

編輯|Meister Xia

導(dǎo)讀

隨著虛擬化身技術(shù)的崛起,人們可以通過與逝者的聊天機(jī)器人互動,延續(xù)與已故親人的交流。然而,這一技術(shù)引發(fā)了眾多爭議和擔(dān)憂,如心理影響、數(shù)據(jù)使用等問題。在這個充滿可能性和挑戰(zhàn)的新領(lǐng)域中,我們需要認(rèn)真思考:逝者機(jī)器人的出現(xiàn)是否邁出了道德和社會的界限?人們在對待逝者數(shù)據(jù)時應(yīng)該如何平衡尊重與隱私保護(hù)的關(guān)系?AI技術(shù)的快速發(fā)展是否需要更加嚴(yán)格的監(jiān)管和規(guī)范?

一覽:

  • AI的最新進(jìn)展,讓逝者的數(shù)字化保存技術(shù)更上一層樓。
  • 一些企業(yè)正在開發(fā)虛擬永生技術(shù),基于逝者在網(wǎng)上留下的信息,生成一個虛擬化身或聊天機(jī)器人,供人們與逝者交流,以這種方式“延續(xù)生命”。
  • 這些虛擬化身利用生成式AI技術(shù),通過學(xué)習(xí)逝者生前的錄音、信息、趣聞軼事等數(shù)據(jù)來生成內(nèi)容。
  • 盡管AI技術(shù)已經(jīng)取得了諸多進(jìn)展,但現(xiàn)階段的虛擬化身仍不完美,專業(yè)人士擔(dān)心用戶會誤以為聊天機(jī)器人是人類、產(chǎn)生依戀心理,并逐漸與世隔絕。
  • 我們需要幫助用戶了解這些工具的風(fēng)險和挑戰(zhàn),并明確數(shù)據(jù)使用權(quán)的歸屬,從而為相關(guān)實(shí)踐提供一個規(guī)范框架。

人們離世后,留下的個人數(shù)據(jù)將何去何從?其實(shí),很多都會保留在數(shù)字空間中,如網(wǎng)站和社交平臺上的個人資料等。不少網(wǎng)絡(luò)平臺都開辟了紀(jì)念功能,比如,當(dāng)臉書(Facebook)用戶離世后,賬戶便會被設(shè)為悼念帳戶,供人們悼念逝者、留言,并發(fā)布照片。

如今,有了人工智能(AI)技術(shù)的助力,我們能夠進(jìn)一步升級對逝者的數(shù)字化保存。比如,一些企業(yè)正在開發(fā)虛擬永生技術(shù),基于逝者在網(wǎng)上留下的信息,生成一個虛擬化身或聊天機(jī)器人,供人們與逝者交流,以這種方式“延續(xù)生命”。早在2017年,微軟就申請了一項(xiàng)基于個人數(shù)據(jù)創(chuàng)建對話替身的專利,并于四年后獲得批準(zhǔn)。他們的想法是,創(chuàng)建一個虛擬化身來賦予逝者生命?!叭藗兛傁M约耗軕?zhàn)無不勝、長生不老,對死亡的抗拒可謂是刻在骨子里,”法國索邦大學(xué)AI專業(yè)教授Laurence Devillers解釋說,“這樣說來,如果每個人都愿意付費(fèi)在逝去后生成一個虛擬化身或是聊天機(jī)器人,那將極具經(jīng)濟(jì)效益?!?/p>

自2017年之后,一個全新的行業(yè)如雨后春筍般出現(xiàn)。2018年,美國記者James Vlahos開發(fā)了一個聊天機(jī)器人,經(jīng)過訓(xùn)練后,說話口吻與其因癌癥去世的父親一模一樣。在父親生前, Vlahos對父親進(jìn)行了采訪,并全程錄音。隨后,Vlahos與他人共同創(chuàng)辦了一個“交互式記憶應(yīng)用”平臺,名為HereAfter AI。這一平臺可以在人們在世時記錄下他們的故事、回憶,并留下錄音,在他們?nèi)ナ篮笠粤奶鞕C(jī)器人的方式繼續(xù)與親朋好友對話。許多初創(chuàng)公司都提供創(chuàng)建數(shù)字化身的服務(wù),讓人們在死后繼續(xù)“存在”在世上。韓國企業(yè)Deepbrain AI推出了一種名為Re:memory的技術(shù),用戶只需花費(fèi)一萬美元,便可通過投射影像的方式,與一個具有逝者面容、聲音和表情的虛擬化身互動。英國企業(yè)Somnium Space則是想要更上一層樓,讓用戶在元宇宙中享受與逝者的沉浸式互動。

01 基于海量數(shù)據(jù)創(chuàng)建虛擬化身

生成式AI的快速發(fā)展讓上述設(shè)想成為了現(xiàn)實(shí)。當(dāng)前,網(wǎng)絡(luò)上普遍存在各種聊天機(jī)器人,能在語義上理解用戶的語言輸入,并做出回復(fù)。類似地,“逝者機(jī)器人”在學(xué)習(xí)數(shù)十億條數(shù)據(jù)后,可以模仿人類進(jìn)行對話。無論是錄音、電子郵件、短信、來自別人的評價、還是生平事跡都可以作為資料,來創(chuàng)建虛擬化身。Devillers解釋道:“計算機(jī)會從死者的現(xiàn)有數(shù)據(jù)中尋找規(guī)律。生成式AI可以為大量數(shù)據(jù)建模,并為其配備人像和聲音。當(dāng)與用戶開展對話時,AI會在這個龐大的模型中搜索被觸發(fā)的相關(guān)信息,這樣一來,AI可能會說出一些死者從未說出口的話?!?/p>

這些算法會讓人產(chǎn)生與逝者交談的錯覺。在Devillers看來,這是且只是一種錯覺。提供這些服務(wù)的初創(chuàng)公司通過復(fù)制逝者的樣貌、聲音和說話方式,讓逝者得以“永生”,或是延續(xù)記憶。但是,這些“逝者機(jī)器人”永遠(yuǎn)無法完美重現(xiàn)逝者。Laurence警告說:“從當(dāng)前的技術(shù)水平來看,聲音的模仿度已幾近完美,詞匯的選擇也極為貼切,但與完美之間永遠(yuǎn)存在著距離。機(jī)器也不可避免地會犯錯,甚至胡編亂造?!?/p>

“該技術(shù)是好是壞還不能蓋棺定論,但從社會層面而言,我們還沒有做好充分準(zhǔn)備?!?/p>

AI就像一個基于數(shù)據(jù)統(tǒng)計的預(yù)測器。當(dāng)用戶與AI進(jìn)行對話時,算法會根據(jù)話題在數(shù)據(jù)庫中尋找答案。當(dāng)沒有現(xiàn)成答案時,算法只能使用相關(guān)性最高的內(nèi)容,這意味著生成的結(jié)果未必是當(dāng)事人會給出的回答。更重要的是,AI并不會隨時間的推移而調(diào)整與用戶之間的對話?!澳P捅澈蟮臄?shù)據(jù)擁有豐富的內(nèi)容,覆蓋多個語境。所以會帶來錯覺,讓我們以為機(jī)器會根據(jù)提問來調(diào)整回答。但事實(shí)上,機(jī)器是在記錄對話歷史,根據(jù)用戶的提問和回答不斷豐富語料庫,從而變得越來越精確。或許,未來能開發(fā)出會隨我們而調(diào)整的技術(shù),但明天尚未到來?!?/p>

02 用戶面臨的重大風(fēng)險

因此,“逝者機(jī)器人”技術(shù)并不旨在讓人們實(shí)現(xiàn)永生,反而更像是為記憶注入生命,用“活著的記憶”來與用戶進(jìn)行對話和互動。這些技術(shù)的開發(fā)者聲稱,它們不僅可以幫助我們更好地了解祖先,還可以用于寄托哀思。然而,我們遠(yuǎn)遠(yuǎn)無法斷言這些工具絲毫不存在負(fù)面影響。2021年,法國國家數(shù)字倫理試點(diǎn)委員會(CNPEN)與Devillers合著了一份報告,其中指出了常見聊天機(jī)器人(如商業(yè)網(wǎng)站上使用的類型)的風(fēng)險。用戶可能會在不知情的情況下,誤以為自己是在與人類對話,并產(chǎn)生依戀心理。在Devillers看來,當(dāng)聊天機(jī)器人長得與已故親人一模一樣,并用他們的聲音訴說往事時,產(chǎn)生誤會的風(fēng)險會更高。她擔(dān)心,“逝者機(jī)器人可能會延長悼念的過程,使分離和痛苦的感覺更持久。這樣一來,我們與機(jī)器人的關(guān)系會變得更加難以界定。而且,人們對逝者心存愛意,也許會與聊天機(jī)器人難舍難分?!?/p>

由于機(jī)器不具備真正的推理能力或道德觀念,因此風(fēng)險更大。報告指出,逝者機(jī)器人可能會帶來“恐怖谷效應(yīng)”。例如,聊天機(jī)器人可能會說出令人反感的話,或是在一連串正常的應(yīng)答之后,說出逝者完全不可能說出的話。作者們擔(dān)心,這種效應(yīng)會導(dǎo)致晴天霹靂般的心理痛苦。Devillers還指出,人們可能會對這些機(jī)器人上癮,從而變得更為孤僻。

03 社會層面需對此類工具開展評估

除了擔(dān)心這些技術(shù)可能對用戶產(chǎn)生的心理影響之外,數(shù)據(jù)的使用方面也惹人擔(dān)憂。為了創(chuàng)建這些虛擬化身,AI算法需要從逝者處獲取大量數(shù)據(jù)。根據(jù)2016年的法國《數(shù)字共和國法》(Law for a Digital Republic),人們可以選擇保留、刪除或使用個人數(shù)據(jù),并可以指派他人來執(zhí)行上述決策。然而,隨著逝者機(jī)器人的不斷涌現(xiàn),收集、存儲和使用逝者數(shù)據(jù)也引發(fā)了一系列討論:兒童是否享有對數(shù)據(jù)的決策權(quán)?虛擬化身及其數(shù)據(jù)的使用是否要設(shè)置有效期?Devillers解釋道:“現(xiàn)狀是,聊天機(jī)器人開發(fā)商會與用戶簽訂合同,由用戶決定其個人數(shù)據(jù)的使用情況?!?/p>

逝者機(jī)器人市場仍處于起步階段,用戶今后是否會每天大量使用這些工具仍是未知。不過,虛擬化身服務(wù)近年來正如雨后春筍般涌現(xiàn)。隨著聯(lián)網(wǎng)技術(shù)的發(fā)展,對話機(jī)器人可能會成為我們?nèi)粘I钪胁豢苫蛉钡囊徊糠?。Devillers認(rèn)為,社會層面需要對這些工具的使用展開集體討論。“該技術(shù)是好是壞還不能蓋棺定論,但從社會層面而言,我們還沒有做好充分準(zhǔn)備。我們需要幫助用戶了解AI的挑戰(zhàn)和風(fēng)險?!盌evillers還主張成立一個委員會,通過制定規(guī)則來規(guī)范相關(guān)做法。她總結(jié)道:“上述實(shí)踐將產(chǎn)生社會影響,因此,我們迫切需要嚴(yán)肅對待這一議題。相關(guān)決策不應(yīng)留給少數(shù)資本家來做?!?/p>

參考資料

Report by the French National Digital Ethics Committee on conversational agents, 2021

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。