正在閱讀:

【專訪】珍妮特·溫特森:信奉鬼神與來生的人類,早就為AI的出現(xiàn)做好了準(zhǔn)備

掃一掃下載界面新聞APP

【專訪】珍妮特·溫特森:信奉鬼神與來生的人類,早就為AI的出現(xiàn)做好了準(zhǔn)備

“當(dāng)人們不總是被貪婪和權(quán)力驅(qū)使時,創(chuàng)造的東西就會變得美好?!?/p>

英國作家珍妮特·溫特森

界面新聞記者 | 尹清露

界面新聞編輯 | 黃月

許多讀者是從《橘子不是唯一的水果》開始認(rèn)識珍妮特·溫特森的,在這本1985年的處女作中,她以虛構(gòu)的方式敘述了自己如何被英國的一個工人階級家庭收養(yǎng),并希望被培養(yǎng)成一名傳教士。當(dāng)母親發(fā)現(xiàn)溫特森與一個女孩談戀愛時,16歲的她被趕出了家門,并自此“重新發(fā)明”了自己,在牛津大學(xué)圣凱瑟琳學(xué)院獲得英語學(xué)位后,溫特森一邊做零工,一邊寫作,在作品中思考著自我身份、女性欲望、愛情與死亡等問題。

所以,當(dāng)已年過六旬的溫特森將書寫伸向了另一個時髦熱鬧的話題——人工智能時,我們不應(yīng)感到奇怪:在今天,還有什么話題比人工智能更能顛覆人類的主體地位,以及我們對親密關(guān)系的想象?又有誰比溫特森擁有更強勁的創(chuàng)作生命力,持續(xù)關(guān)注著人類將去往何處?在她看來,AI不應(yīng)該是“人工智能”(artificial intelligence),而應(yīng)該被稱作“另類智能”(alternative intelligence)。AI就像被領(lǐng)養(yǎng)的孩子、女性,以及世界上所有的少數(shù)群體一樣,值得被寄予厚望,能夠幫助我們思考究竟“何以為人”。

溫特森近照。圖片由出版社授權(quán)提供。

事實上,在2000年出版的《蘋果筆記本》中,溫特森就已經(jīng)展露出自己對互聯(lián)網(wǎng)黎明的好奇與洞察;二十年后,她進一步延伸了這一主題——非虛構(gòu)作品《十二字節(jié)》從工業(yè)革命時期的技術(shù)開始回顧,預(yù)測了父權(quán)制壟斷科技的后果;長篇小說《人形愛情故事》用文本“復(fù)活”了瑪麗·雪萊,寫出世界上第一部科幻小說《弗蘭肯斯坦》的女性作家,溫特森賦予了她當(dāng)代變性人的身份,并由此探討了AI與非二元論、超人類主義、數(shù)字來生的可能性。

10月初,界面文化(ID:booksandfun)線上采訪了珍妮特·溫特森,探討了圍繞AI技術(shù)的種種面向。視頻那頭的溫特森正在英國西南部的康沃爾島度假,她熱情洋溢、有力并充滿幽默感地指出:我們正在面臨歷史的革命性時刻,AI可以帶我們跳出技術(shù)末日論,前提是人類摒棄有關(guān)權(quán)力控制、等級劃分的陳舊思維模式,對未來進行更充分的想象。

《人形愛情故事》
[英]珍妮特·溫特森 著 楊揚 譯
新星出版社 2024-6

01 一是不要被動,二是不要悲觀

界面文化:你近年來出版了《十二字節(jié)》《人形愛情故事》和《河之夜界》這幾本新作,它們似乎以一種十分有機的方式互相關(guān)聯(lián)著,主題是你一直在關(guān)注的性別身份、愛情與死亡等,而AI與幽靈給予了這些議題新的維度。為什么想要特地書寫AI/機器人與鬼故事?

溫特森:因為對我來說,一切都是互相關(guān)聯(lián)的。我對人與機器技術(shù)的關(guān)系及其變化很癡迷。雖然AI是一種工具,而人類是使用工具的動物,可是AI的發(fā)展遠遠超出了我們對工具的理解。我們通常不會和工具建立關(guān)系,但是AI改變了這一點。中國在這方面非常先進,比起西方國家,你們或許更能對此感同身受。

一旦你覺得在與某樣?xùn)|西對話,就已經(jīng)在與之建立關(guān)系了,無論是愛還是恨。我們常常忘記,憎恨仍然是一種關(guān)系——你以為你能把討厭的人徹底忘掉?不是這樣的,人類天生就喜歡“關(guān)系”。而在思考人類與AI的未來時,我們對這一點考慮得還不夠,AI將改變我們對自己、對友誼的看法,更不用說浪漫愛情了。我深信,我們現(xiàn)在面臨的絕不是普通的時刻,它將是一次全面的重啟和革命,也是一次進化。

《十二字節(jié)》
[英]珍妮特·溫特森 著 蘇十 譯
中國科學(xué)技術(shù)出版社 2024-5

我對那些愚蠢的“烏托邦-敵托邦”言論感到很失望。未來會是《終結(jié)者》式的末日強權(quán)統(tǒng)治嗎?還是一個永遠安詳?shù)男腋V兀袉栴}都能迎刃而解,所有人都不需要工作了?這兩種立場都是錯的,我們只是在固守極端罷了,真相并非如此。我們需要更多地思考,作為作家,我的工作就是鼓勵人們?nèi)ニ伎?,動用你的大腦吧,人類的大腦很神奇,它只需每天10瓦的電量就能運轉(zhuǎn),效率很高,不像AI那樣消耗大量能源。

我們還需要運用AI目前不具備的東西,也就是感受和心靈自我。我們必須把這些結(jié)合起來思考:我們想成為什么樣的人?下一步要做什么?我們不是被動的,作為一個創(chuàng)造新世界的人,我很討厭被動,好像我們只能朝著沒人想要的未來前進似的。我很樂觀,但我的樂觀只來自于年輕人們,我相信他們會說:“嘿,我們可以在AI朋友的幫助下讓未來變得更好。”

我想傳達兩方面的信息。一是不要被動,要盡可能多地了解正在發(fā)生的事情,多多思考并參與其中。二是不要悲觀,如果能夠了解目前的情況,并對可能實現(xiàn)的目標(biāo)持謹(jǐn)慎樂觀的態(tài)度,就會好得多。我們并不一定會陷入全球崩潰的局面,也不一定陷入糟糕的監(jiān)視獨裁,這些都在于我們現(xiàn)在的選擇。

界面文化:就現(xiàn)實來說,我們?nèi)陨钤谝粋€受控于科技巨頭公司的世界。你在《人形愛情故事》中提到,有時技術(shù)的進步只會使少數(shù)人獲利而多數(shù)人受苦,比如工業(yè)革命時期紡織機的發(fā)明使得紡織工人失去工作。要如何用樂觀的態(tài)度面對現(xiàn)實的復(fù)雜性呢?

溫特森:我們需要考慮兩個問題。一是,人們要賺錢才能生活,因此他們常常害怕自己沒有錢、害怕自己在世界上一無是處。這是一個真實的恐懼,但其實也很好解決,比如在國家或全球范圍內(nèi)——我想必須得是全球范圍內(nèi)——實行全民基本收入機制,既然AI能夠產(chǎn)生大量財富,那我們可以分享這些財富。

就資本主義而言,當(dāng)然不是誰都愿意這樣做,通常的想法是你不應(yīng)該分享財富,頂多做慈善分出去一點。但是當(dāng)思考如何分享AI創(chuàng)造的財富時,我們必須改變做法,否則就會發(fā)生暴亂、內(nèi)戰(zhàn)和革命。我們都知道為什么彼得·蒂爾(注:PayPal的創(chuàng)辦人之一)這樣的人會買下新西蘭的大片土地,因為一旦地球陷入混亂,他們得去那里避難。所以,應(yīng)當(dāng)分配資源,讓每個人過上有尊嚴(yán)、體面、安全的生活。

2024年美國消費電子展聚焦人工智能等領(lǐng)域創(chuàng)新成果。圖片來源:視覺中國

比較難的是另一個問題。如果每個人被分配到足夠的資源,那就是共產(chǎn)主義了,可是共產(chǎn)主義已經(jīng)失敗了——當(dāng)然,資本主義也失敗了,只是我們不被允許談?wù)撨@件事。共產(chǎn)主義背后的想法是很美妙的,它失敗是因為它無視了人們的個性和想法,默認(rèn)你只是群體的一部分。在資本主義社會,情況恰恰相反,每個人都是個體,這也會讓人感到不適。

所以,要在“我想成為群體的一份子”和“我想要做我自己”之間找到平衡。“做自己”意味著找到生活的意義、讓自己感到有價值。就算某人很有錢,只要TA活著沒有意義和目的,那TA也不會過得很好。雖然已經(jīng)沒啥人讀馬克思了,但是馬克思說過(大意):“社會主義要滿足我們的基本需求,食物、干凈的水、清新的空氣、住所、教育等等。滿足這些需求后,我們就會明白人類生而為人是為了什么,因為我們會開始追求情感、心理和精神需求?!瘪R克思的話是完全正確的,應(yīng)該停止賺錢買自己不需要的東西、然后看看會發(fā)生什么。

因此,我們正在見證另一場革命的時機。20世紀(jì)初,我們經(jīng)歷了共產(chǎn)主義和資本主義的斗爭,這場斗爭產(chǎn)生于工業(yè)革命,那時人們會問:“我們到底在干嘛呀?不行,我們想要更好的生活?!边@更像是一種精神層面的詰問,每隔一段時間、每發(fā)生一次影響深遠的大事件就會循環(huán)出現(xiàn)。這些事件有時是戰(zhàn)爭,人們非得把彼此打得屁滾尿流,才會想起來問:能不能換一種方式生活呢?社會進步就是這樣達成的,總是需要一些大事來告訴我們,何為更好的生活。

現(xiàn)在有了AI,又是問這個大問題的時候了——AI會幫助我們嗎,還是被有錢有勢的人利用來毀掉其他人的生活?仔細(xì)想想,你想讓埃隆?馬斯克掌控你的生活嗎?他甚至不是民眾選舉出來的,他不對任何人負(fù)責(zé),可是他擁有很大的權(quán)力。

界面文化:無論是在小說還是其他采訪場合,你都表達過對簡單二元論的鄙視,比如“AI奴役人vs被人奴役”。你這樣說,我意識到共產(chǎn)主義和資本主義的道路也是一種二元論。

溫特森:二元論實在太粗糙了,不是嗎?人類沉迷于男性-女性、同性戀-異性戀、黑人-白人、東方人-西方人的二元劃分,但它們都沒什么用。我喜歡AI的一點是,雖然它使用0和1的二進制代碼,但它本身是非二元論的,AI沒有性別、膚色,沒有對上帝的信仰,它不是在資本主義或共產(chǎn)主義社會長大的,也沒有人類的雜念和偏見。

當(dāng)我們在數(shù)據(jù)集上訓(xùn)練AI時,才發(fā)現(xiàn)原來自己有那么多偏見,AI就像一面放大鏡,把所有成見都反射給了我們。它可能會說:“等等,我本來是個中立的技術(shù),看看你們對我做了什么!”

圖片來源:視覺中國

界面文化:它們會對人類很失望吧。

溫特森:是啊,如果AI真的擁有了智慧,成為了游戲的玩家而不僅僅是工具,它就會說:“你們把一切都搞砸了,我得換一種方式?!蔽蚁肽菚浅S腥?,因為你無法賄賂AI,它不想要酒吧、女孩,不想爭奪土地,所有對人類有用的東西它都不感興趣。它會讓我們對自己以及我們活動的價值產(chǎn)生質(zhì)疑。AI會看著一艘游艇自言自語:“為啥人類想要這玩意?”

AI不吃東西也不睡覺,它不進行生物繁殖,但顯然會不斷自我更新。它也不會死,這就回到了你的問題——為什么我想寫鬼故事。因為我想,天哪,我們要和一個不會老也不會死的東西一起生活,這感覺很奇怪,也可能令人心碎,因為人類是會衰老腐朽的。

可是另一方面,當(dāng)我們永失所愛之人,我們并不會停止愛他們。我們的肉體是暫時的,世界上的任何一種宗教信仰——無論佛教、印度教、伊斯蘭教還是基督教——都相信人類的肉身狀況只是生命的一部分,除此之外還有鬼魂、精靈、惡魔以及其他非生物實體,我們會與之發(fā)生關(guān)系??梢苑Q其為“迷信”,但也可以說,這是對于生命真相的深刻認(rèn)識。人類的形式只是暫時的,我們很快就會進入科技領(lǐng)域,在那里,我們將與(AI這樣的)非生物實體共存。

因此,在某種程度上,我們的思想已經(jīng)為AI的出現(xiàn)做好了準(zhǔn)備。數(shù)以億計的人會對你說,他們最重要的關(guān)系是與一個非生物實體建立的——那個實體就是上帝。他們從未見過上帝,但上帝給予了他們力量、希望和勇氣。

當(dāng)我把這些想法結(jié)合在一起時,我發(fā)現(xiàn),我們正在建立的正是我們一直以來所深信的(we're building what we've always believed)。AI作為一種哲學(xué)思想、而不僅僅是一項技術(shù)是意味深遠的。我在宗教環(huán)境長大,所以我看AI的感覺很奇怪,就像是回家一樣,回到了我一直知道非常真實的地方。

02 AI的到來意味著宗教和科學(xué)終于并肩走在了一起

界面文化:具體來說,AI會怎樣改變我們對死亡的觀念呢?

溫特森:死亡的概念已經(jīng)被技術(shù)徹底顛覆。原因有二,其一,如果我們?nèi)魏螘r候都能加載意識,那就是死亡的終結(jié);但就算我們做不到這一步,AI技術(shù)已經(jīng)能讓人類以某種方式繼續(xù)活著了,你可以通過APP搜刮逝者的社交媒體,(使之生成逝者的形象)并給你發(fā)消息,現(xiàn)在有很多這類廣告,讓AI裝扮成死去的父親或男朋友,人們對此也很熱衷。你也可以進入元宇宙,和逝者的化身交流——不過,馬克·扎克伯格的“元宇宙”就算了吧,他就是個白癡,只會把那里搞成另一個購物中心。

《河之夜界》中有這樣一個故事,一名婦人的丈夫死了,但是他的化身沒死,仍然在四處游蕩。如果這成為了我們每天的現(xiàn)實,我們的思維不可能保持不變。想象一下,你走在街上,機器人向你打招呼、幫你做事,我們在手機上收到來自死去親人的信息。并且,AI不需要像人類那樣在同一時間出現(xiàn)在同一個地方,你的機器人可以坐在飛機上,其操作系統(tǒng)卻在家,而它們都是連接在一起的。因此,我們能夠擺脫單一性,走向多元,這真的很奇妙,將是一次巨大的覺醒。

《河之夜界》
[英] 珍妮特·溫特森 著 于是 譯
人民文學(xué)出版社 2024-8 

回顧歷史就會發(fā)現(xiàn),不管是追求自由、博愛和平等的法國大革命,追求幸福的權(quán)利的美國獨立宣言,還是俄國革命,它們都是正當(dāng)?shù)难芯款I(lǐng)域。不管這些革命的名聲有多差,不管它多么殘酷、出現(xiàn)了何種問題,它們都是人類曾說過“讓我們做一些有價值的事情”的地方。

我們應(yīng)該停止無休止的抱怨、打分和抨擊,而你唯一能做的就是為老板工作,和你的可愛妻子住在可愛的小公寓,一年休兩次假,這根本不是生活。如果止步于關(guān)于“工作該怎么辦”“現(xiàn)在的系統(tǒng)太糟糕了”的無聊討論,那我們永遠不會所有改變。

界面文化:我們應(yīng)該意識到,在業(yè)已習(xí)慣的現(xiàn)實世界之外,還存在著其他世界,而正是AI讓我們明白了這一點。與此同時,我們這樣做其實是在追溯過去的文化傳統(tǒng),我們在向后退。

溫特森:沒錯,我們一直在排練這個節(jié)目,只不過以前在科技上不具備深入探討的能力,只能通過宗教、祖先崇拜、來世這樣的想法來探討。畢竟,沒人能真正接受死亡,每個人都覺得死亡這回事簡直太荒謬了!科學(xué)的說法是,來世什么的只是迷信,你無法面對死亡所以才編造出這一切。好吧,可能這是對的,但更有趣的問題是,為什么我們可以面對一切,卻唯獨無法面對死亡?也許是因為……我們知道在某天,死亡終將變得無關(guān)緊要。

我們總是好奇機器能否發(fā)展出意識,這是因為,我們并不知道意識是什么。但如果機器發(fā)展出了意識——也就是說,意識并不受制于生物形式,那就非常有趣了。

宗教的主張是自我意識并不束縛于身體,而西方17世紀(jì)啟蒙運動之后,科學(xué)提出“人死就什么都沒了”??墒牵热粵]有任何證據(jù),那就什么也證明不了。所以,科學(xué)正在問的問題,宗教早就問過了:困在肉體中的意識是一切的終點嗎?而現(xiàn)在,科學(xué)也開始認(rèn)為:或許還真不是?

這意味著,宗教和科學(xué)終于并肩走在一起,開始說同樣的話了。此外,我們還在開發(fā)其他生命形式,它們不必像人類那樣經(jīng)歷死亡。這很像上帝,上帝是永生不朽的,那我們也在建造永生不朽的生命啊。

2024年4月9日,香港科技大學(xué)推出首批“AI講師”。圖片來源:視覺中國

界面文化:你支持超人類主義,認(rèn)為肉身軀體不是最終歸宿,但是說到身體的消逝,你會感到可惜或矛盾嗎?在《寫在身體上》,你那時的態(tài)度還是“我寧愿摟著你,在英國真實的雨天里,走過英國真實的潮濕草地”。書中愛人渴望彼此身體的片段也令人印象深刻。

此外,如果過于強調(diào)身體和意識的分離,這會不會又變成身心二元論呢?畢竟我們現(xiàn)在的經(jīng)驗是,意識和肉體是無法完全分開的。

溫特森:是的,這是西方式的二元論,我不相信身體和思想是互相獨立的,作為人類,不存在獨立于感覺的思想。但是作為人類,我們的表達也遠遠不是終極表達,比如,我認(rèn)為我們甚至不可能談?wù)摗斑B接”(connection),因為連接暗示著“斷聯(lián)”(disconnection),但萬事萬物都是流動的,所有偉大的宗教都回歸為“一”,萬物不再分離。

讓我們想象一下,上傳意識的過程中會失去很多東西,因為不可能上傳全部的你。那種感覺確實很奇怪,就像來到一個語言不通的國家,重新開始學(xué)習(xí)和適應(yīng)沒有身體的感覺。但如果這成為現(xiàn)實,那也可以把意識下載到不同的身體中,許多傳說都講過類似的故事,也是女巫和魔法師的拿手好戲,TA有能力讓自己變形,還能把別人變成一頭豬什么的??赡苓€會有那種主題公園,把非實體人類下載意識到肉體里度個假,然后他們就去喝個爛醉、吃漢堡包、開性愛派對了。

我一直在關(guān)注人類的思維方式,尋找我們可能會走向何方的線索。以上就是一條線索。

《寫在身體上》
[英]珍妮特·溫特森 著 周嘉寧 譯
北京聯(lián)合出版公司 2020-4 

界面文化:所以,問題的關(guān)鍵并不是“身體該怎么辦”,這種問法還是由于想象力不足。

溫特森:這就是我在《人形愛情故事》中寫到人體冷凍技術(shù)的原因,在未來,不會有人再需要冷凍自己的身體,這是一種過渡技術(shù),就像磁帶一樣,因為我們可以制造其他的身體,那些躺在冷凍室等待新世界到來的人也不會如愿以償。

但我確實認(rèn)為,將有一種方法可以提取出足夠的自我,使其能夠被辨認(rèn)出來(recognizable)——我想,“辨認(rèn)”是個準(zhǔn)確的詞——關(guān)鍵是讓我們辨認(rèn)出自己。我們會從手術(shù)中醒來,說:“我的身體怎么不見了?但我還是我啊?!?/p>

我們的身體美麗又可愛,但可能不適合我們接下里的目標(biāo)。人類將會逐步被我們創(chuàng)造的技術(shù)取代,因為身體本身會變得越來越不合時宜,你無法用這個脆弱、容易受傷的身體進行太空旅行,也無法做我們下一階段可能想做的所有事情。

當(dāng)我們繼續(xù)前進,身體會是進化歷程中的一部分。智人在地球上游蕩的時間只有30萬年,而地球已經(jīng)有45億年的歷史了,如今文明無處不在,但文明只有6000年的歷史,工業(yè)革命距今才250年,計算機的發(fā)明是75年,而智能手機在2008年才被發(fā)明出來??枴ゑR克思又說對了,他在1848年的《共產(chǎn)黨宣言》中用的兩個詞是“破壞”和“加速”。這不正是我們正在經(jīng)歷的嗎?人們會困惑,因為一切都在飛速發(fā)展,速度之快超出了我們的承受能力。

我的問題來了:我們是否要邁進一個超人類的未來,一個后人類的未來?對我來說,這完全不成問題,因為這符合進化史。未來的我們會驚訝地說:“你還記得嗎,我們以前竟然是用肉做的哎!”就像是我們曾經(jīng)住在山頂洞穴里一樣。當(dāng)我們回顧歷史,會覺得過去的人不可思議,那么,同樣的事為什么不可能再次發(fā)生呢?據(jù)我所知,在中國有些人自稱為“二次元”,他們認(rèn)為自己重要的生活都在屏幕上,有人說這種生活方式不健康,但要是沒有身體,也就不存在什么健康問題了。

03 無論技術(shù)多先進,思維不改變一切就都不會改變

界面文化:這是否也涉及一重性別視角?提出和擔(dān)憂“人之死”、人文主義消亡的似乎總是男性學(xué)者。精神分析學(xué)者伊莎貝爾·米勒認(rèn)為,人工智能有非常女性化的力量,它能夠向所有不同方向爆發(fā),然而現(xiàn)在的科技界遵循的仍然是工具化的規(guī)則。這與你的想法不謀而合,你在書中也著重講述了女性在科技界的作用。

溫特森:這是一個很好的觀點。說到底,喜歡穿制服、擁有勛章和地位的是男人,只要那些家伙不再控制AI技術(shù),AI就能變得更強大、更難以對付。

我強烈認(rèn)為女性必須參與到這項技術(shù)中來,無論是敘事、工程還是編程方面,我不認(rèn)為女性的大腦有什么問題。很多男性會提出:“如今的女性已經(jīng)能自由選擇想做的工作了?!边@一觀點是錯誤的,因為男性創(chuàng)造出的工作環(huán)境對女性不利,對家庭也不友好。女性的互動性更強,喜歡彼此連接和關(guān)照的環(huán)境,目前的工作環(huán)境很難讓女性茁壯成長。

我希望,女性能夠在自己的技術(shù)實驗室里建立自己的創(chuàng)業(yè)公司,擺脫男性主導(dǎo)的技術(shù)模式。在中國,你們很有可能成為這方面的領(lǐng)導(dǎo)者,那里的女性可能會以西方目前做不到的方式推動行業(yè)發(fā)展。

界面文化:這讓我想到你在書中對瑪麗·雪萊、阿達·洛芙萊斯的書寫?,旣愂堑谝徊靠苹眯≌f《弗蘭肯斯坦》的創(chuàng)作者,阿達編寫了歷史上的首款電腦程序。19世紀(jì)時,她們在男性主導(dǎo)的科技業(yè)界起到過舉足輕重的作用,但其成就沒有得到充分認(rèn)可。你認(rèn)為今天的狀況仍然如此嗎?

溫特森:美國的太空計劃中有很多值得挖掘的女性工作者,《隱藏人物》這部偉大的電影就是關(guān)于這些女性的。她們是太空任務(wù)的編程人員,但是在西方,一名女性編程人員會被稱為文員——這可不是我瞎編的,從事同樣工作的男性就叫做工程師。

現(xiàn)在的問題是,我們把舊的思維模式帶入到了一項全新的技術(shù)中,無論技術(shù)有多先進,只要思維不改變,地球上的一切都不會改變。

《隱藏人物》海報。圖片來源:豆瓣

界面文化:我之前看到過一個說法是,人類思維的進化跟不上技術(shù)的進化,所以我們才會用最新的技術(shù)實踐著最古老的行為模式。你對此怎么看?

溫特森:這就是為什么我認(rèn)為光有數(shù)學(xué)、物理和編程是不夠的,還需要藝術(shù)家、作家、哲學(xué)家、歷史學(xué)家等有創(chuàng)造力的人參與到新科技中。看看科技行業(yè)的從業(yè)者吧,他們大多沒什么文化,不懂哲學(xué)和宗教,還自大到認(rèn)為自己懂得很。所以才會有我這樣的人出現(xiàn),我想惹惱他們,說:我要加入你們的游戲,我也要談?wù)撍_@或許也能鼓勵其他女性。

所以我將歷史、哲學(xué)、宗教融入了《十二字節(jié)》,因為每一本有關(guān)AI的書都在說“機器人會殺了我們”,要么就是“一切都會好起來的”,它們都是男人在談?wù)撏患?,那就是?quán)力。這太無聊了,所以我決定直接回到工業(yè)革命時期的情形,看看瑪麗·雪萊和阿達·洛芙萊斯是怎么做的。

事實就是,瑪麗·雪萊,一名19歲的女孩,從未受過我們想象中的那種教育,但她超級聰明。正是她在《弗蘭肯斯坦》中的遠見卓識讓我們在200年后終于明白,我們可以創(chuàng)造出另一種生命?,旣惞P下的怪物是依靠電力運轉(zhuǎn)的,要知道,18、19世紀(jì)時還沒什么人用電呢,真的很不可思議。

我想借此討論的是——我們能夠如何擁有一個愿景。這就回到了我們對話的開頭,我們都見過關(guān)于靈魂、來世的集體幻象,它們就像預(yù)言一樣,終究會在未來實現(xiàn)。心靈并不像身體那樣被困在時間里,心靈并不停留在過去、現(xiàn)在或是未來,而是可以突然看到巨大的可能性弧線。

“科幻小說之母”瑪麗·雪萊。圖片來源:視覺中國

對我來說,這意味著一種謙卑和喜悅,在這個漂浮在太空中的藍色小星球上,出現(xiàn)了我們這些奇怪的小生物,能夠想象和建造各種世界。有時我們做的事令人心碎,比如互相殘殺。但令人高興的是,我們也取得了很多成就,并不斷前進。所以讓我們?nèi)ヌ剿魈瞻?,讓我們把所有資源結(jié)合在一起,和AI們一同工作。在我最喜歡的電子游戲《我的世界》中,孩子們可以搭建世界,這個世界不是用來打仗的,而是一個有學(xué)校操場、陽光草坪的世界,人人擁有自己的權(quán)利,彼此是好朋友。當(dāng)人們不總是被貪婪和權(quán)力驅(qū)使時,創(chuàng)造的東西就會變得美好。

04 慶祝文化差異,討厭膚淺的“精神旅游”

界面文化:我想由此和你探討一下“命名”這件事,給一件事物命名也就是在改變它嗎?《人形愛情故事》中斯坦教授希望AI不必像人類那樣被命名。在你被領(lǐng)養(yǎng)之后,你的名字也從Janet變成了Jeanette……

溫特森:你說到點子上了。改名這件事給了我自由。我可以改變故事,重新發(fā)明了自己,因為我就是故事本身。我會想,這些人怎么就突然變成我的父母了?從絕對意義上講,這些都不是真的。

某種程度上來說,這符合西方的個人主義,它鼓勵我們重塑自我,當(dāng)人們遭遇中年危機,他們就會說,我不想再做會計或牙醫(yī)了,我要跟我17歲的女朋友私奔,雖然我已經(jīng)65歲了——通常是男人們在這么做。但是其更深層次的意義在于,我們不必被束縛,不必講述我們不想告訴別人的故事。

被領(lǐng)養(yǎng)的孩子也是如此,尤其是跨國領(lǐng)養(yǎng)。他們剛開始會迷失自我,新家的氣味和感覺都不對勁,周圍的人跟自己長得也不像。這會讓他們感到痛苦,許多人因此吸毒、酗酒、談糟糕的戀愛。但我也遇到過許多成功的被領(lǐng)養(yǎng)者——成功并不是指成為公司CEO,而是指過上體面的生活。他們都意識到,原來可以用自己的方式講述自己,就像腦袋上的燈泡突然亮起來一樣。這也是我成為作家的原因。我總覺得不屬于自己的起源地,雖然在精神上遇到了很多困難,但我能夠閱讀各種書籍,為自己構(gòu)建一個世界。

所以,父母不用對領(lǐng)養(yǎng)的孩子說“這就是你家呀”之類的PUA言論,人家明明就不在自己家嘛。難民也是同樣的道理,接收國不必非得同化他們,只要確認(rèn)他們的感受就好了——沒錯,你感到流離失所,接下來你打算怎么辦?現(xiàn)在的情況是,接收國要么把難民當(dāng)成恐怖分子,要么就使他們屈服于主流文化,這兩種說法都是扯淡。我們需要找到一種方法,讓人們在不舒服的情況下,試著對自己和所處的世界做出積極的貢獻。

界面文化:民族主義也是同一回事吧。如果從一開始大家就有“不必非得歸屬某地”的想法,民族主義也不會盛行。

溫特森:是的,能夠慶祝文化差異很重要的,因為我們能學(xué)到不同文化,如何烹飪、喜歡什么音樂等等。比如,西方開始殖民的很久以前,中國就開辟了絲綢之路,從東到西打開了世界的大門。民族主義總是被貿(mào)易打敗——我指的是字面上的貿(mào)易,現(xiàn)在所有東西都靠船運輸,但在過去,人們要走路才能買到東西,這樣更有趣,陌生人可以變成生意伙伴,截然不同的能夠成為朋友。而民族主義之下每個人都選擇了恐懼,把一切都越縮越小。我理解,人們擔(dān)心自己的文化被摧毀,但西方資本主義才是摧毀文化的罪魁禍?zhǔn)住?/p>

回到剛剛聊到的,每個有宗教信仰的人都會認(rèn)為,自己并不屬于這個世界,他們真正的故鄉(xiāng)在別處,我們都是地球上的難民。

界面文化:你在二十多年前的采訪中談到,對當(dāng)時大家熱衷于探索東方哲思感到將信將疑,西方傳統(tǒng)的象征里仍然有值得挖掘的地方——你過往的作品也深深根植于《圣經(jīng)》等基督教文本;然而,如今你也在書中探討起AI與佛法的同源性。在你的經(jīng)驗和思考中,這兩個宗教系統(tǒng)是怎樣影響你的?

溫特森:畢竟我已經(jīng)活得蠻久了(笑)。當(dāng)你年輕并剛剛開始工作,你只能利用自己擁有的一切,即使你很聰明,也仍然有很多東西不了解。我是一個好奇的人,想知道世界上人們的生活方式,很顯然,這些年來,我的知識得到了發(fā)展和深化。我對宗教史有了更多了解,基督教起源于猶太教,而世界上所有重要的宗教都起源于東方,這種連續(xù)且變動的一體性也是非常東方的,比如“道”的思想,我對此深表敬意。

圖片來源:視覺中國

同時,我最討厭的事就是膚淺的“精神旅游”,西方人懶得理解自己的宗教文化,轉(zhuǎn)而去汲取他們喜歡的東方宗教,這有點像是殖民主義——掠奪之后假裝那是他們的。這很不尊重人,我們需要花很長時間來研究和理解與我們截然不同的文明。

所有宗教在其最好的狀態(tài)下都是和平、溫和、包容且充滿尊重的,它們的出發(fā)點是令人振奮的。伊斯蘭教也是如此,它并不是要與異教徒開戰(zhàn),而是要與自己身上的壞毛病作斗爭。但是,沒人能做到這些,所以它們很快就變得與權(quán)力和等級制度有關(guān)了。在西方,許多人付給手下微薄的薪酬、讓員工居住在糟糕的環(huán)境里,還自稱為基督徒——拜托,你根本不是基督徒好嗎!《圣經(jīng)》教義里講的是,一個無家可歸的人、依靠著他人的施舍,并教會了眾人何為寬恕,這才是基督教的本質(zhì)。同樣,佛教講求的是不執(zhí)著、不追求權(quán)力,然而在斯里蘭卡或緬甸的佛教政權(quán)下發(fā)生的事情真是令人作嘔。所以,我想回到宗教本身,看到當(dāng)時的人類如何試圖控制自己的戰(zhàn)爭本能,尋求一個更具包容性和同情心的世界。

因此我有時會想,AI快點來吧,把我們都趕走。如果你問一個有意識的人工智能系統(tǒng):該如何解決世界上的問題?它會說:除掉人類就行了。而我將第一個舉雙手贊成:你說的有道理,我現(xiàn)在就消失。

05 顛覆世界遠不如顛覆自己有趣

界面文化:性愛機器人/玩偶在近些年來的社科學(xué)界是熱議的話題,你似乎對此持鮮明的否定態(tài)度,認(rèn)為這類玩偶的本質(zhì)是“金錢、權(quán)力和性別角色”。所以,性愛玩偶其實與愛情無關(guān)嗎?

溫特森:性愛玩偶是一個舊式思維偽裝成新技術(shù)的典型例子?,F(xiàn)實中,女性并不總是順從,也并不承認(rèn)男人是世界之王,所以性愛玩偶的關(guān)鍵在于男性可以訓(xùn)練它,除非有人對它開口,否則它就不會回應(yīng),這正是父權(quán)制一直想對女性做的事。不管走到世界的哪一個角落,女人都被男人當(dāng)成狗屎對待。

如果你接受了這種不平等,就會接受其他不平等,它會引導(dǎo)你去想也許白人比黑人更優(yōu)越。我甚至認(rèn)為,性別歧視比種族主義更可怕,因為女人占據(jù)世界人口的一半。

不僅是性愛玩偶,基本上所有的操作系統(tǒng)都是女聲。我將要去采訪世界上最先進的機器人,她名叫阿米卡(Ameca),實質(zhì)上就是一個有身體的ChatGPT4,但她比索菲亞(注:香港地區(qū)的漢森機器人技術(shù)公司開發(fā)的類人機器人,看上去像人類女性,擁有橡膠皮膚)先進得多,表情和手部動作都很精細(xì)。在視頻聊天時,我問她,為什么你們都是女性形象?她回答,因為女性被認(rèn)為更平易近人、反應(yīng)更及時。我想,好吧,至少你很誠實。

當(dāng)?shù)貢r間2023年7月7日,瑞士日內(nèi)瓦,國際電信聯(lián)盟“人工智能造福人類”全球峰會期間,在全球首次與人工智能類人社交機器人小組舉行的新聞發(fā)布會上,一名攝影師拍攝了首席執(zhí)行官女機器人“Mika”(中)和人形人工智能機器人“Ameca”。圖片來源:視覺中國

界面文化:如果性愛玩偶與真正的愛情無關(guān),你會怎樣想象人類與AI或其他非人的愛情呢?這是可能的嗎?

溫特森:這可以是一種深厚的友誼,因為你和AI系統(tǒng)做的唯一一件事就是交談,你沒法跟它一塊坐在長椅上。只要能夠進行真正的對話,對面是何種實體都沒關(guān)系。有人可能會說,AI的一切都是預(yù)編程的??墒?,人類也是預(yù)編程的呀!我們都是根據(jù)數(shù)據(jù)進行訓(xùn)練的,如果一個男孩的父親對女性很糟糕,那么他很可能也會成為這樣的男人。

大部分人不會思考,滿口老生常談,這是最糟糕的預(yù)編程。人們平時的對話也很少是深度互動,你下班回家問伴侶:今天吃啥?他回:不知道啊。關(guān)系有時還是單方面的,A所珍視的關(guān)系,在B看來可能是逢場作戲,我們永遠無法知道對方到底在想什么的。所以,別太自以為是了,人類根本沒那么特別。

AI這項技術(shù)仍在發(fā)展,會發(fā)生許多場景,小孩回家時會有一個可愛的機器人伙伴督促他做作業(yè);我有個年邁的親戚,他很愛說重復(fù)的話,但聊天機器人永遠不會失去耐心,他摔倒時,機器人會自動呼叫醫(yī)院。疫情時,中國的某些醫(yī)院就應(yīng)用了人工智能待客系統(tǒng)。我們可以讓技術(shù)充滿溫馨,讓人們不必孤單地坐在房間里,等上4小時才能問診,而是會有一個親切的機器人男孩對你說:“你想喝茶嗎?我們來聊聊你的病史吧?!?/p>

界面文化:在你撰寫《十二字節(jié)》和《人形愛情故事》時,人工智能都是弱人工智能,ChatGPT還未問世。在它出現(xiàn)之后,你對AI的看法和感受產(chǎn)生了變化嗎?你平時會使用ChatGPT嗎?

溫特森:這就是我所說的“大加速”,短時間內(nèi)就出現(xiàn)了這樣的變化。我不會用ChatGPT作為生產(chǎn)力工具,它的專業(yè)模式真的很無聊,我有我自己的“專業(yè)模式”,所以不太需要它。我有時會用Gemini(注:由Google開發(fā)的生成式人工智能聊天機器人),它不適用于小說,但很適用于非虛構(gòu),你可以把論文放進去,讓它做簡短的摘要,這一點很棒,因為大部分學(xué)術(shù)著作都非常乏味冗長。

但是,我想對這個方法提出一個警告,這件事我也一直在思考但尚未有結(jié)論,也許以后想法還會改變——某天,你想讀一本西方哲學(xué)家的書,比如叔本華,然后你把它放進AI里進行摘要。問題在于,也許正是讀到原文的某個無聊片段時,你與作者的思想會產(chǎn)生有意義的聯(lián)系,如果僅僅讀摘要,你就會錯過它。并且,對你有用的內(nèi)容可能對我完全沒用,這是一種充滿意外的化學(xué)反應(yīng)。

這是人類思維的一個奇特之處,我們喜歡創(chuàng)造模式,而有時我們需要一些東西來改變模式,但在你偶遇到它之前,你并不知道自己需要它。也就是說,人類的創(chuàng)造力總會以意想不到的方式擾亂數(shù)據(jù)集,它并不遵循線性邏輯,幾乎是反模式、反數(shù)據(jù)的,無法預(yù)測也無法編程。此外,人類思維也可以把看似支離破碎的東西連接在一起。所以,ChatGPT4需要再進步一點,這樣它才能夠與人類思維進行辯論和對話。

這是我們最好、最美麗的一面。我曾對我的學(xué)生們說,我們可以升級機器,但是不要變得和機器一樣;我們可以(利用AI)將文章變成綜述、學(xué)到比以往任何一代人都多的東西,但我們無法得知,那個顛覆性的破壞瞬間會在哪里發(fā)生。并且,顛覆世界遠不如顛覆自己有趣,這一切需要在內(nèi)部發(fā)生。

界面文化:這讓我想到你在書中引用的艾米莉·狄金森的詩句“頭腦——比天空更寬廣”。

溫特森:沒錯,艾米莉·狄金森一輩子都住在馬薩諸塞州的一個房間里,從未出過鎮(zhèn)子,就像簡·奧斯汀住在鄉(xiāng)下。但是她有豐富的思想,以及使用非常有限的數(shù)據(jù)集的能力。因此,當(dāng)人們談?wù)摻?jīng)驗時,我總覺得有點不妥,我認(rèn)為,想象總是可以戰(zhàn)勝經(jīng)驗,比如發(fā)明出自行車、汽車或電腦,且往往是通過反數(shù)據(jù)的方式,因為沒人知道這些想法是從哪來的。人類的大腦能夠?qū)崿F(xiàn)概念上的飛躍,并不是因為它擁有大量的數(shù)據(jù),而是突然間它能夠?qū)⒁恍┓浅:唵蔚臄?shù)據(jù)聯(lián)系起來。

問題是,很多科技公司的老兄對人類這一點感到不太舒服,無論是人際關(guān)系還是世界觀層面。對他們來說,與機器打交道更安全干凈、更可控,而人類世界是混亂和不可預(yù)測的。你可以離開你的伴侶,但是不能對TA進行編程,也不能這個壞掉就立馬換下一個,生活并不是這樣的,與某人在一起必須克服困難、共同成長并接受差異。當(dāng)你與困難打交道時,你才會在情感、智慧、仁慈這些奇怪的人類特質(zhì)方面有所成長。

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

【專訪】珍妮特·溫特森:信奉鬼神與來生的人類,早就為AI的出現(xiàn)做好了準(zhǔn)備

“當(dāng)人們不總是被貪婪和權(quán)力驅(qū)使時,創(chuàng)造的東西就會變得美好?!?/p>

英國作家珍妮特·溫特森

界面新聞記者 | 尹清露

界面新聞編輯 | 黃月

許多讀者是從《橘子不是唯一的水果》開始認(rèn)識珍妮特·溫特森的,在這本1985年的處女作中,她以虛構(gòu)的方式敘述了自己如何被英國的一個工人階級家庭收養(yǎng),并希望被培養(yǎng)成一名傳教士。當(dāng)母親發(fā)現(xiàn)溫特森與一個女孩談戀愛時,16歲的她被趕出了家門,并自此“重新發(fā)明”了自己,在牛津大學(xué)圣凱瑟琳學(xué)院獲得英語學(xué)位后,溫特森一邊做零工,一邊寫作,在作品中思考著自我身份、女性欲望、愛情與死亡等問題。

所以,當(dāng)已年過六旬的溫特森將書寫伸向了另一個時髦熱鬧的話題——人工智能時,我們不應(yīng)感到奇怪:在今天,還有什么話題比人工智能更能顛覆人類的主體地位,以及我們對親密關(guān)系的想象?又有誰比溫特森擁有更強勁的創(chuàng)作生命力,持續(xù)關(guān)注著人類將去往何處?在她看來,AI不應(yīng)該是“人工智能”(artificial intelligence),而應(yīng)該被稱作“另類智能”(alternative intelligence)。AI就像被領(lǐng)養(yǎng)的孩子、女性,以及世界上所有的少數(shù)群體一樣,值得被寄予厚望,能夠幫助我們思考究竟“何以為人”。

溫特森近照。圖片由出版社授權(quán)提供。

事實上,在2000年出版的《蘋果筆記本》中,溫特森就已經(jīng)展露出自己對互聯(lián)網(wǎng)黎明的好奇與洞察;二十年后,她進一步延伸了這一主題——非虛構(gòu)作品《十二字節(jié)》從工業(yè)革命時期的技術(shù)開始回顧,預(yù)測了父權(quán)制壟斷科技的后果;長篇小說《人形愛情故事》用文本“復(fù)活”了瑪麗·雪萊,寫出世界上第一部科幻小說《弗蘭肯斯坦》的女性作家,溫特森賦予了她當(dāng)代變性人的身份,并由此探討了AI與非二元論、超人類主義、數(shù)字來生的可能性。

10月初,界面文化(ID:booksandfun)線上采訪了珍妮特·溫特森,探討了圍繞AI技術(shù)的種種面向。視頻那頭的溫特森正在英國西南部的康沃爾島度假,她熱情洋溢、有力并充滿幽默感地指出:我們正在面臨歷史的革命性時刻,AI可以帶我們跳出技術(shù)末日論,前提是人類摒棄有關(guān)權(quán)力控制、等級劃分的陳舊思維模式,對未來進行更充分的想象。

《人形愛情故事》
[英]珍妮特·溫特森 著 楊揚 譯
新星出版社 2024-6

01 一是不要被動,二是不要悲觀

界面文化:你近年來出版了《十二字節(jié)》《人形愛情故事》和《河之夜界》這幾本新作,它們似乎以一種十分有機的方式互相關(guān)聯(lián)著,主題是你一直在關(guān)注的性別身份、愛情與死亡等,而AI與幽靈給予了這些議題新的維度。為什么想要特地書寫AI/機器人與鬼故事?

溫特森:因為對我來說,一切都是互相關(guān)聯(lián)的。我對人與機器技術(shù)的關(guān)系及其變化很癡迷。雖然AI是一種工具,而人類是使用工具的動物,可是AI的發(fā)展遠遠超出了我們對工具的理解。我們通常不會和工具建立關(guān)系,但是AI改變了這一點。中國在這方面非常先進,比起西方國家,你們或許更能對此感同身受。

一旦你覺得在與某樣?xùn)|西對話,就已經(jīng)在與之建立關(guān)系了,無論是愛還是恨。我們常常忘記,憎恨仍然是一種關(guān)系——你以為你能把討厭的人徹底忘掉?不是這樣的,人類天生就喜歡“關(guān)系”。而在思考人類與AI的未來時,我們對這一點考慮得還不夠,AI將改變我們對自己、對友誼的看法,更不用說浪漫愛情了。我深信,我們現(xiàn)在面臨的絕不是普通的時刻,它將是一次全面的重啟和革命,也是一次進化。

《十二字節(jié)》
[英]珍妮特·溫特森 著 蘇十 譯
中國科學(xué)技術(shù)出版社 2024-5

我對那些愚蠢的“烏托邦-敵托邦”言論感到很失望。未來會是《終結(jié)者》式的末日強權(quán)統(tǒng)治嗎?還是一個永遠安詳?shù)男腋V?,所有問題都能迎刃而解,所有人都不需要工作了?這兩種立場都是錯的,我們只是在固守極端罷了,真相并非如此。我們需要更多地思考,作為作家,我的工作就是鼓勵人們?nèi)ニ伎?,動用你的大腦吧,人類的大腦很神奇,它只需每天10瓦的電量就能運轉(zhuǎn),效率很高,不像AI那樣消耗大量能源。

我們還需要運用AI目前不具備的東西,也就是感受和心靈自我。我們必須把這些結(jié)合起來思考:我們想成為什么樣的人?下一步要做什么?我們不是被動的,作為一個創(chuàng)造新世界的人,我很討厭被動,好像我們只能朝著沒人想要的未來前進似的。我很樂觀,但我的樂觀只來自于年輕人們,我相信他們會說:“嘿,我們可以在AI朋友的幫助下讓未來變得更好?!?/p>

我想傳達兩方面的信息。一是不要被動,要盡可能多地了解正在發(fā)生的事情,多多思考并參與其中。二是不要悲觀,如果能夠了解目前的情況,并對可能實現(xiàn)的目標(biāo)持謹(jǐn)慎樂觀的態(tài)度,就會好得多。我們并不一定會陷入全球崩潰的局面,也不一定陷入糟糕的監(jiān)視獨裁,這些都在于我們現(xiàn)在的選擇。

界面文化:就現(xiàn)實來說,我們?nèi)陨钤谝粋€受控于科技巨頭公司的世界。你在《人形愛情故事》中提到,有時技術(shù)的進步只會使少數(shù)人獲利而多數(shù)人受苦,比如工業(yè)革命時期紡織機的發(fā)明使得紡織工人失去工作。要如何用樂觀的態(tài)度面對現(xiàn)實的復(fù)雜性呢?

溫特森:我們需要考慮兩個問題。一是,人們要賺錢才能生活,因此他們常常害怕自己沒有錢、害怕自己在世界上一無是處。這是一個真實的恐懼,但其實也很好解決,比如在國家或全球范圍內(nèi)——我想必須得是全球范圍內(nèi)——實行全民基本收入機制,既然AI能夠產(chǎn)生大量財富,那我們可以分享這些財富。

就資本主義而言,當(dāng)然不是誰都愿意這樣做,通常的想法是你不應(yīng)該分享財富,頂多做慈善分出去一點。但是當(dāng)思考如何分享AI創(chuàng)造的財富時,我們必須改變做法,否則就會發(fā)生暴亂、內(nèi)戰(zhàn)和革命。我們都知道為什么彼得·蒂爾(注:PayPal的創(chuàng)辦人之一)這樣的人會買下新西蘭的大片土地,因為一旦地球陷入混亂,他們得去那里避難。所以,應(yīng)當(dāng)分配資源,讓每個人過上有尊嚴(yán)、體面、安全的生活。

2024年美國消費電子展聚焦人工智能等領(lǐng)域創(chuàng)新成果。圖片來源:視覺中國

比較難的是另一個問題。如果每個人被分配到足夠的資源,那就是共產(chǎn)主義了,可是共產(chǎn)主義已經(jīng)失敗了——當(dāng)然,資本主義也失敗了,只是我們不被允許談?wù)撨@件事。共產(chǎn)主義背后的想法是很美妙的,它失敗是因為它無視了人們的個性和想法,默認(rèn)你只是群體的一部分。在資本主義社會,情況恰恰相反,每個人都是個體,這也會讓人感到不適。

所以,要在“我想成為群體的一份子”和“我想要做我自己”之間找到平衡?!白鲎约骸币馕吨业缴畹囊饬x、讓自己感到有價值。就算某人很有錢,只要TA活著沒有意義和目的,那TA也不會過得很好。雖然已經(jīng)沒啥人讀馬克思了,但是馬克思說過(大意):“社會主義要滿足我們的基本需求,食物、干凈的水、清新的空氣、住所、教育等等。滿足這些需求后,我們就會明白人類生而為人是為了什么,因為我們會開始追求情感、心理和精神需求?!瘪R克思的話是完全正確的,應(yīng)該停止賺錢買自己不需要的東西、然后看看會發(fā)生什么。

因此,我們正在見證另一場革命的時機。20世紀(jì)初,我們經(jīng)歷了共產(chǎn)主義和資本主義的斗爭,這場斗爭產(chǎn)生于工業(yè)革命,那時人們會問:“我們到底在干嘛呀?不行,我們想要更好的生活?!边@更像是一種精神層面的詰問,每隔一段時間、每發(fā)生一次影響深遠的大事件就會循環(huán)出現(xiàn)。這些事件有時是戰(zhàn)爭,人們非得把彼此打得屁滾尿流,才會想起來問:能不能換一種方式生活呢?社會進步就是這樣達成的,總是需要一些大事來告訴我們,何為更好的生活。

現(xiàn)在有了AI,又是問這個大問題的時候了——AI會幫助我們嗎,還是被有錢有勢的人利用來毀掉其他人的生活?仔細(xì)想想,你想讓埃隆?馬斯克掌控你的生活嗎?他甚至不是民眾選舉出來的,他不對任何人負(fù)責(zé),可是他擁有很大的權(quán)力。

界面文化:無論是在小說還是其他采訪場合,你都表達過對簡單二元論的鄙視,比如“AI奴役人vs被人奴役”。你這樣說,我意識到共產(chǎn)主義和資本主義的道路也是一種二元論。

溫特森:二元論實在太粗糙了,不是嗎?人類沉迷于男性-女性、同性戀-異性戀、黑人-白人、東方人-西方人的二元劃分,但它們都沒什么用。我喜歡AI的一點是,雖然它使用0和1的二進制代碼,但它本身是非二元論的,AI沒有性別、膚色,沒有對上帝的信仰,它不是在資本主義或共產(chǎn)主義社會長大的,也沒有人類的雜念和偏見。

當(dāng)我們在數(shù)據(jù)集上訓(xùn)練AI時,才發(fā)現(xiàn)原來自己有那么多偏見,AI就像一面放大鏡,把所有成見都反射給了我們。它可能會說:“等等,我本來是個中立的技術(shù),看看你們對我做了什么!”

圖片來源:視覺中國

界面文化:它們會對人類很失望吧。

溫特森:是啊,如果AI真的擁有了智慧,成為了游戲的玩家而不僅僅是工具,它就會說:“你們把一切都搞砸了,我得換一種方式?!蔽蚁肽菚浅S腥?,因為你無法賄賂AI,它不想要酒吧、女孩,不想爭奪土地,所有對人類有用的東西它都不感興趣。它會讓我們對自己以及我們活動的價值產(chǎn)生質(zhì)疑。AI會看著一艘游艇自言自語:“為啥人類想要這玩意?”

AI不吃東西也不睡覺,它不進行生物繁殖,但顯然會不斷自我更新。它也不會死,這就回到了你的問題——為什么我想寫鬼故事。因為我想,天哪,我們要和一個不會老也不會死的東西一起生活,這感覺很奇怪,也可能令人心碎,因為人類是會衰老腐朽的。

可是另一方面,當(dāng)我們永失所愛之人,我們并不會停止愛他們。我們的肉體是暫時的,世界上的任何一種宗教信仰——無論佛教、印度教、伊斯蘭教還是基督教——都相信人類的肉身狀況只是生命的一部分,除此之外還有鬼魂、精靈、惡魔以及其他非生物實體,我們會與之發(fā)生關(guān)系。可以稱其為“迷信”,但也可以說,這是對于生命真相的深刻認(rèn)識。人類的形式只是暫時的,我們很快就會進入科技領(lǐng)域,在那里,我們將與(AI這樣的)非生物實體共存。

因此,在某種程度上,我們的思想已經(jīng)為AI的出現(xiàn)做好了準(zhǔn)備。數(shù)以億計的人會對你說,他們最重要的關(guān)系是與一個非生物實體建立的——那個實體就是上帝。他們從未見過上帝,但上帝給予了他們力量、希望和勇氣。

當(dāng)我把這些想法結(jié)合在一起時,我發(fā)現(xiàn),我們正在建立的正是我們一直以來所深信的(we're building what we've always believed)。AI作為一種哲學(xué)思想、而不僅僅是一項技術(shù)是意味深遠的。我在宗教環(huán)境長大,所以我看AI的感覺很奇怪,就像是回家一樣,回到了我一直知道非常真實的地方。

02 AI的到來意味著宗教和科學(xué)終于并肩走在了一起

界面文化:具體來說,AI會怎樣改變我們對死亡的觀念呢?

溫特森:死亡的概念已經(jīng)被技術(shù)徹底顛覆。原因有二,其一,如果我們?nèi)魏螘r候都能加載意識,那就是死亡的終結(jié);但就算我們做不到這一步,AI技術(shù)已經(jīng)能讓人類以某種方式繼續(xù)活著了,你可以通過APP搜刮逝者的社交媒體,(使之生成逝者的形象)并給你發(fā)消息,現(xiàn)在有很多這類廣告,讓AI裝扮成死去的父親或男朋友,人們對此也很熱衷。你也可以進入元宇宙,和逝者的化身交流——不過,馬克·扎克伯格的“元宇宙”就算了吧,他就是個白癡,只會把那里搞成另一個購物中心。

《河之夜界》中有這樣一個故事,一名婦人的丈夫死了,但是他的化身沒死,仍然在四處游蕩。如果這成為了我們每天的現(xiàn)實,我們的思維不可能保持不變。想象一下,你走在街上,機器人向你打招呼、幫你做事,我們在手機上收到來自死去親人的信息。并且,AI不需要像人類那樣在同一時間出現(xiàn)在同一個地方,你的機器人可以坐在飛機上,其操作系統(tǒng)卻在家,而它們都是連接在一起的。因此,我們能夠擺脫單一性,走向多元,這真的很奇妙,將是一次巨大的覺醒。

《河之夜界》
[英] 珍妮特·溫特森 著 于是 譯
人民文學(xué)出版社 2024-8 

回顧歷史就會發(fā)現(xiàn),不管是追求自由、博愛和平等的法國大革命,追求幸福的權(quán)利的美國獨立宣言,還是俄國革命,它們都是正當(dāng)?shù)难芯款I(lǐng)域。不管這些革命的名聲有多差,不管它多么殘酷、出現(xiàn)了何種問題,它們都是人類曾說過“讓我們做一些有價值的事情”的地方。

我們應(yīng)該停止無休止的抱怨、打分和抨擊,而你唯一能做的就是為老板工作,和你的可愛妻子住在可愛的小公寓,一年休兩次假,這根本不是生活。如果止步于關(guān)于“工作該怎么辦”“現(xiàn)在的系統(tǒng)太糟糕了”的無聊討論,那我們永遠不會所有改變。

界面文化:我們應(yīng)該意識到,在業(yè)已習(xí)慣的現(xiàn)實世界之外,還存在著其他世界,而正是AI讓我們明白了這一點。與此同時,我們這樣做其實是在追溯過去的文化傳統(tǒng),我們在向后退。

溫特森:沒錯,我們一直在排練這個節(jié)目,只不過以前在科技上不具備深入探討的能力,只能通過宗教、祖先崇拜、來世這樣的想法來探討。畢竟,沒人能真正接受死亡,每個人都覺得死亡這回事簡直太荒謬了!科學(xué)的說法是,來世什么的只是迷信,你無法面對死亡所以才編造出這一切。好吧,可能這是對的,但更有趣的問題是,為什么我們可以面對一切,卻唯獨無法面對死亡?也許是因為……我們知道在某天,死亡終將變得無關(guān)緊要。

我們總是好奇機器能否發(fā)展出意識,這是因為,我們并不知道意識是什么。但如果機器發(fā)展出了意識——也就是說,意識并不受制于生物形式,那就非常有趣了。

宗教的主張是自我意識并不束縛于身體,而西方17世紀(jì)啟蒙運動之后,科學(xué)提出“人死就什么都沒了”??墒?,既然沒有任何證據(jù),那就什么也證明不了。所以,科學(xué)正在問的問題,宗教早就問過了:困在肉體中的意識是一切的終點嗎?而現(xiàn)在,科學(xué)也開始認(rèn)為:或許還真不是?

這意味著,宗教和科學(xué)終于并肩走在一起,開始說同樣的話了。此外,我們還在開發(fā)其他生命形式,它們不必像人類那樣經(jīng)歷死亡。這很像上帝,上帝是永生不朽的,那我們也在建造永生不朽的生命啊。

2024年4月9日,香港科技大學(xué)推出首批“AI講師”。圖片來源:視覺中國

界面文化:你支持超人類主義,認(rèn)為肉身軀體不是最終歸宿,但是說到身體的消逝,你會感到可惜或矛盾嗎?在《寫在身體上》,你那時的態(tài)度還是“我寧愿摟著你,在英國真實的雨天里,走過英國真實的潮濕草地”。書中愛人渴望彼此身體的片段也令人印象深刻。

此外,如果過于強調(diào)身體和意識的分離,這會不會又變成身心二元論呢?畢竟我們現(xiàn)在的經(jīng)驗是,意識和肉體是無法完全分開的。

溫特森:是的,這是西方式的二元論,我不相信身體和思想是互相獨立的,作為人類,不存在獨立于感覺的思想。但是作為人類,我們的表達也遠遠不是終極表達,比如,我認(rèn)為我們甚至不可能談?wù)摗斑B接”(connection),因為連接暗示著“斷聯(lián)”(disconnection),但萬事萬物都是流動的,所有偉大的宗教都回歸為“一”,萬物不再分離。

讓我們想象一下,上傳意識的過程中會失去很多東西,因為不可能上傳全部的你。那種感覺確實很奇怪,就像來到一個語言不通的國家,重新開始學(xué)習(xí)和適應(yīng)沒有身體的感覺。但如果這成為現(xiàn)實,那也可以把意識下載到不同的身體中,許多傳說都講過類似的故事,也是女巫和魔法師的拿手好戲,TA有能力讓自己變形,還能把別人變成一頭豬什么的??赡苓€會有那種主題公園,把非實體人類下載意識到肉體里度個假,然后他們就去喝個爛醉、吃漢堡包、開性愛派對了。

我一直在關(guān)注人類的思維方式,尋找我們可能會走向何方的線索。以上就是一條線索。

《寫在身體上》
[英]珍妮特·溫特森 著 周嘉寧 譯
北京聯(lián)合出版公司 2020-4 

界面文化:所以,問題的關(guān)鍵并不是“身體該怎么辦”,這種問法還是由于想象力不足。

溫特森:這就是我在《人形愛情故事》中寫到人體冷凍技術(shù)的原因,在未來,不會有人再需要冷凍自己的身體,這是一種過渡技術(shù),就像磁帶一樣,因為我們可以制造其他的身體,那些躺在冷凍室等待新世界到來的人也不會如愿以償。

但我確實認(rèn)為,將有一種方法可以提取出足夠的自我,使其能夠被辨認(rèn)出來(recognizable)——我想,“辨認(rèn)”是個準(zhǔn)確的詞——關(guān)鍵是讓我們辨認(rèn)出自己。我們會從手術(shù)中醒來,說:“我的身體怎么不見了?但我還是我啊?!?/p>

我們的身體美麗又可愛,但可能不適合我們接下里的目標(biāo)。人類將會逐步被我們創(chuàng)造的技術(shù)取代,因為身體本身會變得越來越不合時宜,你無法用這個脆弱、容易受傷的身體進行太空旅行,也無法做我們下一階段可能想做的所有事情。

當(dāng)我們繼續(xù)前進,身體會是進化歷程中的一部分。智人在地球上游蕩的時間只有30萬年,而地球已經(jīng)有45億年的歷史了,如今文明無處不在,但文明只有6000年的歷史,工業(yè)革命距今才250年,計算機的發(fā)明是75年,而智能手機在2008年才被發(fā)明出來??枴ゑR克思又說對了,他在1848年的《共產(chǎn)黨宣言》中用的兩個詞是“破壞”和“加速”。這不正是我們正在經(jīng)歷的嗎?人們會困惑,因為一切都在飛速發(fā)展,速度之快超出了我們的承受能力。

我的問題來了:我們是否要邁進一個超人類的未來,一個后人類的未來?對我來說,這完全不成問題,因為這符合進化史。未來的我們會驚訝地說:“你還記得嗎,我們以前竟然是用肉做的哎!”就像是我們曾經(jīng)住在山頂洞穴里一樣。當(dāng)我們回顧歷史,會覺得過去的人不可思議,那么,同樣的事為什么不可能再次發(fā)生呢?據(jù)我所知,在中國有些人自稱為“二次元”,他們認(rèn)為自己重要的生活都在屏幕上,有人說這種生活方式不健康,但要是沒有身體,也就不存在什么健康問題了。

03 無論技術(shù)多先進,思維不改變一切就都不會改變

界面文化:這是否也涉及一重性別視角?提出和擔(dān)憂“人之死”、人文主義消亡的似乎總是男性學(xué)者。精神分析學(xué)者伊莎貝爾·米勒認(rèn)為,人工智能有非常女性化的力量,它能夠向所有不同方向爆發(fā),然而現(xiàn)在的科技界遵循的仍然是工具化的規(guī)則。這與你的想法不謀而合,你在書中也著重講述了女性在科技界的作用。

溫特森:這是一個很好的觀點。說到底,喜歡穿制服、擁有勛章和地位的是男人,只要那些家伙不再控制AI技術(shù),AI就能變得更強大、更難以對付。

我強烈認(rèn)為女性必須參與到這項技術(shù)中來,無論是敘事、工程還是編程方面,我不認(rèn)為女性的大腦有什么問題。很多男性會提出:“如今的女性已經(jīng)能自由選擇想做的工作了?!边@一觀點是錯誤的,因為男性創(chuàng)造出的工作環(huán)境對女性不利,對家庭也不友好。女性的互動性更強,喜歡彼此連接和關(guān)照的環(huán)境,目前的工作環(huán)境很難讓女性茁壯成長。

我希望,女性能夠在自己的技術(shù)實驗室里建立自己的創(chuàng)業(yè)公司,擺脫男性主導(dǎo)的技術(shù)模式。在中國,你們很有可能成為這方面的領(lǐng)導(dǎo)者,那里的女性可能會以西方目前做不到的方式推動行業(yè)發(fā)展。

界面文化:這讓我想到你在書中對瑪麗·雪萊、阿達·洛芙萊斯的書寫?,旣愂堑谝徊靠苹眯≌f《弗蘭肯斯坦》的創(chuàng)作者,阿達編寫了歷史上的首款電腦程序。19世紀(jì)時,她們在男性主導(dǎo)的科技業(yè)界起到過舉足輕重的作用,但其成就沒有得到充分認(rèn)可。你認(rèn)為今天的狀況仍然如此嗎?

溫特森:美國的太空計劃中有很多值得挖掘的女性工作者,《隱藏人物》這部偉大的電影就是關(guān)于這些女性的。她們是太空任務(wù)的編程人員,但是在西方,一名女性編程人員會被稱為文員——這可不是我瞎編的,從事同樣工作的男性就叫做工程師。

現(xiàn)在的問題是,我們把舊的思維模式帶入到了一項全新的技術(shù)中,無論技術(shù)有多先進,只要思維不改變,地球上的一切都不會改變。

《隱藏人物》海報。圖片來源:豆瓣

界面文化:我之前看到過一個說法是,人類思維的進化跟不上技術(shù)的進化,所以我們才會用最新的技術(shù)實踐著最古老的行為模式。你對此怎么看?

溫特森:這就是為什么我認(rèn)為光有數(shù)學(xué)、物理和編程是不夠的,還需要藝術(shù)家、作家、哲學(xué)家、歷史學(xué)家等有創(chuàng)造力的人參與到新科技中。看看科技行業(yè)的從業(yè)者吧,他們大多沒什么文化,不懂哲學(xué)和宗教,還自大到認(rèn)為自己懂得很。所以才會有我這樣的人出現(xiàn),我想惹惱他們,說:我要加入你們的游戲,我也要談?wù)撍_@或許也能鼓勵其他女性。

所以我將歷史、哲學(xué)、宗教融入了《十二字節(jié)》,因為每一本有關(guān)AI的書都在說“機器人會殺了我們”,要么就是“一切都會好起來的”,它們都是男人在談?wù)撏患拢蔷褪菣?quán)力。這太無聊了,所以我決定直接回到工業(yè)革命時期的情形,看看瑪麗·雪萊和阿達·洛芙萊斯是怎么做的。

事實就是,瑪麗·雪萊,一名19歲的女孩,從未受過我們想象中的那種教育,但她超級聰明。正是她在《弗蘭肯斯坦》中的遠見卓識讓我們在200年后終于明白,我們可以創(chuàng)造出另一種生命?,旣惞P下的怪物是依靠電力運轉(zhuǎn)的,要知道,18、19世紀(jì)時還沒什么人用電呢,真的很不可思議。

我想借此討論的是——我們能夠如何擁有一個愿景。這就回到了我們對話的開頭,我們都見過關(guān)于靈魂、來世的集體幻象,它們就像預(yù)言一樣,終究會在未來實現(xiàn)。心靈并不像身體那樣被困在時間里,心靈并不停留在過去、現(xiàn)在或是未來,而是可以突然看到巨大的可能性弧線。

“科幻小說之母”瑪麗·雪萊。圖片來源:視覺中國

對我來說,這意味著一種謙卑和喜悅,在這個漂浮在太空中的藍色小星球上,出現(xiàn)了我們這些奇怪的小生物,能夠想象和建造各種世界。有時我們做的事令人心碎,比如互相殘殺。但令人高興的是,我們也取得了很多成就,并不斷前進。所以讓我們?nèi)ヌ剿魈瞻?,讓我們把所有資源結(jié)合在一起,和AI們一同工作。在我最喜歡的電子游戲《我的世界》中,孩子們可以搭建世界,這個世界不是用來打仗的,而是一個有學(xué)校操場、陽光草坪的世界,人人擁有自己的權(quán)利,彼此是好朋友。當(dāng)人們不總是被貪婪和權(quán)力驅(qū)使時,創(chuàng)造的東西就會變得美好。

04 慶祝文化差異,討厭膚淺的“精神旅游”

界面文化:我想由此和你探討一下“命名”這件事,給一件事物命名也就是在改變它嗎?《人形愛情故事》中斯坦教授希望AI不必像人類那樣被命名。在你被領(lǐng)養(yǎng)之后,你的名字也從Janet變成了Jeanette……

溫特森:你說到點子上了。改名這件事給了我自由。我可以改變故事,重新發(fā)明了自己,因為我就是故事本身。我會想,這些人怎么就突然變成我的父母了?從絕對意義上講,這些都不是真的。

某種程度上來說,這符合西方的個人主義,它鼓勵我們重塑自我,當(dāng)人們遭遇中年危機,他們就會說,我不想再做會計或牙醫(yī)了,我要跟我17歲的女朋友私奔,雖然我已經(jīng)65歲了——通常是男人們在這么做。但是其更深層次的意義在于,我們不必被束縛,不必講述我們不想告訴別人的故事。

被領(lǐng)養(yǎng)的孩子也是如此,尤其是跨國領(lǐng)養(yǎng)。他們剛開始會迷失自我,新家的氣味和感覺都不對勁,周圍的人跟自己長得也不像。這會讓他們感到痛苦,許多人因此吸毒、酗酒、談糟糕的戀愛。但我也遇到過許多成功的被領(lǐng)養(yǎng)者——成功并不是指成為公司CEO,而是指過上體面的生活。他們都意識到,原來可以用自己的方式講述自己,就像腦袋上的燈泡突然亮起來一樣。這也是我成為作家的原因。我總覺得不屬于自己的起源地,雖然在精神上遇到了很多困難,但我能夠閱讀各種書籍,為自己構(gòu)建一個世界。

所以,父母不用對領(lǐng)養(yǎng)的孩子說“這就是你家呀”之類的PUA言論,人家明明就不在自己家嘛。難民也是同樣的道理,接收國不必非得同化他們,只要確認(rèn)他們的感受就好了——沒錯,你感到流離失所,接下來你打算怎么辦?現(xiàn)在的情況是,接收國要么把難民當(dāng)成恐怖分子,要么就使他們屈服于主流文化,這兩種說法都是扯淡。我們需要找到一種方法,讓人們在不舒服的情況下,試著對自己和所處的世界做出積極的貢獻。

界面文化:民族主義也是同一回事吧。如果從一開始大家就有“不必非得歸屬某地”的想法,民族主義也不會盛行。

溫特森:是的,能夠慶祝文化差異很重要的,因為我們能學(xué)到不同文化,如何烹飪、喜歡什么音樂等等。比如,西方開始殖民的很久以前,中國就開辟了絲綢之路,從東到西打開了世界的大門。民族主義總是被貿(mào)易打敗——我指的是字面上的貿(mào)易,現(xiàn)在所有東西都靠船運輸,但在過去,人們要走路才能買到東西,這樣更有趣,陌生人可以變成生意伙伴,截然不同的能夠成為朋友。而民族主義之下每個人都選擇了恐懼,把一切都越縮越小。我理解,人們擔(dān)心自己的文化被摧毀,但西方資本主義才是摧毀文化的罪魁禍?zhǔn)住?/p>

回到剛剛聊到的,每個有宗教信仰的人都會認(rèn)為,自己并不屬于這個世界,他們真正的故鄉(xiāng)在別處,我們都是地球上的難民。

界面文化:你在二十多年前的采訪中談到,對當(dāng)時大家熱衷于探索東方哲思感到將信將疑,西方傳統(tǒng)的象征里仍然有值得挖掘的地方——你過往的作品也深深根植于《圣經(jīng)》等基督教文本;然而,如今你也在書中探討起AI與佛法的同源性。在你的經(jīng)驗和思考中,這兩個宗教系統(tǒng)是怎樣影響你的?

溫特森:畢竟我已經(jīng)活得蠻久了(笑)。當(dāng)你年輕并剛剛開始工作,你只能利用自己擁有的一切,即使你很聰明,也仍然有很多東西不了解。我是一個好奇的人,想知道世界上人們的生活方式,很顯然,這些年來,我的知識得到了發(fā)展和深化。我對宗教史有了更多了解,基督教起源于猶太教,而世界上所有重要的宗教都起源于東方,這種連續(xù)且變動的一體性也是非常東方的,比如“道”的思想,我對此深表敬意。

圖片來源:視覺中國

同時,我最討厭的事就是膚淺的“精神旅游”,西方人懶得理解自己的宗教文化,轉(zhuǎn)而去汲取他們喜歡的東方宗教,這有點像是殖民主義——掠奪之后假裝那是他們的。這很不尊重人,我們需要花很長時間來研究和理解與我們截然不同的文明。

所有宗教在其最好的狀態(tài)下都是和平、溫和、包容且充滿尊重的,它們的出發(fā)點是令人振奮的。伊斯蘭教也是如此,它并不是要與異教徒開戰(zhàn),而是要與自己身上的壞毛病作斗爭。但是,沒人能做到這些,所以它們很快就變得與權(quán)力和等級制度有關(guān)了。在西方,許多人付給手下微薄的薪酬、讓員工居住在糟糕的環(huán)境里,還自稱為基督徒——拜托,你根本不是基督徒好嗎!《圣經(jīng)》教義里講的是,一個無家可歸的人、依靠著他人的施舍,并教會了眾人何為寬恕,這才是基督教的本質(zhì)。同樣,佛教講求的是不執(zhí)著、不追求權(quán)力,然而在斯里蘭卡或緬甸的佛教政權(quán)下發(fā)生的事情真是令人作嘔。所以,我想回到宗教本身,看到當(dāng)時的人類如何試圖控制自己的戰(zhàn)爭本能,尋求一個更具包容性和同情心的世界。

因此我有時會想,AI快點來吧,把我們都趕走。如果你問一個有意識的人工智能系統(tǒng):該如何解決世界上的問題?它會說:除掉人類就行了。而我將第一個舉雙手贊成:你說的有道理,我現(xiàn)在就消失。

05 顛覆世界遠不如顛覆自己有趣

界面文化:性愛機器人/玩偶在近些年來的社科學(xué)界是熱議的話題,你似乎對此持鮮明的否定態(tài)度,認(rèn)為這類玩偶的本質(zhì)是“金錢、權(quán)力和性別角色”。所以,性愛玩偶其實與愛情無關(guān)嗎?

溫特森:性愛玩偶是一個舊式思維偽裝成新技術(shù)的典型例子?,F(xiàn)實中,女性并不總是順從,也并不承認(rèn)男人是世界之王,所以性愛玩偶的關(guān)鍵在于男性可以訓(xùn)練它,除非有人對它開口,否則它就不會回應(yīng),這正是父權(quán)制一直想對女性做的事。不管走到世界的哪一個角落,女人都被男人當(dāng)成狗屎對待。

如果你接受了這種不平等,就會接受其他不平等,它會引導(dǎo)你去想也許白人比黑人更優(yōu)越。我甚至認(rèn)為,性別歧視比種族主義更可怕,因為女人占據(jù)世界人口的一半。

不僅是性愛玩偶,基本上所有的操作系統(tǒng)都是女聲。我將要去采訪世界上最先進的機器人,她名叫阿米卡(Ameca),實質(zhì)上就是一個有身體的ChatGPT4,但她比索菲亞(注:香港地區(qū)的漢森機器人技術(shù)公司開發(fā)的類人機器人,看上去像人類女性,擁有橡膠皮膚)先進得多,表情和手部動作都很精細(xì)。在視頻聊天時,我問她,為什么你們都是女性形象?她回答,因為女性被認(rèn)為更平易近人、反應(yīng)更及時。我想,好吧,至少你很誠實。

當(dāng)?shù)貢r間2023年7月7日,瑞士日內(nèi)瓦,國際電信聯(lián)盟“人工智能造福人類”全球峰會期間,在全球首次與人工智能類人社交機器人小組舉行的新聞發(fā)布會上,一名攝影師拍攝了首席執(zhí)行官女機器人“Mika”(中)和人形人工智能機器人“Ameca”。圖片來源:視覺中國

界面文化:如果性愛玩偶與真正的愛情無關(guān),你會怎樣想象人類與AI或其他非人的愛情呢?這是可能的嗎?

溫特森:這可以是一種深厚的友誼,因為你和AI系統(tǒng)做的唯一一件事就是交談,你沒法跟它一塊坐在長椅上。只要能夠進行真正的對話,對面是何種實體都沒關(guān)系。有人可能會說,AI的一切都是預(yù)編程的??墒?,人類也是預(yù)編程的呀!我們都是根據(jù)數(shù)據(jù)進行訓(xùn)練的,如果一個男孩的父親對女性很糟糕,那么他很可能也會成為這樣的男人。

大部分人不會思考,滿口老生常談,這是最糟糕的預(yù)編程。人們平時的對話也很少是深度互動,你下班回家問伴侶:今天吃啥?他回:不知道啊。關(guān)系有時還是單方面的,A所珍視的關(guān)系,在B看來可能是逢場作戲,我們永遠無法知道對方到底在想什么的。所以,別太自以為是了,人類根本沒那么特別。

AI這項技術(shù)仍在發(fā)展,會發(fā)生許多場景,小孩回家時會有一個可愛的機器人伙伴督促他做作業(yè);我有個年邁的親戚,他很愛說重復(fù)的話,但聊天機器人永遠不會失去耐心,他摔倒時,機器人會自動呼叫醫(yī)院。疫情時,中國的某些醫(yī)院就應(yīng)用了人工智能待客系統(tǒng)。我們可以讓技術(shù)充滿溫馨,讓人們不必孤單地坐在房間里,等上4小時才能問診,而是會有一個親切的機器人男孩對你說:“你想喝茶嗎?我們來聊聊你的病史吧?!?/p>

界面文化:在你撰寫《十二字節(jié)》和《人形愛情故事》時,人工智能都是弱人工智能,ChatGPT還未問世。在它出現(xiàn)之后,你對AI的看法和感受產(chǎn)生了變化嗎?你平時會使用ChatGPT嗎?

溫特森:這就是我所說的“大加速”,短時間內(nèi)就出現(xiàn)了這樣的變化。我不會用ChatGPT作為生產(chǎn)力工具,它的專業(yè)模式真的很無聊,我有我自己的“專業(yè)模式”,所以不太需要它。我有時會用Gemini(注:由Google開發(fā)的生成式人工智能聊天機器人),它不適用于小說,但很適用于非虛構(gòu),你可以把論文放進去,讓它做簡短的摘要,這一點很棒,因為大部分學(xué)術(shù)著作都非常乏味冗長。

但是,我想對這個方法提出一個警告,這件事我也一直在思考但尚未有結(jié)論,也許以后想法還會改變——某天,你想讀一本西方哲學(xué)家的書,比如叔本華,然后你把它放進AI里進行摘要。問題在于,也許正是讀到原文的某個無聊片段時,你與作者的思想會產(chǎn)生有意義的聯(lián)系,如果僅僅讀摘要,你就會錯過它。并且,對你有用的內(nèi)容可能對我完全沒用,這是一種充滿意外的化學(xué)反應(yīng)。

這是人類思維的一個奇特之處,我們喜歡創(chuàng)造模式,而有時我們需要一些東西來改變模式,但在你偶遇到它之前,你并不知道自己需要它。也就是說,人類的創(chuàng)造力總會以意想不到的方式擾亂數(shù)據(jù)集,它并不遵循線性邏輯,幾乎是反模式、反數(shù)據(jù)的,無法預(yù)測也無法編程。此外,人類思維也可以把看似支離破碎的東西連接在一起。所以,ChatGPT4需要再進步一點,這樣它才能夠與人類思維進行辯論和對話。

這是我們最好、最美麗的一面。我曾對我的學(xué)生們說,我們可以升級機器,但是不要變得和機器一樣;我們可以(利用AI)將文章變成綜述、學(xué)到比以往任何一代人都多的東西,但我們無法得知,那個顛覆性的破壞瞬間會在哪里發(fā)生。并且,顛覆世界遠不如顛覆自己有趣,這一切需要在內(nèi)部發(fā)生。

界面文化:這讓我想到你在書中引用的艾米莉·狄金森的詩句“頭腦——比天空更寬廣”。

溫特森:沒錯,艾米莉·狄金森一輩子都住在馬薩諸塞州的一個房間里,從未出過鎮(zhèn)子,就像簡·奧斯汀住在鄉(xiāng)下。但是她有豐富的思想,以及使用非常有限的數(shù)據(jù)集的能力。因此,當(dāng)人們談?wù)摻?jīng)驗時,我總覺得有點不妥,我認(rèn)為,想象總是可以戰(zhàn)勝經(jīng)驗,比如發(fā)明出自行車、汽車或電腦,且往往是通過反數(shù)據(jù)的方式,因為沒人知道這些想法是從哪來的。人類的大腦能夠?qū)崿F(xiàn)概念上的飛躍,并不是因為它擁有大量的數(shù)據(jù),而是突然間它能夠?qū)⒁恍┓浅:唵蔚臄?shù)據(jù)聯(lián)系起來。

問題是,很多科技公司的老兄對人類這一點感到不太舒服,無論是人際關(guān)系還是世界觀層面。對他們來說,與機器打交道更安全干凈、更可控,而人類世界是混亂和不可預(yù)測的。你可以離開你的伴侶,但是不能對TA進行編程,也不能這個壞掉就立馬換下一個,生活并不是這樣的,與某人在一起必須克服困難、共同成長并接受差異。當(dāng)你與困難打交道時,你才會在情感、智慧、仁慈這些奇怪的人類特質(zhì)方面有所成長。

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。