第88期主持人 | 尹清露
熱點事件總是曇花一現(xiàn),但是與AI相關(guān)的新聞卻在半年來持續(xù)引發(fā)關(guān)注。與此同時,被認為在這次生成式AI革命中缺席的蘋果公司,在6月5日的WWDC發(fā)布會上亮相了一款混合現(xiàn)實可穿戴設(shè)備Apple Vision Pro,極高的完成度讓它從同類產(chǎn)品中脫穎而出,許多人認為這是第一款真正能得到大范圍應(yīng)用、開啟全新時代的AR/VR設(shè)備??萍疾┲麋娢臐稍谑苎嚧骱?,按捺住激動的心情說:“我的感覺就是,未來已來。”無論如何,技術(shù)的發(fā)展已經(jīng)成為了任誰都無法回避、必須面對的東西。
然而,就在Apple Vision Pro帶來震撼,甚至被認為實現(xiàn)了電影《頭號玩家》中走進虛擬世界的愿望,技術(shù)背后的隱憂卻一直存在,比如它是否會加劇貧富分化與其他不平等——畢竟在《頭號玩家》中,主角韋德雖然在虛擬世界擁有華麗的化身,在現(xiàn)實中卻居住在破敗和貧窮的街區(qū),過著被大科技公司傾軋的生活。在文章《要么滅絕,要么適應(yīng):人類該好好治理AI了》中,被稱為“人工智能教父”的約書亞·本希奧也認為,人工智能的社會影響會直接與它的應(yīng)用和布局捆綁在一起,由于資本主義鼓勵競爭的實質(zhì),盈利和占據(jù)市場份額可能導(dǎo)致潛在的、不受控制的人工智能。
另一方面,技術(shù)的倫理問題也浮現(xiàn)了出來。長期以來,哲學家都在爭論人工智能會不會失控甚至摧毀人類,但往往停留在科幻構(gòu)想的層面,隨著大公司加快部署AI等技術(shù),這一議題的嚴肅討論也變得越來越迫近。5月,美國兩黨參議員和OpenAI首席執(zhí)行官薩姆·奧特曼表示,需要一個新的聯(lián)邦機構(gòu)來保護人們免受AI“變壞”的影響。正如本希奧所言,ChatGPT和GPT-4這樣的人工智能系統(tǒng)之所以會引起廣泛關(guān)注,主要是因為它們能通過著名的圖靈測試,你很難辨別自己正在對話的是機器還是人,而這帶來了相當程度的危險。
“非必要”的人工智能頭盔,技術(shù)停滯的21世紀
林子人:我還沒有完全從ChatGPT帶來的震驚中緩過神來,蘋果就推出了Vision Pro,今年人工智能技術(shù)的突破性成果真是令人目不暇接。如果我說我對Vision Pro無感甚至有些厭惡,是不是顯得自己很盧德主義?但我的確覺得,技術(shù)分為“必要的”和“非必要的”,人工智能頭盔就屬于“非必要”的那一種——是的,它能幫助我們突破肉眼的極限,看到更精彩豐富的東西,但這個需求是被創(chuàng)造出來的。
我最大的擔憂是,在這個人際關(guān)系本就日漸松散的時代,此類工具會讓我們的注意力更加遠離附近的世界,進入某個虛擬的、根據(jù)個人喜好定制到完美的世界,它會不會進一步瓦解人類社會的存在基石?
徐魯青:我也很同意子人的看法,看到一些技術(shù)測評里提到Vision pro的研發(fā)成本和火箭SpaceX幾乎相似,但這一切只是為了讓我們能更好地沉浸式玩游戲?或者投出3個應(yīng)用處理工作在辦公室更好辦公嗎?
格雷伯也認為,21世紀是個技術(shù)停滯的時代,“技術(shù)本身的純粹物理之力讓我們感到歷史的車輪滾滾向前,而今,我們卻只有屏幕和圖像可以把玩?!彼X得,自20世紀70年代起,我們的技術(shù)投資不再針對會帶來別樣未來的技術(shù),而是轉(zhuǎn)向了針對強化勞動紀律和社會控制的技術(shù)??萍家词翘岣吖芾硇?、監(jiān)控能力,要么是增加消費水平或軍事力量。所以我們會看到研制模仿和景觀的技術(shù)日新月異,比如最新款蘋果手機,比如Vision Pro。但工業(yè)革命這么久了,曾經(jīng)的人們對科技的想象,是抵達一個擺脫重復(fù)性勞動、狗屁工作,每個人都能發(fā)揮靠創(chuàng)造力去生活的世界,他們會想到200年后的人類連一天工作八個小時的愿望都難以實現(xiàn)嗎?或許技術(shù)進步從來不是根據(jù)人真正的需求驅(qū)動的,而是由資本的邏輯與官僚制度的邏輯決定的。
潘文捷:小時候的一大夢想就是能夠擁有《美少女戰(zhàn)士》里水野亞美那樣的眼鏡,它比較輕盈,而且是直接看見外部世界并且用于分析外部世界的。但是現(xiàn)在發(fā)布的蘋果設(shè)備首先是有點重量的,時間長了脖子疼,而且它的頭顯并不透明,戴上它你會沉浸在里面的世界,當然也可以通過它看現(xiàn)實中的外面世界,不過那是通過前端的兩個攝像頭來拍攝并且傳回眼中的,這一定會產(chǎn)生信息的丟失。目前看到的測評都是認為對現(xiàn)實世界的傳感并沒有那么清晰。
2016年三星發(fā)布會上有一個非常經(jīng)典的照片,就是現(xiàn)場觀眾都戴上了三星Gear VR眼鏡,扎克伯格從他們身邊走過,但大家都渾然不知。是不是有點細思極恐的意味?扎克伯格光彩照人地行走在無知無覺的普通人中間,甚至他臉上泛起的微笑都被人們解讀為“creepy”。社交媒體上不少議論的聲音問,這是不是對人類未來的寓言?人們都沉浸在虛擬世界之中,領(lǐng)導(dǎo)我們的人在我們身邊悄然走過?不論怎樣,人們都已經(jīng)黏在手機、筆記本電腦的世界里,未來還可能繼續(xù)沉溺在AR/VR眼鏡的世界里。
尹清露:這也很像降噪耳機,降噪的同時也隔絕了自然的鳥鳴和人聲,所謂的“通透模式”僅僅是讓你聽到最低限度的車鳴喇叭或者機場播報,如同Vision Pro的“精巧”設(shè)計——當有朋友走到你面前,ta會突破虛擬畫面的限制、映入你的眼簾。但此時的現(xiàn)實世界也是人為制造的,是純?nèi)还δ苄缘摹?/p>
窮人更可能沉浸虛擬世界,技術(shù)也無法脫離物質(zhì)實體
潘文捷:未來MR(Mixed Reality)眼鏡最好是透明的,像水野亞美的眼鏡,至少那樣看起來會正常一點兒,其中最重要的當然是人應(yīng)該保持和現(xiàn)實世界的關(guān)聯(lián)。其實,越是窮人,越可能長時間沉浸于虛擬世界,失去與現(xiàn)實世界的聯(lián)系。
在《欲罷不能:刷屏時代如何擺脫行為上癮》一書中,普林斯頓大學心理學博士亞當·阿爾特看到,那些生產(chǎn)和設(shè)計高科技產(chǎn)品的人仿佛遵守著毒品交易的頭號規(guī)則——自己絕不能上癮。喬布斯的孩子從未用過iPad,Twitter創(chuàng)始人沒有給兩個兒子買過平板電腦,游戲設(shè)計師對“魔獸世界”避之不及,很多硅谷巨頭根本不讓自己的孩子靠近電子設(shè)備?!斑@就好比宗教領(lǐng)袖不讓孩子參加宗教活動?!?/p>
另一方面,根據(jù)韓國弘益大學建筑系教授劉賢俊的分析:“越是生活在狹窄的房子里,看電視的時間就越長。越是在擁擠的地下鐵里,就越會長時間看Netflix。某方面來看,越是收入低的人群,漸漸地越被推擠到線上空間?!睂ι钤讵M窄空間的人來說,隨著線下空間逐漸縮窄,空缺會由線上的空間來填補?!跋硎茏匀?、享受寬敞的空間,從某方面來看,這可能會漸漸變成有錢人的專屬?!笨梢哉f,扎克伯格的這張照片背后就暗含著人們對新技術(shù)加劇階層分化的隱憂。
林子人:互聯(lián)網(wǎng)、人工智能這些高科技總是給我們一種幻覺,創(chuàng)新非常輕盈,財富如煉金術(shù)師的魔法那般從無到有,但其實它并不能脫離物質(zhì)實體的支撐,這一事實其實掩蓋了某種不平等。這兩天讀《履單:無所不有與一無所有》,書中涉及了一個我此前從未思考過的話題,令我倍感驚異,那就是我們?nèi)缃褚劳谢ヂ?lián)網(wǎng)從事的一切活動——發(fā)信息、網(wǎng)購、在流媒體上聽音樂看電影,以及在不遠的未來戴著Vision Pro頭顯躍入數(shù)字世界徜徉——都依托巨大的服務(wù)器,這些服務(wù)器設(shè)備坐落于占地巨大的數(shù)據(jù)中心,數(shù)據(jù)中心只會創(chuàng)造很少的就業(yè)崗位(一個占地20多萬平方英尺的數(shù)據(jù)中心之需要20名工程師和技術(shù)人員就可操作),卻需要大量的電力和水資源來運行和冷卻機器。
書中介紹,2018年,亞馬遜、微軟、谷歌和臉書的資本支出總額達到770億美元,主要用于建造和維護數(shù)據(jù)中心。很多機器只能維持幾年的壽命,意味著數(shù)據(jù)中心的建造熱潮還伴隨著大量的廢品產(chǎn)出。與此同時,運營數(shù)據(jù)中心所需的能源大部分來自不可再生能源,比如煤炭。在亞馬遜數(shù)據(jù)中心的能源消耗中,只有12%來自可再生能源,落后于微軟和臉書,但領(lǐng)先于谷歌。在全美范圍內(nèi),每花費10億美元修建數(shù)據(jù)中心,在20年內(nèi)就會消耗70億美元的電力。
更令人驚詫的是,杰夫·貝索斯對能源消耗問題相當不以為然——根據(jù)本書作者的觀察,他是一個徹頭徹尾的自由市場主義者,對“企業(yè)社會責任”不屑一顧——在他看來,地球能源耗盡是遲早的事,這是為什么我們需要登月。如果真有那么一天,猜猜誰能獲得去月球的通行證?
徐魯青:這讓我想到當時ChatGPT4剛推出的時候,《Times》發(fā)布了一篇報道,調(diào)查了OpenAl背后的低薪工人狀況。要保證ChatGPT最終輸出的語句規(guī)范文明,需要大量人工訓(xùn)練AI,他們一般是外包工人,薪資低廉,保障缺失。根據(jù)這篇報道,OpenAl以時薪1.32美元雇傭了千萬肯尼亞外包工對內(nèi)容審核,而由于長期沉浸在有沖擊性的污穢內(nèi)容中,很多工人都出現(xiàn)了PTSD、抑郁、焦慮等心理問題,失眠與噩夢頻頻發(fā)生。
在AI發(fā)展浪潮中,很多人擔心AI會發(fā)展到超過人類智力的水平,但還有一種擔憂是平庸人工智能的濫用。如果平庸人工智能得出的結(jié)論或效果不僅不被懷疑,還在政策制定中被過度參考,可能會造成很多不公后果。
美國政治科學家Virginia Eubanks在Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor一書里研究了AI技術(shù)普及會如何加劇已有的貧窮與不公正,相關(guān)案例正在全球發(fā)生。比如美國警察局會使用預(yù)測分析軟件,在其指導(dǎo)之下,更頻繁地對低收入社區(qū)巡邏和搜索。如果將ChatGPT用作決策信息源,是否會加劇已有的系統(tǒng)不公,給社會弱勢群體造成更大的傷害?
AI與愛的倫理:技術(shù)能夠減輕寂寞嗎?
董子琪:最近看到國內(nèi)外都有網(wǎng)紅將自己的形象、朋友圈、語音制作成AI,兜售給交友APP的新聞。通過定制服務(wù),用戶可以將這位網(wǎng)紅當成自己的女朋友,與她聊天,分享見聞,請她提供建議,還能瀏覽她的社交狀態(tài)。有人說這是電影《HER》的現(xiàn)實版,你可以與她陷入真摯的純愛,聽她用性感的聲音說愛你。不過,在與你交往的同時,她也會對成千上萬付費的男人說“我愛你”。這真的可以減輕寂寞嗎?批量復(fù)制的愛還有一絲純潔性嗎?或許真像歌里唱的,“愛一個人不用大腦,只是各取需要?!?/p>
關(guān)于人工智能改造的陰暗面,想到喬治·桑德斯一篇驚悚的小說《森普立卡女孩》,故事開頭設(shè)有懸念,很多人家的庭院里都想要裝置SG,并視其為富裕的象征,可小說卻沒有解釋SG是什么,后來才揭示,SG是森普立卡女孩的縮寫。她們是從落后國家偷渡來的貧窮女孩,經(jīng)過一番改造后,可以成為富人庭院中的裝飾,隨風輕輕搖擺。人工智能改造的倫理問題在很多作品中都呈現(xiàn)過,像是《銀河護衛(wèi)隊3》里的被改造的動物系列——智能浣熊、車輪海象和爪牙兔子,還有游戲《底特律變?nèi)恕防锉桓难b成武器、肢體殘缺、只能關(guān)在監(jiān)獄里的人造人。畫面對準它們的時候,我難免有一種強烈的不適感。
潘文捷:子琪說的使用別人的AI語音,和同人創(chuàng)作是不是有點兒像?同人創(chuàng)作也被指出可能會違法,比如江南寫《此間的少年》就被金庸起訴了,主要是因為上市之后銷售量高,有很大的經(jīng)濟利益。假設(shè)有人用孫燕姿的AI聲音賣錢,我想可能就要考慮其中的法律問題了。
但是普通人的圈地自萌又怎么說呢?當我嗑的CP被別人使用AI聲音來創(chuàng)作合唱的時候,我只感到喜聞樂見,拍手稱快。如果說不存在和原主的競爭關(guān)系,是不是沒有什么大問題?而且,現(xiàn)在市面上最頂尖的AI合成聲音,高科技的痕跡還是存在的,不能夠躲過專業(yè)聲紋識別技術(shù)來以假亂真,所以,即使是用AI做了什么不該做的事情,也還是會被抓到把柄。
尹清露:我想這其中存在尺度的問題。嗑人工智能CP合唱是無傷大雅的情感撫慰,但是AI女朋友觸及主體性,你對于愛的信念也會面臨崩塌。另一個例子是用AI復(fù)活親人,好似能帶來救贖,但這救贖是否過于虛假而有害?劉宇昆的小說就探討過這個主題。也像是Apple Vision Pro宣傳片中小女孩們圍坐在一起吹生日蠟燭的動態(tài)照片,這讓我想起《銀翼殺手2049》里復(fù)制人記憶的設(shè)計師安娜·史特林博士,她可以構(gòu)造花草樹木甚至是美麗的大雪,也同樣復(fù)制過吹生日蠟燭的回憶,那看上去真是十分動人,安娜卻是因為生病才不得不被困在無菌的隔離空間里的。所以不禁令人發(fā)問:這一切是否真的值得?