界面新聞記者 | 尹清露
界面新聞編輯 | 黃月
ChatGPT的廣泛應(yīng)用、諾獎頒給人工智能領(lǐng)域?qū)W者、美國大選受DeepFake影響……即使你不太關(guān)注技術(shù)話題,也不得不承認(rèn),人工智能已經(jīng)深度卷入了我們的世界。然而,看著“AI”熱詞滿天飛,大科技公司占據(jù)新聞頭條,我們到底要如何揭示人工智能的真正意義,以及人類身處其中的位置?
《再見智人:技術(shù)-政治與后人類境況》作者、華東師范大學(xué)政治與國際關(guān)系學(xué)院院長吳冠軍認(rèn)為,在技術(shù)呈指數(shù)級發(fā)展的當(dāng)下,缺乏的是政治智慧;對人工智能的信任危機(jī),其實(shí)根植于人類彼此的信任危機(jī)。書中分析了技術(shù)加速、智慧缺失帶來的困境:大量“無用階級”失業(yè)者不再被社會需要,大國互相爭斗,“智人”的“智”不再名副其實(shí),人類本身也成為了人工智能文明的序曲。
界面文化對吳冠軍的專訪,不僅涉及了“AI與人類的創(chuàng)造力如何不同”等一直被討論、從未有答案的抽象議題,也從特朗普與馬斯克的聯(lián)合、諾獎委員會的選擇、學(xué)歷貶值等近期熱議的話題出發(fā),步步逼近那條最終的道路:今天,我們必須呼吁一次政治智慧的迭代,如果我們以AI為啟發(fā),更新思維范式,不再止步于人類主義的固有框架,那么,智人便有一線生機(jī),在新的地平線上看見自己。
01 人不只是不信任AI,彼此也不信任
界面文化:與尤瓦爾·赫拉利側(cè)重于人工智能的信息與聯(lián)結(jié)不同,《再見智人》側(cè)重人工智能的“技術(shù)-政治”面向。為什么研究人工智能需要強(qiáng)調(diào)政治?
吳冠軍:巧合的是,我和赫拉利的新書都是在9月10號出版,我們都是1976年生人。《再見智人》和《智人之上》兩個(gè)書名也具有鮮明的互文性(intertextuality)。赫拉利作品的原名是“Nexus”(聯(lián)結(jié)),就像我在那本書的推薦序中所寫,這個(gè)關(guān)鍵詞恰恰有一個(gè)具體的政治面向。
亞里士多德說,men by nature are political animals(人天生就是政治的動物)?!罢巍钡脑~根在希臘語里是polis,指的是城市,人是在城市生活的動物。亞里士多德認(rèn)為政治是人的定義性特征,政治對智人來說是唯一關(guān)鍵的、自我界定的向度。意味著人能夠以共同體群居,而不是獨(dú)立生存。所以,政治不是很多人理解的暴力爭斗,這恰恰是缺乏政治智慧的表現(xiàn)。動物為了交配殊死爭斗,這不是政治,而是政治的反面,是政治向度的缺失。
現(xiàn)在有了人工智能,我們就更清楚智人是怎么回事了。一種可能是我們離智慧越來越遠(yuǎn),智人本身被邊緣化,也就是“再見智人”了。年輕人傾向于躺平和自我放逐,畢業(yè)找工作時(shí),發(fā)現(xiàn)自己還比不過人工智能,而人工智能盡職盡責(zé)、知識面廣、工作效率又高,信息整合能力也很強(qiáng)。
另一種可能是,我們在新的地平線上重新看到人之智,也就是另一重意義的“再見智人”。在人工智能已然超越人之智能的那些領(lǐng)域,我們是否能夠發(fā)展出與之合作的方式?還是堅(jiān)持站在人類中心的位置拒認(rèn)其超出人的智能?可是很多人就是這么想的:我不讓你發(fā)展,因?yàn)槲遗履惚任腋鼜?qiáng)。為了擺脫這種根深蒂固的思維模式,我們需要智人獨(dú)有的智慧,那就是形成共同體的智慧。雖然目前人工智能已經(jīng)很厲害、但讓它提出解決當(dāng)下中東問題或俄烏沖突的方案,恐怕它仍力所不逮。
“再見智人”是一個(gè)雙關(guān)語:一個(gè)是和智人say goodbye,智人文明是可能會結(jié)束的,沒有本體論保證使它會一直持續(xù)下去,人類可能只是技術(shù)發(fā)展的一個(gè)階段而已;但是,人類也可以發(fā)展出或重新拾起人工智能仍然沒辦法取代的能力,“再見智人”可以指see you again?!凹夹g(shù)-政治”這個(gè)詞很好,技術(shù)和政治是人類的兩根拐杖。雖然赫拉利在書中沒有明顯使用“政治”詞匯,但是“聯(lián)結(jié)”就是一種政治性。聯(lián)結(jié)意味著通過各種方式互動,無論是通過神話故事還是信息技術(shù),聯(lián)結(jié)一旦中斷,更高層次的文明發(fā)展就會變得困難。
最近人工智能專業(yè)很熱門,政治專業(yè)卻非常邊緣了,外語專業(yè)也似乎不再重要,因?yàn)锳I翻譯足夠強(qiáng)大。但我們面對的一個(gè)核心問題是:以后要如何與這些“后人類”合作和對話呢?我認(rèn)為,被逐漸忽視的政治學(xué)恰恰是應(yīng)該重視的。政治沒有終極答案,它不斷面臨新問題,也不能簡單地抄襲或套用以往的答案,永遠(yuǎn)是一個(gè)持續(xù)迭代的過程。
界面文化:一方面AI技術(shù)非常先進(jìn),另一方面我們的思維模式還是互相爭斗。這讓我想到你在書中強(qiáng)調(diào)的“信任”,而信任其實(shí)是一個(gè)沒有理性支撐的跳躍。你為什么會這樣強(qiáng)調(diào)?人工智能這一新成員的加入,會怎樣影響信任缺失的現(xiàn)狀?
吳冠軍:很多人提出要做trustworthy AI(可信任的人工智能),或者停止開發(fā)AI,因?yàn)锳I內(nèi)部是一個(gè)黑箱。但是我們不妨想想,人類的大腦也是黑箱,AI的人工神經(jīng)網(wǎng)絡(luò)作為一種仿生學(xué)概念,模擬的是人類腦神經(jīng)網(wǎng)絡(luò),人腦中有大約800億個(gè)神經(jīng)元,它們通過電信號相互交流。腦科學(xué)能夠監(jiān)測到大腦皮層中哪些區(qū)域很活躍,但是無法還原為腦海里在想的內(nèi)容。
我們不斷從新聞中看到這種事情:在西方社會,一個(gè)人昨天還是你的同學(xué),今天拿起槍在校園里掃射。美國政府最怕的不是群體作案,那樣還有辦法監(jiān)控,最怕的是一個(gè)個(gè)腦海黑箱式的“獨(dú)狼”。
可是,人類是否因?yàn)榇竽X中的黑箱而停止合作了呢?并沒有。背后的原因就是信任,我稱之為一種政治性智慧。信任這件事并沒有基礎(chǔ),如果我能掌握你100%的信息,那我就是上帝了,而上帝是不需要信任他人的,只有人才需要相互信任??墒?,沒有任何本體論來保證人的想法一定符合哈貝馬斯所說的sincere(真誠)和communicative(可交流的),我們只能對信任他者做出一個(gè)躍步(leap)。
然而今天,無論是全球?qū)用娴膰H政治,還是私人層面的夫妻關(guān)系,政治智慧都變得很稀薄。我們在面對人工智能時(shí)還能擔(dān)得起“智”人的身份嗎?我們不只是不信任AI,我們彼此也不信任。
02 人工智能發(fā)展出慢思考是極有可能的
界面文化:雖然人類和人工智能都是黑箱,但如你在書中所寫,這是兩種完全不同的黑箱,比如人類懂得愛和創(chuàng)造;與人工智能相比,人類有一種“本體論上永遠(yuǎn)無法被完全實(shí)現(xiàn)的潛能”。關(guān)于這一點(diǎn)也有不同觀點(diǎn),比如赫拉利認(rèn)為,機(jī)器也可以進(jìn)行文化創(chuàng)造。你對此怎么看?
吳冠軍:我們稱人類的大腦為“濕件”(wet ware),既不是硬件也不是軟件,而是一團(tuán)肉。它有一個(gè)關(guān)鍵的有趣之處,也就是可塑性(plasticity),大腦雖然被認(rèn)為利用率已經(jīng)很高,實(shí)際上仍有很大的可塑性。而人工智能模型完成預(yù)訓(xùn)練后,它的能力也就基本定型了,你要么重新再訓(xùn)練一個(gè)更高級的模型,比如從GPT-3到GPT-4。
所以,即便人類在知識廣度上差人工智能很遠(yuǎn),但是我們擁有一個(gè)獨(dú)有的潛能,那就是可以不斷地再生成、再組織。舉個(gè)例子,盲人失去視覺輸入后,視覺神經(jīng)處理區(qū)域會逐漸變得不活躍,但即使是遭遇了這樣的創(chuàng)傷,大腦還是會以積極的方式去應(yīng)對,比如重新調(diào)用觸覺信號,讓你經(jīng)過訓(xùn)練后能讀懂盲文,這對視力正常的人來說是不可思議的。再比如對文科學(xué)者來說,年紀(jì)大了以后,盡管生物學(xué)意義上神經(jīng)元總是在變少,由于此前的積累與相互激發(fā),還是進(jìn)一步能輸出更好的想法。
從生物學(xué)上來說,個(gè)體在演化過程中不是很重要,演化是一種快速殘酷的迭代過程,生完孩子基本就完成了DNA傳承的使命。但是,由于人類具有再學(xué)習(xí)和不斷重新訓(xùn)練自己的能力,人類就擁有了一個(gè)獨(dú)特之處——個(gè)體生命變得非常重要,而不是局限于簡單的生物傳承。除非你放棄自己大腦的潛能,躺平做一個(gè)吃貨——那就相當(dāng)于早早結(jié)束了自身的演化可能性。
界面文化:人工智能是否能夠進(jìn)化出更多潛能?你在書中談到,人工智能的大語言模型是一種前意識的“快思考”,只有人類能夠“慢思考”,但是隨著近日OpenAI開發(fā)出o1模型,人工智能也能進(jìn)行慢思考了。
吳冠軍:這種情況相當(dāng)有可能。2022年之前,我們都不曾想到,人工智能竟然能具備如此強(qiáng)大的生成能力。有時(shí)我們?nèi)⌒θ斯ぶ悄軘?shù)學(xué)不行,比如有次它認(rèn)為18.18大于18.8,錯誤地將18視作兩位數(shù)。但問題是人類普遍也是數(shù)學(xué)不行,人類最擅長的思維模式就是快思維。我們看到長得像蛇的東西會認(rèn)為很危險(xiǎn),先逃跑再說;有人對你說了有攻擊性的話,你馬上會感到不快,如果對可能的威脅與危險(xiǎn)沒有快思維,根本就活不下來。
生成式人工智能的強(qiáng)大,就在于它用快思維的方式,在很多方面能做到人類只能通過慢思維才能做到的輸出,尤其是文本處理方面。你讀完一本書后寫書評,需要在腦海中提煉書的核心內(nèi)容,而人工智能可以將復(fù)雜的思維過程轉(zhuǎn)化為迅速的輸出。人類的快思考是無法處理抽象的文字,然而人工智能的快思考能夠直接針對具體的象征性符號,直接處理抽象語言。從這方面上來看,它可能真的是一個(gè)更厲害的species(物種),而o1這樣的模型顯示出人工智能發(fā)展出慢思考是極有可能的。
03 比起民族國家,“人類命運(yùn)共同體”是更好的政治智慧
界面文化:特朗普勝選后與馬斯克的一系列聯(lián)合、硅谷精英集體轉(zhuǎn)向右翼,都似乎說明技術(shù)威權(quán)主義十分盛行。你如何看待當(dāng)下的情況?
吳冠軍:我的理解是,事情都是在變化中的。很多人沒想到,馬斯克竟然會和特朗普合作,他們兩人在很多地方分歧很大,馬斯克做新能源車和SpaceX,核心訴求是改變能源結(jié)構(gòu)和探索火星,為人類文明留后路。但是,特朗普代表的是氣候變化的“拒認(rèn)者”,他決定讓美國退出《巴黎氣候協(xié)定》,認(rèn)為人類可以繼續(xù)過往的方式發(fā)展,不需要做什么改變。特朗普宣布退出協(xié)定的第二天,馬斯克就退出了總統(tǒng)顧問委員會,他認(rèn)為特朗普是一個(gè)大忽悠。然而今天,他們又達(dá)成了合作,這是很有意思的。
我的分析是,馬斯克對人類文明懷有一種危機(jī)意識。比如9月30日,他為特朗普單獨(dú)搞了一場競選演講的背書,表示西方文明可能面臨終結(jié)。他認(rèn)為,民主黨是更加不作為的,過于關(guān)注政治正確如性別議題,忽視了其他人類的大問題,民主黨上臺可能又是白白浪費(fèi)四年。馬斯克尤其痛恨“覺醒文化”。我們暫且不評論馬斯克的認(rèn)知本身,在他的認(rèn)知中,首先就沒有那么多時(shí)間可以浪費(fèi)。
再反過來看特朗普是一個(gè)怎樣的人。特朗普非常在乎“贏”這件事,他甚至說過一句話:“我認(rèn)為競選總統(tǒng)比做總統(tǒng)更有意思?!辈⑶?,特朗普是商人出身而不是政治家出身,他的施政就可能不會被此前的說法和做法所綁架,說出的話也經(jīng)常隨便改口。他可能會愿意談判,只要他認(rèn)為他能贏。但如果按照政治正確的標(biāo)準(zhǔn),很多話是不能說的,稍微說錯就會被貼上標(biāo)簽。
所以,這就產(chǎn)生了一種可能性:當(dāng)特朗普和哈里斯勢均力敵時(shí),馬斯克在關(guān)鍵時(shí)刻給予助力,讓特朗普獲得了很大的優(yōu)勢,那么接下來,馬斯克就可能擁有很大的政治介入空間、能夠深入影響政治議程,比如帶來技術(shù)和生態(tài)方面的改變。我們也已經(jīng)看到,特朗普在很多場合都帶著馬斯克,比如和澤連斯基通話、參加巴黎圣母院的重開儀式。
這是件好事嗎?我覺得還是蠻好的,今天的時(shí)間常常浪費(fèi)在政客們彼此指責(zé)、彼此起外號的話語中,但我們需要能夠?qū)嶋H地帶來變化的人。至于怎樣變化還無法預(yù)測,但至少會有新的可能性。
你可以不喜歡馬斯克,但他的確是一個(gè)思考者,一旦想好以后執(zhí)行力也很強(qiáng)。比如在此之前,沒有人認(rèn)為去火星這件事可以由私營公司來完成,但是他承擔(dān)了下來,并且做得有聲有色。
界面文化:雖然馬斯克是一個(gè)思考者和行動者,推出了Neuralink腦機(jī)接口等非常“科幻”的技術(shù),但如你在書中所說,他的愿景歸根結(jié)底是超人類主義的,會導(dǎo)致權(quán)貴精英最先享受到增強(qiáng)技術(shù),進(jìn)一步加劇全球不平等,馬斯克對AI的恐懼也仍然根植于“人類-AI”的二元對立。與之相反,后人類主義則是激進(jìn)地打破了二元對立。可以簡單談?wù)剝煞N框架的區(qū)別嗎?
另一個(gè)問題是,如今,真正掌握技術(shù)的人才許多都被招至OpenAI等科技公司,他們也會不可避免地進(jìn)入技術(shù)-商業(yè)精英的框架;而還在想象“后人類”未來的,似乎是并不擁有技術(shù)的“文科生”。即使我們知道后者才是努力的方向,但是在提出理論之余,還應(yīng)該怎么做?
吳冠軍:這是一個(gè)很值得探討的問題。首先要講一下超人類主義和后人類主義的區(qū)別。人類主義是一種基于生物性身份的思維邏輯,超人類主義是人類主義的延伸,當(dāng)馬斯克看到人工智能的挑戰(zhàn),他會想:不能讓人工智能比我更強(qiáng)大,所以要通過腦機(jī)接口等方式,使它成為我思維的一部分,從而駕馭它。人類主體是一個(gè)基座,其他所有東西都往上加,目的是提升我的能力。經(jīng)常會出現(xiàn)兩種心態(tài),一種是對人工智能充滿恐懼、不讓它發(fā)展;另一種是寄希望于人工智能來解決人類的問題,這也是一種人類主義,叫做有效加速主義。
在此之外,我們還可以多走一步路,提出另一種思維方式。人類對自己的能力具有信心的歷史并不悠久,只有四五百年,再往前其實(shí)并不是這樣。西方文化中有全知全能的上帝,泛神論中山有山神、樹有樹神,許多事物都比我們厲害,《西游記》里的唐僧看到一棵杏樹里的樹精都要嚇?biāo)懒耍匀祟悰]什么了不起的。但是幾百年來,人類形成了一定要坐在中心的思維方式,當(dāng)智能有可能被超越時(shí),就不能平心靜氣地對待了。
因此,“后人類”的概念很好,它不是反人類主義,而是要在人類之后,看看不一樣的可能性,有沒有被人類主義所掩蓋和忽視的存在值得探索和合作。它也不是取代關(guān)系,不再是中心-邊緣的框架,而是擁抱多樣性,打開主體間性、文明間性、物種間性和智能間性。如果世界上只有一種智能,其實(shí)你也很孤獨(dú),這意味著你很難再提升了。
舉個(gè)例子,人類的成就與其他生物的合作密切相關(guān),同身體中腸道菌群的合作形成了我們的健康狀態(tài)。從國際角度來說,切斷國家之間的合作并進(jìn)入“掐脖子”狀態(tài),是一種很愚蠢的行為。很多人留戀人類主義也很正常,就像是留戀故鄉(xiāng),但我們應(yīng)該有更大的思考格局,學(xué)會謙卑,去看到一開始讓你不舒服的存在者。并且,當(dāng)人類文明變得越來越陳腐、老化,公共平臺上充斥著各種對撕和謾罵,還能出現(xiàn)這么有意思的可能性,這不是很好嗎。
界面文化:奇怪的是,人工智能技術(shù)本身是去中心化、跨學(xué)科的,可現(xiàn)實(shí)卻是,它成為了一種中心化和威權(quán)化的技術(shù)。按照書中的觀點(diǎn),如果全球資本主義秩序、民族國家格局沒有改變,人工智能趨于中心集權(quán)化的未來是否就無法改變?
吳冠軍:這是人類的自我組織的兩種主流方式,兩種方式彼此依存,延續(xù)的時(shí)間很長,同時(shí)也構(gòu)成了我們當(dāng)前的僵局。
我們先從民族國家的角度來談起,自威斯特伐利亞合約以來,歐洲國家進(jìn)入了民族國家狀態(tài),這種狀態(tài)后來主導(dǎo)了世界。盡管聯(lián)合國呼吁了許多事情,但它的力量也很弱,我們?nèi)蕴幱诓粩嗖翗屪呋鸬木置嬷小?/span>
曾經(jīng),民族(nation)讓世界有了新的可能性。通過這個(gè)概念,我們能夠建立連接,形成想象的共同體,連結(jié)許多氏族和種姓,打破了以往不可合作的壁壘。隨著時(shí)間的推移,它反而成了紛爭的源頭。政治智慧是沒有最終結(jié)論的,今天可以被視為一個(gè)迭代政治智慧的階段,比起民族國家,“人類命運(yùn)共同體”是一個(gè)更好的政治智慧。它超越了傳統(tǒng)的民族框架,在人類乃至行星的意義上思考共同的命運(yùn),它更可以開啟各個(gè)物種命運(yùn)共同體的后人類視角。
另一個(gè)關(guān)鍵問題是資本主義。資本主義的生存依賴于外部,資本主義不能自給自足地增長,它一定要開辟新的市場、發(fā)現(xiàn)新的方式。今天全球化的程度越來越高,既有的市場越來越飽和,各種資源也已經(jīng)被深度開發(fā),那要如何找到新的地方呢?于是,技術(shù)變得極為重要,一有新技術(shù)出現(xiàn)資本就撲了過去。
過去的世界是廣闊的,但今天的行星變得越來越小、已經(jīng)變成“地球村”了,導(dǎo)致了許多矛盾。盡管中國和美國地理上相隔遙遠(yuǎn),但地球變小使得他們很近,有人就會感覺對方多吃了一口肉,我就會少吃到一口。在這個(gè)意義上,資本主義和民族國家共同形成了一個(gè)巨大的矩陣,嚴(yán)重制約了人類文明的進(jìn)步,也讓我們陷入危險(xiǎn)的邊緣,比如生態(tài)危機(jī)。
在資本主義中,什么都要算一算利潤,生態(tài)問題的成本就很高,例如,實(shí)現(xiàn)碳中和的成本就很昂貴。而民族國家的模式讓局面變得更糟糕,特朗普認(rèn)為,美國憑什么要承擔(dān)責(zé)任?但問題是,生態(tài)問題主要是經(jīng)歷過工業(yè)革命的發(fā)達(dá)國家造成的,而不是南方國家。在這個(gè)意義上,民族國家與資本主義結(jié)構(gòu)使很多事情無法做成。
技術(shù)也是一樣,AI原本是一個(gè)非常好的討論平臺,但現(xiàn)在AI本身變成了一場軍備競賽。所以,我們要呼吁一次政治哲學(xué)的大的迭代。上一次的政治智慧迭代是三四百年前,在以往等級化的社會中,很多人的幸福指數(shù)很低,活著就是吃飽這一件事,但那時(shí)的啟蒙哲學(xué)家們發(fā)明了一組新概念,讓我們進(jìn)入了現(xiàn)代性,人類也取得了許多成就?,F(xiàn)在我們又到了一個(gè)關(guān)頭。
04 就算人類輸給人工智能,也不意味著一切都結(jié)束了
界面文化:你在寫這本書時(shí),諾貝爾物理獎和化學(xué)獎授予與人工智能領(lǐng)域相關(guān)的學(xué)者的消息還未公布。但你也在書中寫到,技術(shù)已經(jīng)不再是科學(xué)、政治、藝術(shù)等維度之一,而是凌駕于這些維度,成為主導(dǎo)性維度。在你看來,諾獎委員會的選擇是技術(shù)凌駕于科學(xué)的表征之一嗎?你如何評價(jià)這一選擇?
吳冠軍:諾獎物理學(xué)獎公布后,我的朋友圈幾乎炸了。我的一個(gè)朋友是有名的哲學(xué)教授,本科學(xué)的是物理學(xué),他非常生氣,說:“諾貝爾獎委員會瘋了,杰弗里·信頓和約翰·霍普菲爾德都是搞人工智能的,計(jì)算機(jī)科學(xué)有圖靈獎,怎么又跑來搶諾貝爾物理學(xué)獎,他們又沒有受過物理學(xué)的學(xué)術(shù)訓(xùn)練?!?/span>
我的分析是,這次的諾獎既激進(jìn)又保守。激進(jìn)在于,他們竟然大踏步?jīng)_破學(xué)科的壁壘,關(guān)注研究者跨學(xué)科的貢獻(xiàn),而不是物理學(xué)歸物理學(xué),計(jì)算機(jī)科學(xué)歸計(jì)算機(jī)科學(xué)。人工智能本身就是跨越學(xué)科的,ChatGPT或者Sora可以是物理學(xué)家,也可以是人類學(xué)家。
保守在于,諾獎委員會在評選時(shí)仍然要證明這是人類獲的獎,人類中心主義的思維仍然存在。這導(dǎo)致了某種扭曲——約翰·喬普是AlphaFold的首席科學(xué)家,他并不是做結(jié)構(gòu)分子生物學(xué)的,然而他領(lǐng)銜做出來的計(jì)算機(jī)模型是一位很棒的結(jié)構(gòu)分子生物學(xué)家。但諾獎委員會無法認(rèn)可一位連“臉”都沒有的科學(xué)家的成就。同樣,辛頓在人工神經(jīng)網(wǎng)絡(luò)方面的一組奠基性工作使得物理大模型有了可能性,但并不意味著他是這個(gè)領(lǐng)域的專家,所以信頓接到獲獎電話時(shí)還以為這是一個(gè)玩笑。
界面文化:我讀過一篇諾貝爾物理學(xué)獎評獎委員會委員Ulf Danielsson的專訪,他也認(rèn)為AI只是工具,不能自己推動科學(xué)前進(jìn)。
吳冠軍:我這本書也是一個(gè)努力,希望慢慢打開我們的格局。我們只是倚賴生物性的快思考的時(shí)候,格局比現(xiàn)在更小,看到不同膚色的人會感到警惕或恐懼。所以人工智能要用起來、不同國別民族的朋友交起來,互相學(xué)習(xí)才是解決生物性恐懼的方式。就算人類最終輸給了人工智能,那也沒關(guān)系,不意味著一切結(jié)束了,我們?nèi)祟愡€可以regroup(重新部署),就像愛因斯坦去到普林斯頓大學(xué)后進(jìn)行了重新調(diào)整,相對早年物理科研上進(jìn)展有限,但他成為了一個(gè)偉大的公共知識分子。
今天的情況是相反的,學(xué)者在論文署名時(shí),還是不允許給AI共同署名;由于不能署名,學(xué)者使用了ChatGPT進(jìn)行文獻(xiàn)梳理,結(jié)果就被抓出來說成抄襲。這都是很猥瑣的事情,有好的工具為什么不允許使用呢?
05 當(dāng)下是人類文明史上政治智慧和技術(shù)智能最脫軌的時(shí)代
界面文化:你在書中著重寫了AI時(shí)代的教育問題,認(rèn)為在AI取代人類工作、知識更新迭代加快的當(dāng)下,教育應(yīng)該從實(shí)體學(xué)校的單線灌輸式教學(xué),轉(zhuǎn)變?yōu)榫W(wǎng)絡(luò)狀結(jié)構(gòu)的終身教育,所有人都是教-學(xué)實(shí)踐的行動者,需要時(shí)時(shí)與網(wǎng)絡(luò)互動,這樣才不會被淘汰。關(guān)于AI對教育的啟發(fā),可以再展開談?wù)剢幔?/strong>
吳冠軍:今年1月份的Nature雜志有一篇很棒的文章,題目叫做《It Taks Two to Think》(要二才能思)。人類的思考過程從來不是孤立的,看似是“吳冠軍”寫的書,但這建立在我閱讀了許多優(yōu)秀著作、向很多深具洞見的作者進(jìn)行思想交流的基礎(chǔ)上,只是在人類的寫作傳統(tǒng)中,“作者”不能寫上幾百個(gè),所以我的書“后記”變得很重要,里面有在我生命中那些重要的交流者。
法國哲學(xué)家拉圖爾有一個(gè)“行動者網(wǎng)絡(luò)理論”,個(gè)體并不是以自我為本體論根基的行動者,而是在互動中才產(chǎn)生了行動者。并不是首先有兩個(gè)個(gè)體在彼此互動,而是通過互動才有了這樣的你和我。所以,改變和互動是最根本的,關(guān)鍵不是你是誰、有怎樣的理念,關(guān)鍵是你做了什么。
界面文化:一個(gè)疑惑在于,在學(xué)歷貶值、畢業(yè)即失業(yè)的嚴(yán)峻情況下,以上討論對大部分人的意義是什么?清華大學(xué)基礎(chǔ)科學(xué)講席教授劉嘉也提到,在AI時(shí)代,教育應(yīng)該從就業(yè)導(dǎo)向變?yōu)榭鐚W(xué)科的通識教育??墒悄茏龅竭@一點(diǎn)的,似乎仍然是精英群體,你怎么看?
吳冠軍:可以從兩個(gè)角度回答。第一個(gè)角度指向自我、我該怎么做;另一個(gè)角度是整個(gè)社會應(yīng)該怎么部署,使我們能夠更好的合作,而不是互相傷害或產(chǎn)生大量失業(yè)。
從自我出發(fā)就是倫理學(xué),從社會結(jié)構(gòu)出發(fā)就是政治學(xué)。然而在今天,這兩個(gè)學(xué)問都幾乎停滯不前。政治學(xué)被邊緣化,我們也不怎么講倫理了,反而要求人工智能講究倫理。
從自我出發(fā),今天面對世界的唯一可能性就是重新構(gòu)建認(rèn)知地圖。以前,我們是在同學(xué)、父母的軌道上學(xué)習(xí),但是了解人工智能的學(xué)習(xí)模式后,我們可以反思人類的學(xué)習(xí)制度。傳統(tǒng)上,人類的學(xué)習(xí)周期是20多年,工作后就停止學(xué)習(xí)了。然而,學(xué)習(xí)本身是一種重要的倫理實(shí)踐,人工智能也要通過學(xué)習(xí)生成新內(nèi)容,因此,學(xué)習(xí)應(yīng)該是終身性的投入,并且要與各種人、后人類對話。
雖然你提到精英與非精英的區(qū)分,但反過來也可以說,你愿不愿意提升自己呢?學(xué)習(xí)的確很累人,因?yàn)槁伎紩哪芰浚膊环先说谋灸?,人的眼睛不擅長梳理抽象文字,更擅長處理圖像,所以刷短視頻很開心,但同時(shí)你也喪失了很多。而倫理學(xué)要求我們走出舒適圈,不僅僅滿足于當(dāng)一個(gè)“吃貨”。
從政治學(xué)出發(fā),我們面臨的一大挑戰(zhàn)是,大量的人不再被需要。以前只是在體力上不被需要,比如工業(yè)化生產(chǎn)代替了木匠的手工藝,但如今,AI在智能方面的表現(xiàn)也經(jīng)常超過人類。在文明史上,已有的各種社會形態(tài)都高度依賴人力(體力與智力),連戰(zhàn)爭也需要人力,但是現(xiàn)在無人機(jī)技術(shù)已經(jīng)很成熟。未來,當(dāng)AGI(通用人工智能)的時(shí)代真正來臨,它在各個(gè)領(lǐng)域超過85%甚至90%的人類,那么除了最一流的人類仍有價(jià)值和話語權(quán),剩下的絕大多數(shù)怎么辦?
可惜的是,我們?nèi)匀辉谟美戏椒☉?yīng)對新問題。特朗普還認(rèn)為是移民搶了他們的工作,畢竟沒有臉的人工智能沒法被直接看到,技術(shù)還在以指數(shù)級發(fā)展,這是人類文明史上政治智慧和技術(shù)智能最脫軌的時(shí)代。
赫拉利說,總會出現(xiàn)新的工作,可是新工作的學(xué)習(xí)成本誰來支付?人們本來就不愿意學(xué)習(xí),學(xué)習(xí)成本還變得越來越高。最后還是要同時(shí)落到技術(shù)與政治,要去加快迭代政治智慧,通過哲學(xué)來創(chuàng)造概念,并把新概念安頓進(jìn)我們的世界中,否則真的要告別智人了。如果我們能做好,那么在后人類的地平線上,我們將再次見到智人的身影。