正在閱讀:

透過(guò)《邊界》看AI:生而為“人”才是AI最終的宿命

掃一掃下載界面新聞APP

透過(guò)《邊界》看AI:生而為“人”才是AI最終的宿命

現(xiàn)實(shí)總是美好暢想最恰當(dāng)?shù)淖⒔狻?/p>

文|自媒體劉志剛 

愛(ài)因斯坦說(shuō),“知識(shí)是有限的,而想象力卻能漫游世界?!?/p>

想象力是打開(kāi)科技進(jìn)步之門的第一把鑰匙。

早在萊特兄弟發(fā)明世界上第一套飛機(jī)飛行控制系統(tǒng)以前,人類在壁畫(huà)、詩(shī)歌以及各種各樣的藝術(shù)作品中早就開(kāi)始了遨游天空的暢想。到了現(xiàn)代,藝術(shù)與科技越發(fā)融合,以科幻電影為代表的文藝作品,正在向人們揭示更多未來(lái)科技社會(huì)演化的圖景。

科技的本質(zhì)是創(chuàng)造,而對(duì)于造物者而言,最大的成就莫過(guò)于“創(chuàng)造自我”。

2001年,斯皮爾伯格執(zhí)導(dǎo)的科幻電影《人工智能》再度喚醒了人類對(duì)于人性的自我創(chuàng)造的愿景和期待,2004年的一部《機(jī)械公敵》(又名“我,機(jī)器人”)演繹出人與AI的信任和默契,2008年漫威的一部鋼鐵俠,讓AI管家賈維斯的熒幕形象深入人心……

現(xiàn)實(shí)總是美好暢想最恰當(dāng)?shù)淖⒔狻?/p>

2006年,深度學(xué)習(xí)之父,加拿大多倫多大學(xué)教授,杰弗里辛頓和他的學(xué)生提出降維和逐層訓(xùn)練的方法,推動(dòng)了深度學(xué)習(xí)在具體應(yīng)用上的進(jìn)步。自此,人類開(kāi)始真正跨進(jìn)了AI時(shí)代的大門。

中秋節(jié)假日期間難得空閑,便讀了最近買的兩本新書(shū),一本是溫鐵軍教授和他團(tuán)隊(duì)著作的《去依附》,講的是宏觀經(jīng)濟(jì)。另一本是商湯科技主編的《邊界》,講的是AI的本質(zhì)、發(fā)展路徑、與認(rèn)知觀。

顯然,AI還是比枯燥的宏觀經(jīng)濟(jì)要更吸引人。讀完《邊界》這本書(shū)后,使我感受良多,對(duì)于人工智能對(duì)于科技與社會(huì)發(fā)展的思考也有了一些新的閃光。

突破邊界:人性是AI最好的答案

前兩年5G基站開(kāi)始鋪設(shè)的時(shí)候,5G也成了鄰居們的話題。倒不是說(shuō)大爺大媽們對(duì)科技多有興趣,而是他們關(guān)心5G基站這東西會(huì)不會(huì)有輻射,對(duì)人有沒(méi)有影響。

彼時(shí)我曾想,科技社會(huì)發(fā)展進(jìn)步這么快,對(duì)于尚未適應(yīng)的人們來(lái)說(shuō),也許前期科普教育與技術(shù)落地的進(jìn)度也同樣重要。

如果把這個(gè)問(wèn)題放到AI領(lǐng)域,那么事情就變得更加嚴(yán)肅:畢竟AI一旦成熟,對(duì)人們的影響遠(yuǎn)比5G要大得多。AI作為一項(xiàng)可能會(huì)顛覆人類歷史的技術(shù),社會(huì)化的認(rèn)知可能比技術(shù)發(fā)展本身更為重要。

那么問(wèn)題來(lái)了:

當(dāng)下的人們?cè)撊绾稳フJ(rèn)知人工智能?人工智能的發(fā)展還要解決哪些問(wèn)題?未來(lái)人工智能究竟會(huì)走向何方?會(huì)不會(huì)顛覆人類自己?我們?nèi)祟惥烤乖撛鯓尤グl(fā)展人工智能?對(duì)于大眾而言,這些問(wèn)題似乎很難有答案。

嘗試去為這些問(wèn)題做出系統(tǒng)性的解答,是《邊界》這本書(shū)的一個(gè)主線。

首先是對(duì)AI的定義。

1950年,達(dá)特茅斯會(huì)議上正式提出了人工智能的概念,但長(zhǎng)久以來(lái)并沒(méi)有統(tǒng)一的共識(shí)。在廣泛的對(duì)人工智能的定義上,人工智能并不一定是“人形”,而是“能夠像人一樣分析決策,甚至具有感情”的“圖靈機(jī)”。

到了現(xiàn)代,人工智能的內(nèi)涵仍然在不斷發(fā)展。

對(duì)于人工智能,《邊界》這本書(shū)中提到這樣一個(gè)觀點(diǎn):人工智能是定量和變量的混合體。

人工是定量,而智能是變量。這個(gè)變量帶來(lái)兩條發(fā)展的路線,一個(gè)是“類人智能”,另一個(gè)是非類人智能。也就是說(shuō),不管是不是人型,其實(shí)都是AI,只不過(guò),一種是真實(shí)存在的AI,能與你聊天、互動(dòng),能幫做家務(wù),另一種則是“工具人”AI,默默的為你解決問(wèn)題,為你打工。

兩種路線背后,透出的是人們對(duì)AI演化發(fā)展的兩種思考。

一方面,人們希望AI在思維、決策以及意識(shí)等方面與人類相似,擁有與人相同的情感觀、世界觀,并能夠?yàn)槿祟愄峁└鞣N幫助。

目前來(lái)看,AI語(yǔ)音識(shí)別、知識(shí)圖譜已經(jīng)展現(xiàn)出這樣的能力,但離人們理想中的應(yīng)用還有很長(zhǎng)距離。

另一方面,AI早已在體能、技能層面大大超過(guò)人類的非類人智能(算法),已經(jīng)在部分領(lǐng)域展現(xiàn)出人類遙不可及的能力,人們顯然希望能夠更好地用這種能力提高社會(huì)生產(chǎn)力。

大眾開(kāi)始認(rèn)識(shí)到算法這種“超人”的能力,其實(shí)很早就有,比如大學(xué)設(shè)立的“自動(dòng)化”學(xué)科。自動(dòng)化能夠幫助人類“簡(jiǎn)單”地使用很多超級(jí)工具,無(wú)限放大人類自身的力量和技巧,比如飛機(jī)的自動(dòng)駕駛系統(tǒng)、高精數(shù)控機(jī)床設(shè)備等等,它們將人類社會(huì)帶入到了全新的高度。

2016年,谷歌AlphaGo大比分戰(zhàn)勝李世石、柯潔。

人類下圍棋下了有千百年,AI才學(xué)習(xí)了幾年?人類吃過(guò)的鹽比AI用過(guò)的電都要多!但這恰恰說(shuō)明無(wú)論是類人AI還是非類人AI,它們的潛能是十分驚人的,甚至是顛覆性的。

這就延伸出來(lái)另一個(gè)重要的問(wèn)題:相比AI的定義,對(duì)人類來(lái)說(shuō),AI的立場(chǎng)究竟是什么?

書(shū)中另一個(gè)非常有意思的觀點(diǎn)或許可以從側(cè)面解答:AI不僅是創(chuàng)新,也同樣是傳承。

技術(shù)的創(chuàng)新的另一面,往往也是文化內(nèi)核中的人性的傳承。

書(shū)中提到一個(gè)很有意思的案例,中國(guó)古代“符合”的概念,皇帝調(diào)兵遣將,要先驗(yàn)虎符,虎符這個(gè)物件兒,承載著古代可信驗(yàn)證的理念內(nèi)核。

在現(xiàn)代,可信驗(yàn)證的內(nèi)核沒(méi)有變,只不過(guò),古時(shí)的虎符變成了如今的AI人臉識(shí)別。

再比如,中國(guó)古典文化中非常注重歸納總結(jié),比如中醫(yī),《黃帝內(nèi)經(jīng)》《本草綱目》都是歸納總結(jié)法下,古代人民智慧的結(jié)晶。這與人工智能的發(fā)展相契合,基于深度學(xué)習(xí)的人工智能,也是從數(shù)據(jù)中發(fā)現(xiàn)規(guī)律,并實(shí)現(xiàn)應(yīng)用……

也就說(shuō),解決問(wèn)題的工具變了,但目的沒(méi)變,都是為了滿足人的需求,這也是技術(shù)中最底層的人性底色。

從虎符到AI,時(shí)代雖然變了,但其中的文化內(nèi)核依然以電子的形式在傳承。

這樣的傳承也似乎印證書(shū)中提出的“AI發(fā)展的存在路徑依賴”的看法。

為什么中美兩國(guó)AI行業(yè)發(fā)展那么快?答案其實(shí)很簡(jiǎn)單,美國(guó)有先進(jìn)的半導(dǎo)體、芯片產(chǎn)業(yè),這是AI發(fā)展的物質(zhì)基礎(chǔ),中國(guó)有更多的應(yīng)用場(chǎng)景,這同樣是AI演化的必要條件。

我認(rèn)為,AI對(duì)人類,也同樣存在“路徑依賴”。

賦予技術(shù)真實(shí)的人性,一直是人類譜寫(xiě)AI“狂想曲”最真摯、樸實(shí)的精神內(nèi)核。

從《列子·湯問(wèn)》中“偃師造人”的奇思妙想,到1921年《羅素姆萬(wàn)能機(jī)器人》智能人造人概念的誕生,再到電影《機(jī)械姬》《人工智能》中的細(xì)膩情感,充滿人性光輝的AI始終是AI科幻的主題之一。

也就是說(shuō),我們或許不必過(guò)度擔(dān)心機(jī)器人三原則帶來(lái)的疑問(wèn),也不必過(guò)度擔(dān)心AI最終會(huì)超越人類,因?yàn)槿诵跃褪茿I最好的答案,生而為“人”,才是AI最終的宿命。

拓展邊界:AI的目的在于驅(qū)動(dòng)“第四次工業(yè)革命”

如果說(shuō)談AI與人性還是有些遙遠(yuǎn),那么,我們?cè)賮?lái)嘮嘮離我們比較近的AI,這也是一些對(duì)AI有些興趣,但了解不深的朋友們所關(guān)心的問(wèn)題。

比如,當(dāng)下的AI技術(shù)究竟有什么用?

你能接觸到的,人臉識(shí)別、AI摳圖,AI攝影等等,但這都不算是真正的答案。

在真正回答這個(gè)問(wèn)題之前,先普及一個(gè)概念:技術(shù)的本質(zhì)其實(shí)是工具,它的最大價(jià)值,就是降低了生產(chǎn)力的成本。

比如說(shuō),電燈發(fā)明以前,人們晚上獲得照明的成本是很高的,可能得去買煤油、掏馬糞、買蠟燭。電力的普及以及電燈的發(fā)明,本質(zhì)上降低了人們獲取照明的成本。反過(guò)來(lái)講,如果把“照明”看作一種商品,那么電燈的發(fā)明其實(shí)提高了“照明”的生產(chǎn)。

從刀耕火種,再到青銅時(shí)代再到工業(yè)時(shí)代,人類文明進(jìn)步的一個(gè)主線是單位生產(chǎn)力的成本更低了。

這種成本的降低,得益于GPT(通用目的技術(shù))的進(jìn)步和驅(qū)動(dòng),比如 蒸汽機(jī)、電力、半導(dǎo)體、計(jì)算機(jī)。

書(shū)中認(rèn)為,在計(jì)算機(jī)之后,AI是一種新的GPT。

理由有兩個(gè):

像電力、半導(dǎo)體、計(jì)算機(jī)那樣,AI技術(shù)下能夠誕生新的產(chǎn)業(yè)。

電力行業(yè)出現(xiàn)以后,不僅帶動(dòng)了制造業(yè)的電氣化,也同樣促進(jìn)了消費(fèi)經(jīng)濟(jì)的發(fā)展,出現(xiàn)了夜經(jīng)濟(jì)。因此,一個(gè)國(guó)家的用電量也往往與經(jīng)濟(jì)增長(zhǎng)呈正相關(guān)關(guān)系。

半導(dǎo)體出現(xiàn)以后,誕生了計(jì)算機(jī)、互聯(lián)網(wǎng),后來(lái)又誕生了智能手機(jī),最終有了如今繁榮的電商產(chǎn)業(yè)、物流產(chǎn)業(yè)以及互聯(lián)網(wǎng)產(chǎn)業(yè)。

AI技術(shù)出現(xiàn)后誕生了什么?

智能經(jīng)濟(jì)。

AI是智能經(jīng)濟(jì)的基礎(chǔ)設(shè)施,AI技術(shù)也能推動(dòng)產(chǎn)業(yè)形成新的商業(yè)模式。

比如,在出行領(lǐng)域,智慧交通產(chǎn)業(yè)開(kāi)始飛速發(fā)展,自動(dòng)駕駛開(kāi)始實(shí)際應(yīng)用到汽車上;在金融領(lǐng)域,AI人臉識(shí)別加速了身份驗(yàn)證的流程,提高了驗(yàn)證效率;在工業(yè)領(lǐng)域,AI開(kāi)始參與到生產(chǎn)管理上,AI質(zhì)檢、無(wú)人機(jī)作業(yè),都降低了工業(yè)生產(chǎn)的風(fēng)險(xiǎn),提高了效率;在醫(yī)療領(lǐng)域,AI開(kāi)始應(yīng)用到臨床影像診斷……

第二,在誕生新產(chǎn)業(yè)的過(guò)程中,要有新的創(chuàng)新方法論。

比如,AI對(duì)產(chǎn)業(yè)鏈的重構(gòu),正在重塑產(chǎn)業(yè)端的流通生產(chǎn)的方式。

我們以汽車產(chǎn)業(yè)為例,傳統(tǒng)汽車整車走完整個(gè)開(kāi)發(fā)流程需要3年,而智能汽車的迭代時(shí)間會(huì)更短,比如在底盤(pán)系統(tǒng)開(kāi)發(fā)中,AI知識(shí)圖譜與算法結(jié)合,引入到零件設(shè)計(jì)中則能提高設(shè)計(jì)工作效率,進(jìn)而縮短開(kāi)發(fā)周期,提高產(chǎn)品迭代節(jié)奏。

再比如,流通端,AI與物流的融合后誕生了智能倉(cāng)儲(chǔ)系統(tǒng),汽車零部件物流、整車物流配送效率都進(jìn)一步提高了。

這些AI引發(fā)的行業(yè)變化,都需要新的生態(tài)架構(gòu)做基礎(chǔ),也需要新規(guī)則制度推動(dòng),也就是說(shuō),AI誕生的新產(chǎn)業(yè)不僅是產(chǎn)生了新技術(shù),也產(chǎn)生了新的創(chuàng)新方法。

而這些新的技術(shù)、新的體系、新的創(chuàng)新方法,都有可能成為“第四次工業(yè)革命”的關(guān)鍵要素。

因此,可以斷言的是,AI作為一種GPT技術(shù),它的目的在驅(qū)動(dòng)“第四次工業(yè)革命”。

不過(guò),從落地端來(lái)看,它距離真正的“工業(yè)革命”,也確實(shí)還有很長(zhǎng)的路要走。

理性看待AI產(chǎn)業(yè)的發(fā)展,也是《邊界》這本書(shū)透露出的一個(gè)重要觀點(diǎn)。必須要認(rèn)識(shí)到,AI真正的大規(guī)模落地,滲透到千行百業(yè),還需解決一系列的問(wèn)題。

1:基礎(chǔ)設(shè)施的問(wèn)題。

AI是程序,需要運(yùn)行的物理承載,因此基礎(chǔ)設(shè)施的高度,決定著AI實(shí)用價(jià)值的最終高度。這也是商湯的產(chǎn)業(yè)實(shí)踐,希望通過(guò)構(gòu)建大裝置去解決的問(wèn)題。

2:算法的通用化、以及泛化問(wèn)題。

AI賦能千行百業(yè),首先要解決的問(wèn)題就是適應(yīng)性問(wèn)題。越通用的算法,適應(yīng)性就越強(qiáng),落地行業(yè)越多,算法的效果也就更好,更容易實(shí)現(xiàn)技術(shù)落地到商業(yè)化場(chǎng)景拓展,再到算法優(yōu)化的正循環(huán)。

3:AI技術(shù)的量產(chǎn)應(yīng)用問(wèn)題。

不得不承認(rèn),AI技術(shù)的開(kāi)發(fā)成本其實(shí)是很高的,這與人才的規(guī)模,市場(chǎng)需求程度,以及實(shí)際的商業(yè)化空間等因素相關(guān)。

解決AI技術(shù)量產(chǎn)的關(guān)鍵,就在于解決長(zhǎng)尾算法生產(chǎn)問(wèn)題,最理想的方法是“用AI生產(chǎn)AI”,如果能實(shí)現(xiàn)這一點(diǎn),那么就能通過(guò)規(guī)模化的AI算法模型生產(chǎn),進(jìn)一步降低AI的成本。

縱使AI行業(yè)需要解決的問(wèn)題很多,也很難,但AI仍然是目前最有希望改變?nèi)祟惿鐣?huì)的技術(shù)之一。

人類歷史的經(jīng)驗(yàn)是,當(dāng)一項(xiàng)底層技術(shù)的成本有效降低,生產(chǎn)力的革命往往就會(huì)發(fā)生。

第二次工業(yè)革命的本質(zhì),其實(shí)就是內(nèi)熱燃?xì)獾母咝适沟脝挝簧a(chǎn)力成本降低了,再比如,電力的廣發(fā)應(yīng)用,促使信息化、電氣化降低了單位生產(chǎn)力的成本。這引發(fā)第三次工業(yè)革命。

腦洞一下,如果有一天算法生產(chǎn)的成本能夠被有效降低,AI技術(shù)應(yīng)用變得更廉價(jià),那么我們?yōu)槭裁礇](méi)理由相信,下一次工業(yè)革命是由AI帶來(lái)的呢?

重塑邊界:人類認(rèn)知、知識(shí)、思維擴(kuò)容

當(dāng)然,變革不會(huì)一夜發(fā)生。

這需要人類認(rèn)知、知識(shí)以及思維的不斷擴(kuò)容,然后由量變引發(fā)質(zhì)變。事實(shí)上,人工智能技術(shù)發(fā)展的過(guò)程,也是一個(gè)人類認(rèn)知體系不斷擴(kuò)容的過(guò)程。

人工智能技術(shù)的發(fā)展,需要跨行業(yè)跨學(xué)科的耦合創(chuàng)新,一方面是要加速技術(shù)、人才的雙向流通,另一方面,要充分發(fā)揮“產(chǎn)學(xué)研”體系的創(chuàng)造性。

AI知識(shí)的容量絕對(duì)值越大,AI技術(shù)轉(zhuǎn)化生產(chǎn)力效率也就越高。

科技發(fā)展的一條規(guī)律是,重大問(wèn)題的突破以及創(chuàng)新,往往都是在多個(gè)領(lǐng)域交叉發(fā)展創(chuàng)新的過(guò)程中誕生的。而AI領(lǐng)域,也是仿生、數(shù)學(xué)、編程、邏輯等多學(xué)科交叉領(lǐng)域。

這意味著一件事,一個(gè)成熟的AI必然是一個(gè)超大的知識(shí)容量的合集。為了完成這個(gè)合集,也需要人類認(rèn)知、知識(shí)不斷擴(kuò)容。在這個(gè)過(guò)程中,科技的邊界被打破,倫理、邏輯甚至哲學(xué)都將融入其中。因此,AI技術(shù)發(fā)展的過(guò)程,也是一個(gè)不斷重塑邊界的過(guò)程。

中國(guó)工程院院士陳杰認(rèn)為,在這個(gè)過(guò)程中,AI需要面臨四大挑戰(zhàn)。

  1. 人工智能與生物智能的距離很遠(yuǎn)。
  2. 突變環(huán)境下智能協(xié)同
  3. 復(fù)雜環(huán)境下的脆弱性
  4. 安全問(wèn)題

陳院士用一個(gè)生動(dòng)的例子,來(lái)說(shuō)明當(dāng)下人工智能與生物智能的差距:

當(dāng)烏鴉想吃核桃時(shí)會(huì)把核桃放在馬路上,讓車輪碾碎后吃到核桃,但馬路有汽車太危險(xiǎn),于是它就通過(guò)學(xué)習(xí)把核桃放到斑馬線上,汽車遇到紅燈,烏鴉就安全地吃到了果實(shí)。

目前,機(jī)器難以實(shí)現(xiàn)這樣的智能,如何借助生物行為研究復(fù)雜環(huán)境下的機(jī)器智能,仍然是一個(gè)巨大的挑戰(zhàn)。

中國(guó)科學(xué)院院士毛軍發(fā)認(rèn)為,挑戰(zhàn)的確存在,但人工智能的賦能空間依舊很廣。

比如,在有數(shù)據(jù)、有規(guī)則,邊界比較清晰明確的場(chǎng)景中,人類有一天會(huì)被打敗,圍棋大戰(zhàn)就是一個(gè)很好的例子。

再比如,2018年佳士得拍賣行以432500美元賣出一幅人物肖像畫(huà)《愛(ài)德蒙·貝拉米肖像》,而這幅肖像畫(huà)由AI所作。

如果說(shuō),AI在邏輯領(lǐng)域打敗人類,尚可接受,那么,在更為感性以及評(píng)價(jià)更為主觀的藝術(shù)領(lǐng)域,AI與人類并駕齊驅(qū)則沖擊了人們的固有觀念:藝術(shù)的本質(zhì)究竟是感性創(chuàng)作還是基于數(shù)據(jù)的理性創(chuàng)造?

再進(jìn)一步來(lái)看,AI的邊界不僅包括技術(shù)邊界,也同樣包括一個(gè)認(rèn)知邊界的問(wèn)題。

比如,大眾何時(shí)能真正接受?技術(shù)的發(fā)展遠(yuǎn)比大多數(shù)人想的快得多,如何被接受?比如自動(dòng)駕駛帶來(lái)的交通安全問(wèn)題,再比如AI伴侶能否合法意義上成為真正的伴侶?

這些問(wèn)題可能需要整個(gè)社會(huì)來(lái)回答。

這說(shuō)明一點(diǎn),當(dāng)AI技術(shù)知識(shí)擴(kuò)容,邊界拓展之后,AI技術(shù)也同樣會(huì)進(jìn)一步影響人的思維方式。一些傳統(tǒng)的固有觀念和思維可能會(huì)被顛覆。

由此來(lái)看,認(rèn)知、知識(shí)擴(kuò)容之后,人類真正接受AI,可能還需要一個(gè)思維擴(kuò)容的過(guò)程,而這個(gè)過(guò)程,可能比AI成熟所需要的時(shí)間更加漫長(zhǎng)。

未來(lái)邊界:AI時(shí)代未來(lái)已來(lái)

未來(lái)AI如何發(fā)展,不僅取決于技術(shù),也同樣取決于社會(huì)大眾的認(rèn)知。畢竟,“科學(xué)無(wú)邊界”不僅是科學(xué)家的問(wèn)題,是整個(gè)人類社會(huì)需要思考和回答的問(wèn)題。

“很多技術(shù)在發(fā)展過(guò)程中的一個(gè)重要任務(wù)就是讓社會(huì)認(rèn)識(shí)這項(xiàng)技術(shù)的特點(diǎn)以及風(fēng)險(xiǎn),這樣人們就能做出更好,更理性的選擇”。

《邊界》一書(shū)最后對(duì)話中實(shí)錄中,清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾教說(shuō)道。

1950年的圖靈之問(wèn),把AI技術(shù)與人類的從哲學(xué)層面聯(lián)系起來(lái),數(shù)十年之后,真正意義上能夠通過(guò)圖靈測(cè)試的AI仍未誕生。

面對(duì)這個(gè)經(jīng)典的AI之問(wèn),商湯科技CEO徐立在書(shū)中提出了另一個(gè)思路,如果把“機(jī)器會(huì)思考嗎”轉(zhuǎn)變?yōu)椤皺C(jī)器會(huì)猜想嗎”?

這些年人工智能的發(fā)展顯然已經(jīng)給出了肯定的答案。

但我相信,機(jī)器會(huì)猜想只是一個(gè)起點(diǎn),是AI邁向未來(lái)的一大步也同樣是一小步,AI時(shí)代的新生與變化,一定比人們預(yù)測(cè)的更加精彩。

時(shí)代的大幕已經(jīng)拉開(kāi),接下來(lái),AI,能夠怎樣改造這個(gè)我們所熟知的世界,我們不得而知。

不過(guò),影響世界的前提是認(rèn)識(shí)世界,對(duì)于這個(gè)渴求科技創(chuàng)新的世界來(lái)說(shuō),改變總是一件好事。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

透過(guò)《邊界》看AI:生而為“人”才是AI最終的宿命

現(xiàn)實(shí)總是美好暢想最恰當(dāng)?shù)淖⒔狻?/p>

文|自媒體劉志剛 

愛(ài)因斯坦說(shuō),“知識(shí)是有限的,而想象力卻能漫游世界。”

想象力是打開(kāi)科技進(jìn)步之門的第一把鑰匙。

早在萊特兄弟發(fā)明世界上第一套飛機(jī)飛行控制系統(tǒng)以前,人類在壁畫(huà)、詩(shī)歌以及各種各樣的藝術(shù)作品中早就開(kāi)始了遨游天空的暢想。到了現(xiàn)代,藝術(shù)與科技越發(fā)融合,以科幻電影為代表的文藝作品,正在向人們揭示更多未來(lái)科技社會(huì)演化的圖景。

科技的本質(zhì)是創(chuàng)造,而對(duì)于造物者而言,最大的成就莫過(guò)于“創(chuàng)造自我”。

2001年,斯皮爾伯格執(zhí)導(dǎo)的科幻電影《人工智能》再度喚醒了人類對(duì)于人性的自我創(chuàng)造的愿景和期待,2004年的一部《機(jī)械公敵》(又名“我,機(jī)器人”)演繹出人與AI的信任和默契,2008年漫威的一部鋼鐵俠,讓AI管家賈維斯的熒幕形象深入人心……

現(xiàn)實(shí)總是美好暢想最恰當(dāng)?shù)淖⒔狻?/p>

2006年,深度學(xué)習(xí)之父,加拿大多倫多大學(xué)教授,杰弗里辛頓和他的學(xué)生提出降維和逐層訓(xùn)練的方法,推動(dòng)了深度學(xué)習(xí)在具體應(yīng)用上的進(jìn)步。自此,人類開(kāi)始真正跨進(jìn)了AI時(shí)代的大門。

中秋節(jié)假日期間難得空閑,便讀了最近買的兩本新書(shū),一本是溫鐵軍教授和他團(tuán)隊(duì)著作的《去依附》,講的是宏觀經(jīng)濟(jì)。另一本是商湯科技主編的《邊界》,講的是AI的本質(zhì)、發(fā)展路徑、與認(rèn)知觀。

顯然,AI還是比枯燥的宏觀經(jīng)濟(jì)要更吸引人。讀完《邊界》這本書(shū)后,使我感受良多,對(duì)于人工智能對(duì)于科技與社會(huì)發(fā)展的思考也有了一些新的閃光。

突破邊界:人性是AI最好的答案

前兩年5G基站開(kāi)始鋪設(shè)的時(shí)候,5G也成了鄰居們的話題。倒不是說(shuō)大爺大媽們對(duì)科技多有興趣,而是他們關(guān)心5G基站這東西會(huì)不會(huì)有輻射,對(duì)人有沒(méi)有影響。

彼時(shí)我曾想,科技社會(huì)發(fā)展進(jìn)步這么快,對(duì)于尚未適應(yīng)的人們來(lái)說(shuō),也許前期科普教育與技術(shù)落地的進(jìn)度也同樣重要。

如果把這個(gè)問(wèn)題放到AI領(lǐng)域,那么事情就變得更加嚴(yán)肅:畢竟AI一旦成熟,對(duì)人們的影響遠(yuǎn)比5G要大得多。AI作為一項(xiàng)可能會(huì)顛覆人類歷史的技術(shù),社會(huì)化的認(rèn)知可能比技術(shù)發(fā)展本身更為重要。

那么問(wèn)題來(lái)了:

當(dāng)下的人們?cè)撊绾稳フJ(rèn)知人工智能?人工智能的發(fā)展還要解決哪些問(wèn)題?未來(lái)人工智能究竟會(huì)走向何方?會(huì)不會(huì)顛覆人類自己?我們?nèi)祟惥烤乖撛鯓尤グl(fā)展人工智能?對(duì)于大眾而言,這些問(wèn)題似乎很難有答案。

嘗試去為這些問(wèn)題做出系統(tǒng)性的解答,是《邊界》這本書(shū)的一個(gè)主線。

首先是對(duì)AI的定義。

1950年,達(dá)特茅斯會(huì)議上正式提出了人工智能的概念,但長(zhǎng)久以來(lái)并沒(méi)有統(tǒng)一的共識(shí)。在廣泛的對(duì)人工智能的定義上,人工智能并不一定是“人形”,而是“能夠像人一樣分析決策,甚至具有感情”的“圖靈機(jī)”。

到了現(xiàn)代,人工智能的內(nèi)涵仍然在不斷發(fā)展。

對(duì)于人工智能,《邊界》這本書(shū)中提到這樣一個(gè)觀點(diǎn):人工智能是定量和變量的混合體。

人工是定量,而智能是變量。這個(gè)變量帶來(lái)兩條發(fā)展的路線,一個(gè)是“類人智能”,另一個(gè)是非類人智能。也就是說(shuō),不管是不是人型,其實(shí)都是AI,只不過(guò),一種是真實(shí)存在的AI,能與你聊天、互動(dòng),能幫做家務(wù),另一種則是“工具人”AI,默默的為你解決問(wèn)題,為你打工。

兩種路線背后,透出的是人們對(duì)AI演化發(fā)展的兩種思考。

一方面,人們希望AI在思維、決策以及意識(shí)等方面與人類相似,擁有與人相同的情感觀、世界觀,并能夠?yàn)槿祟愄峁└鞣N幫助。

目前來(lái)看,AI語(yǔ)音識(shí)別、知識(shí)圖譜已經(jīng)展現(xiàn)出這樣的能力,但離人們理想中的應(yīng)用還有很長(zhǎng)距離。

另一方面,AI早已在體能、技能層面大大超過(guò)人類的非類人智能(算法),已經(jīng)在部分領(lǐng)域展現(xiàn)出人類遙不可及的能力,人們顯然希望能夠更好地用這種能力提高社會(huì)生產(chǎn)力。

大眾開(kāi)始認(rèn)識(shí)到算法這種“超人”的能力,其實(shí)很早就有,比如大學(xué)設(shè)立的“自動(dòng)化”學(xué)科。自動(dòng)化能夠幫助人類“簡(jiǎn)單”地使用很多超級(jí)工具,無(wú)限放大人類自身的力量和技巧,比如飛機(jī)的自動(dòng)駕駛系統(tǒng)、高精數(shù)控機(jī)床設(shè)備等等,它們將人類社會(huì)帶入到了全新的高度。

2016年,谷歌AlphaGo大比分戰(zhàn)勝李世石、柯潔。

人類下圍棋下了有千百年,AI才學(xué)習(xí)了幾年?人類吃過(guò)的鹽比AI用過(guò)的電都要多!但這恰恰說(shuō)明無(wú)論是類人AI還是非類人AI,它們的潛能是十分驚人的,甚至是顛覆性的。

這就延伸出來(lái)另一個(gè)重要的問(wèn)題:相比AI的定義,對(duì)人類來(lái)說(shuō),AI的立場(chǎng)究竟是什么?

書(shū)中另一個(gè)非常有意思的觀點(diǎn)或許可以從側(cè)面解答:AI不僅是創(chuàng)新,也同樣是傳承。

技術(shù)的創(chuàng)新的另一面,往往也是文化內(nèi)核中的人性的傳承。

書(shū)中提到一個(gè)很有意思的案例,中國(guó)古代“符合”的概念,皇帝調(diào)兵遣將,要先驗(yàn)虎符,虎符這個(gè)物件兒,承載著古代可信驗(yàn)證的理念內(nèi)核。

在現(xiàn)代,可信驗(yàn)證的內(nèi)核沒(méi)有變,只不過(guò),古時(shí)的虎符變成了如今的AI人臉識(shí)別。

再比如,中國(guó)古典文化中非常注重歸納總結(jié),比如中醫(yī),《黃帝內(nèi)經(jīng)》《本草綱目》都是歸納總結(jié)法下,古代人民智慧的結(jié)晶。這與人工智能的發(fā)展相契合,基于深度學(xué)習(xí)的人工智能,也是從數(shù)據(jù)中發(fā)現(xiàn)規(guī)律,并實(shí)現(xiàn)應(yīng)用……

也就說(shuō),解決問(wèn)題的工具變了,但目的沒(méi)變,都是為了滿足人的需求,這也是技術(shù)中最底層的人性底色。

從虎符到AI,時(shí)代雖然變了,但其中的文化內(nèi)核依然以電子的形式在傳承。

這樣的傳承也似乎印證書(shū)中提出的“AI發(fā)展的存在路徑依賴”的看法。

為什么中美兩國(guó)AI行業(yè)發(fā)展那么快?答案其實(shí)很簡(jiǎn)單,美國(guó)有先進(jìn)的半導(dǎo)體、芯片產(chǎn)業(yè),這是AI發(fā)展的物質(zhì)基礎(chǔ),中國(guó)有更多的應(yīng)用場(chǎng)景,這同樣是AI演化的必要條件。

我認(rèn)為,AI對(duì)人類,也同樣存在“路徑依賴”。

賦予技術(shù)真實(shí)的人性,一直是人類譜寫(xiě)AI“狂想曲”最真摯、樸實(shí)的精神內(nèi)核。

從《列子·湯問(wèn)》中“偃師造人”的奇思妙想,到1921年《羅素姆萬(wàn)能機(jī)器人》智能人造人概念的誕生,再到電影《機(jī)械姬》《人工智能》中的細(xì)膩情感,充滿人性光輝的AI始終是AI科幻的主題之一。

也就是說(shuō),我們或許不必過(guò)度擔(dān)心機(jī)器人三原則帶來(lái)的疑問(wèn),也不必過(guò)度擔(dān)心AI最終會(huì)超越人類,因?yàn)槿诵跃褪茿I最好的答案,生而為“人”,才是AI最終的宿命。

拓展邊界:AI的目的在于驅(qū)動(dòng)“第四次工業(yè)革命”

如果說(shuō)談AI與人性還是有些遙遠(yuǎn),那么,我們?cè)賮?lái)嘮嘮離我們比較近的AI,這也是一些對(duì)AI有些興趣,但了解不深的朋友們所關(guān)心的問(wèn)題。

比如,當(dāng)下的AI技術(shù)究竟有什么用?

你能接觸到的,人臉識(shí)別、AI摳圖,AI攝影等等,但這都不算是真正的答案。

在真正回答這個(gè)問(wèn)題之前,先普及一個(gè)概念:技術(shù)的本質(zhì)其實(shí)是工具,它的最大價(jià)值,就是降低了生產(chǎn)力的成本。

比如說(shuō),電燈發(fā)明以前,人們晚上獲得照明的成本是很高的,可能得去買煤油、掏馬糞、買蠟燭。電力的普及以及電燈的發(fā)明,本質(zhì)上降低了人們獲取照明的成本。反過(guò)來(lái)講,如果把“照明”看作一種商品,那么電燈的發(fā)明其實(shí)提高了“照明”的生產(chǎn)。

從刀耕火種,再到青銅時(shí)代再到工業(yè)時(shí)代,人類文明進(jìn)步的一個(gè)主線是單位生產(chǎn)力的成本更低了。

這種成本的降低,得益于GPT(通用目的技術(shù))的進(jìn)步和驅(qū)動(dòng),比如 蒸汽機(jī)、電力、半導(dǎo)體、計(jì)算機(jī)。

書(shū)中認(rèn)為,在計(jì)算機(jī)之后,AI是一種新的GPT。

理由有兩個(gè):

像電力、半導(dǎo)體、計(jì)算機(jī)那樣,AI技術(shù)下能夠誕生新的產(chǎn)業(yè)。

電力行業(yè)出現(xiàn)以后,不僅帶動(dòng)了制造業(yè)的電氣化,也同樣促進(jìn)了消費(fèi)經(jīng)濟(jì)的發(fā)展,出現(xiàn)了夜經(jīng)濟(jì)。因此,一個(gè)國(guó)家的用電量也往往與經(jīng)濟(jì)增長(zhǎng)呈正相關(guān)關(guān)系。

半導(dǎo)體出現(xiàn)以后,誕生了計(jì)算機(jī)、互聯(lián)網(wǎng),后來(lái)又誕生了智能手機(jī),最終有了如今繁榮的電商產(chǎn)業(yè)、物流產(chǎn)業(yè)以及互聯(lián)網(wǎng)產(chǎn)業(yè)。

AI技術(shù)出現(xiàn)后誕生了什么?

智能經(jīng)濟(jì)。

AI是智能經(jīng)濟(jì)的基礎(chǔ)設(shè)施,AI技術(shù)也能推動(dòng)產(chǎn)業(yè)形成新的商業(yè)模式。

比如,在出行領(lǐng)域,智慧交通產(chǎn)業(yè)開(kāi)始飛速發(fā)展,自動(dòng)駕駛開(kāi)始實(shí)際應(yīng)用到汽車上;在金融領(lǐng)域,AI人臉識(shí)別加速了身份驗(yàn)證的流程,提高了驗(yàn)證效率;在工業(yè)領(lǐng)域,AI開(kāi)始參與到生產(chǎn)管理上,AI質(zhì)檢、無(wú)人機(jī)作業(yè),都降低了工業(yè)生產(chǎn)的風(fēng)險(xiǎn),提高了效率;在醫(yī)療領(lǐng)域,AI開(kāi)始應(yīng)用到臨床影像診斷……

第二,在誕生新產(chǎn)業(yè)的過(guò)程中,要有新的創(chuàng)新方法論。

比如,AI對(duì)產(chǎn)業(yè)鏈的重構(gòu),正在重塑產(chǎn)業(yè)端的流通生產(chǎn)的方式。

我們以汽車產(chǎn)業(yè)為例,傳統(tǒng)汽車整車走完整個(gè)開(kāi)發(fā)流程需要3年,而智能汽車的迭代時(shí)間會(huì)更短,比如在底盤(pán)系統(tǒng)開(kāi)發(fā)中,AI知識(shí)圖譜與算法結(jié)合,引入到零件設(shè)計(jì)中則能提高設(shè)計(jì)工作效率,進(jìn)而縮短開(kāi)發(fā)周期,提高產(chǎn)品迭代節(jié)奏。

再比如,流通端,AI與物流的融合后誕生了智能倉(cāng)儲(chǔ)系統(tǒng),汽車零部件物流、整車物流配送效率都進(jìn)一步提高了。

這些AI引發(fā)的行業(yè)變化,都需要新的生態(tài)架構(gòu)做基礎(chǔ),也需要新規(guī)則制度推動(dòng),也就是說(shuō),AI誕生的新產(chǎn)業(yè)不僅是產(chǎn)生了新技術(shù),也產(chǎn)生了新的創(chuàng)新方法。

而這些新的技術(shù)、新的體系、新的創(chuàng)新方法,都有可能成為“第四次工業(yè)革命”的關(guān)鍵要素。

因此,可以斷言的是,AI作為一種GPT技術(shù),它的目的在驅(qū)動(dòng)“第四次工業(yè)革命”。

不過(guò),從落地端來(lái)看,它距離真正的“工業(yè)革命”,也確實(shí)還有很長(zhǎng)的路要走。

理性看待AI產(chǎn)業(yè)的發(fā)展,也是《邊界》這本書(shū)透露出的一個(gè)重要觀點(diǎn)。必須要認(rèn)識(shí)到,AI真正的大規(guī)模落地,滲透到千行百業(yè),還需解決一系列的問(wèn)題。

1:基礎(chǔ)設(shè)施的問(wèn)題。

AI是程序,需要運(yùn)行的物理承載,因此基礎(chǔ)設(shè)施的高度,決定著AI實(shí)用價(jià)值的最終高度。這也是商湯的產(chǎn)業(yè)實(shí)踐,希望通過(guò)構(gòu)建大裝置去解決的問(wèn)題。

2:算法的通用化、以及泛化問(wèn)題。

AI賦能千行百業(yè),首先要解決的問(wèn)題就是適應(yīng)性問(wèn)題。越通用的算法,適應(yīng)性就越強(qiáng),落地行業(yè)越多,算法的效果也就更好,更容易實(shí)現(xiàn)技術(shù)落地到商業(yè)化場(chǎng)景拓展,再到算法優(yōu)化的正循環(huán)。

3:AI技術(shù)的量產(chǎn)應(yīng)用問(wèn)題。

不得不承認(rèn),AI技術(shù)的開(kāi)發(fā)成本其實(shí)是很高的,這與人才的規(guī)模,市場(chǎng)需求程度,以及實(shí)際的商業(yè)化空間等因素相關(guān)。

解決AI技術(shù)量產(chǎn)的關(guān)鍵,就在于解決長(zhǎng)尾算法生產(chǎn)問(wèn)題,最理想的方法是“用AI生產(chǎn)AI”,如果能實(shí)現(xiàn)這一點(diǎn),那么就能通過(guò)規(guī)?;腁I算法模型生產(chǎn),進(jìn)一步降低AI的成本。

縱使AI行業(yè)需要解決的問(wèn)題很多,也很難,但AI仍然是目前最有希望改變?nèi)祟惿鐣?huì)的技術(shù)之一。

人類歷史的經(jīng)驗(yàn)是,當(dāng)一項(xiàng)底層技術(shù)的成本有效降低,生產(chǎn)力的革命往往就會(huì)發(fā)生。

第二次工業(yè)革命的本質(zhì),其實(shí)就是內(nèi)熱燃?xì)獾母咝适沟脝挝簧a(chǎn)力成本降低了,再比如,電力的廣發(fā)應(yīng)用,促使信息化、電氣化降低了單位生產(chǎn)力的成本。這引發(fā)第三次工業(yè)革命。

腦洞一下,如果有一天算法生產(chǎn)的成本能夠被有效降低,AI技術(shù)應(yīng)用變得更廉價(jià),那么我們?yōu)槭裁礇](méi)理由相信,下一次工業(yè)革命是由AI帶來(lái)的呢?

重塑邊界:人類認(rèn)知、知識(shí)、思維擴(kuò)容

當(dāng)然,變革不會(huì)一夜發(fā)生。

這需要人類認(rèn)知、知識(shí)以及思維的不斷擴(kuò)容,然后由量變引發(fā)質(zhì)變。事實(shí)上,人工智能技術(shù)發(fā)展的過(guò)程,也是一個(gè)人類認(rèn)知體系不斷擴(kuò)容的過(guò)程。

人工智能技術(shù)的發(fā)展,需要跨行業(yè)跨學(xué)科的耦合創(chuàng)新,一方面是要加速技術(shù)、人才的雙向流通,另一方面,要充分發(fā)揮“產(chǎn)學(xué)研”體系的創(chuàng)造性。

AI知識(shí)的容量絕對(duì)值越大,AI技術(shù)轉(zhuǎn)化生產(chǎn)力效率也就越高。

科技發(fā)展的一條規(guī)律是,重大問(wèn)題的突破以及創(chuàng)新,往往都是在多個(gè)領(lǐng)域交叉發(fā)展創(chuàng)新的過(guò)程中誕生的。而AI領(lǐng)域,也是仿生、數(shù)學(xué)、編程、邏輯等多學(xué)科交叉領(lǐng)域。

這意味著一件事,一個(gè)成熟的AI必然是一個(gè)超大的知識(shí)容量的合集。為了完成這個(gè)合集,也需要人類認(rèn)知、知識(shí)不斷擴(kuò)容。在這個(gè)過(guò)程中,科技的邊界被打破,倫理、邏輯甚至哲學(xué)都將融入其中。因此,AI技術(shù)發(fā)展的過(guò)程,也是一個(gè)不斷重塑邊界的過(guò)程。

中國(guó)工程院院士陳杰認(rèn)為,在這個(gè)過(guò)程中,AI需要面臨四大挑戰(zhàn)。

  1. 人工智能與生物智能的距離很遠(yuǎn)。
  2. 突變環(huán)境下智能協(xié)同
  3. 復(fù)雜環(huán)境下的脆弱性
  4. 安全問(wèn)題

陳院士用一個(gè)生動(dòng)的例子,來(lái)說(shuō)明當(dāng)下人工智能與生物智能的差距:

當(dāng)烏鴉想吃核桃時(shí)會(huì)把核桃放在馬路上,讓車輪碾碎后吃到核桃,但馬路有汽車太危險(xiǎn),于是它就通過(guò)學(xué)習(xí)把核桃放到斑馬線上,汽車遇到紅燈,烏鴉就安全地吃到了果實(shí)。

目前,機(jī)器難以實(shí)現(xiàn)這樣的智能,如何借助生物行為研究復(fù)雜環(huán)境下的機(jī)器智能,仍然是一個(gè)巨大的挑戰(zhàn)。

中國(guó)科學(xué)院院士毛軍發(fā)認(rèn)為,挑戰(zhàn)的確存在,但人工智能的賦能空間依舊很廣。

比如,在有數(shù)據(jù)、有規(guī)則,邊界比較清晰明確的場(chǎng)景中,人類有一天會(huì)被打敗,圍棋大戰(zhàn)就是一個(gè)很好的例子。

再比如,2018年佳士得拍賣行以432500美元賣出一幅人物肖像畫(huà)《愛(ài)德蒙·貝拉米肖像》,而這幅肖像畫(huà)由AI所作。

如果說(shuō),AI在邏輯領(lǐng)域打敗人類,尚可接受,那么,在更為感性以及評(píng)價(jià)更為主觀的藝術(shù)領(lǐng)域,AI與人類并駕齊驅(qū)則沖擊了人們的固有觀念:藝術(shù)的本質(zhì)究竟是感性創(chuàng)作還是基于數(shù)據(jù)的理性創(chuàng)造?

再進(jìn)一步來(lái)看,AI的邊界不僅包括技術(shù)邊界,也同樣包括一個(gè)認(rèn)知邊界的問(wèn)題。

比如,大眾何時(shí)能真正接受?技術(shù)的發(fā)展遠(yuǎn)比大多數(shù)人想的快得多,如何被接受?比如自動(dòng)駕駛帶來(lái)的交通安全問(wèn)題,再比如AI伴侶能否合法意義上成為真正的伴侶?

這些問(wèn)題可能需要整個(gè)社會(huì)來(lái)回答。

這說(shuō)明一點(diǎn),當(dāng)AI技術(shù)知識(shí)擴(kuò)容,邊界拓展之后,AI技術(shù)也同樣會(huì)進(jìn)一步影響人的思維方式。一些傳統(tǒng)的固有觀念和思維可能會(huì)被顛覆。

由此來(lái)看,認(rèn)知、知識(shí)擴(kuò)容之后,人類真正接受AI,可能還需要一個(gè)思維擴(kuò)容的過(guò)程,而這個(gè)過(guò)程,可能比AI成熟所需要的時(shí)間更加漫長(zhǎng)。

未來(lái)邊界:AI時(shí)代未來(lái)已來(lái)

未來(lái)AI如何發(fā)展,不僅取決于技術(shù),也同樣取決于社會(huì)大眾的認(rèn)知。畢竟,“科學(xué)無(wú)邊界”不僅是科學(xué)家的問(wèn)題,是整個(gè)人類社會(huì)需要思考和回答的問(wèn)題。

“很多技術(shù)在發(fā)展過(guò)程中的一個(gè)重要任務(wù)就是讓社會(huì)認(rèn)識(shí)這項(xiàng)技術(shù)的特點(diǎn)以及風(fēng)險(xiǎn),這樣人們就能做出更好,更理性的選擇”。

《邊界》一書(shū)最后對(duì)話中實(shí)錄中,清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾教說(shuō)道。

1950年的圖靈之問(wèn),把AI技術(shù)與人類的從哲學(xué)層面聯(lián)系起來(lái),數(shù)十年之后,真正意義上能夠通過(guò)圖靈測(cè)試的AI仍未誕生。

面對(duì)這個(gè)經(jīng)典的AI之問(wèn),商湯科技CEO徐立在書(shū)中提出了另一個(gè)思路,如果把“機(jī)器會(huì)思考嗎”轉(zhuǎn)變?yōu)椤皺C(jī)器會(huì)猜想嗎”?

這些年人工智能的發(fā)展顯然已經(jīng)給出了肯定的答案。

但我相信,機(jī)器會(huì)猜想只是一個(gè)起點(diǎn),是AI邁向未來(lái)的一大步也同樣是一小步,AI時(shí)代的新生與變化,一定比人們預(yù)測(cè)的更加精彩。

時(shí)代的大幕已經(jīng)拉開(kāi),接下來(lái),AI,能夠怎樣改造這個(gè)我們所熟知的世界,我們不得而知。

不過(guò),影響世界的前提是認(rèn)識(shí)世界,對(duì)于這個(gè)渴求科技創(chuàng)新的世界來(lái)說(shuō),改變總是一件好事。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。