撰文 | 翁雨晴

編輯 | 黃月

今年10月31日，柯林斯詞典宣布“人工智能”（AI）被評(píng)為年度詞匯。AI在詞典中的定義為“通過計(jì)算機(jī)程序?qū)θ祟惖男睦砉δ苓M(jìn)行模擬”。據(jù)柯林斯統(tǒng)計(jì)，在過去的一年里，這個(gè)詞的使用量增長了四倍。

以OpenAI推出的ChatGPT為首，這一年來各種生成式人工智能產(chǎn)品層出不窮，至今已經(jīng)形成一整套蓬勃的生態(tài)。畫圖有Leap Motion的Midjourney，譜曲有谷歌的MusicLM，辦公有微軟的Copilot。我們仿佛一夜之間踏入了科幻世界?！朵撹F俠》電影中那個(gè)造鎧甲、管理衛(wèi)星、保護(hù)核彈密碼無所不能，對(duì)斯塔克的衣食住行悉心照顧，還時(shí)不時(shí)說兩句俏皮話的賈維斯，似乎離我們不再遙遠(yuǎn)。

但人工智能帶來的不僅是便利。且不去想象將人類清洗殆盡的“天網(wǎng)”系統(tǒng)，當(dāng)今科技水平的人工智能已經(jīng)給社會(huì)帶來了不小的沖擊。AI以假亂真的藝術(shù)作品促使我們思考藝術(shù)的外延和內(nèi)涵，拷問什么是“假”、什么是“真”，什么是智能和創(chuàng)意。不同于第一、第二次工業(yè)革命對(duì)制造業(yè)的影響，這次首當(dāng)其沖受到影響的是文化產(chǎn)業(yè)。由于人工智能的出現(xiàn)模糊了“獨(dú)創(chuàng)性”、“藝術(shù)表現(xiàn)”、“合理使用”等概念，“知識(shí)產(chǎn)權(quán)”相關(guān)立法亟需修訂和補(bǔ)充。另外，AI工具的普及也造成了白領(lǐng)工作者的普遍擔(dān)憂，這一項(xiàng)顛覆性科技必將對(duì)已經(jīng)傾斜的勞資關(guān)系產(chǎn)生深遠(yuǎn)的影響。

有一個(gè)比喻說，人們看新興科技就像看火車從遠(yuǎn)處駛來。離得遠(yuǎn)的時(shí)候，速度似乎很慢，總也到不了眼前。等火車真的到了身邊，剎那間呼嘯而過，我們卻都來不及反應(yīng)。也許現(xiàn)在就是AI的火車來臨的一刻。無論是作為個(gè)人還是共同體，我們都不得不做好準(zhǔn)備。正如同濟(jì)大學(xué)人文學(xué)院副教授、哲學(xué)系副主任余明鋒在接受界面文化采訪時(shí)所言：“人工智能的廣泛應(yīng)用究竟意味著什么？它對(duì)經(jīng)濟(jì)、政治、日常生活，乃至人類的自我理解，對(duì)我們的哲學(xué)思考和基本的價(jià)值信念、社會(huì)法則等等會(huì)帶來哪些深刻的挑戰(zhàn)？這是未來會(huì)發(fā)生的事情，也是我們作為思想者如此關(guān)注它的更為重要的原因。所以，關(guān)于此的公共討論非常有必要?！?/span>

01 AI與創(chuàng)作：是復(fù)制還是創(chuàng)作？是學(xué)習(xí)還是搶奪？

關(guān)鍵詞：著作權(quán)、ChatGPT、Midjourney、科幻、音樂

11月27日，北京互聯(lián)網(wǎng)法院針對(duì)全國第一例AI生成圖片著作權(quán)侵權(quán)糾紛作出一審判決，判定原告因設(shè)計(jì)提示詞、修改參數(shù)等活動(dòng)構(gòu)成“智力投入”、“個(gè)性化表達(dá)”，依法享有著作權(quán)。這一案例對(duì)未來AI在文化產(chǎn)業(yè)的應(yīng)用具有里程碑式的意義。根據(jù)界面新聞對(duì)業(yè)內(nèi)人士的采訪，“它的意義在于從法律上承認(rèn)AIGC作品（指人工智能生成內(nèi)容，Artificial Intelligence Generative Content）的獨(dú)創(chuàng)性，具備可要求侵權(quán)損害賠償?shù)臋?quán)利。這是立法者積極跟上科技發(fā)展節(jié)奏的一個(gè)重要表現(xiàn)?！?/span>

在判斷某物是否為“作品”時(shí)，法律主要考慮幾項(xiàng)要素：是否屬于文學(xué)、科學(xué)和藝術(shù)領(lǐng)域；是否有獨(dú)創(chuàng)性；是否具有一定的表現(xiàn)形式；是否屬于智力成果。在此案中，法院認(rèn)為涉案的AI生成圖片毋庸置疑屬于藝術(shù)表現(xiàn)，因?yàn)樗臀覀兤匠？吹降摹⑷祟悇?chuàng)作的圖像沒有區(qū)別，而原告在圖片生成過程中投入的思想則滿足了“智力”和“獨(dú)創(chuàng)性”的要素。由于AI目前不具備自由意志，不是法律上的主體，本質(zhì)上仍然是人利用工具進(jìn)行創(chuàng)作，所以人享有著作權(quán)法的保護(hù)。

《“我的畫被偷了？” AI生成圖片著作權(quán)侵權(quán)第一案判決書出爐》的報(bào)道指出，著作權(quán)制度的核心目的是鼓勵(lì)創(chuàng)作，所以當(dāng)新技術(shù)出現(xiàn)時(shí)，應(yīng)當(dāng)適當(dāng)使用著作權(quán)法鼓勵(lì)更多的人去用最新的工具創(chuàng)作。

隨著以ChatGPT為首的生成式AI進(jìn)入大眾生活， AI生成的作品正不斷迫使人們重新思考何為藝術(shù)。這一巨變類似于攝影技術(shù)首次出現(xiàn)使繪畫作為一種“再現(xiàn)”的藝術(shù)受到?jīng)_擊。界面文化曾就“AI終結(jié)藝術(shù)”的說法展開探討，并指出新興科技終結(jié)的并不是藝術(shù)本身，而是特定的藝術(shù)敘事。攝影技術(shù)普及之后，現(xiàn)代主義藝術(shù)找到個(gè)人情感表達(dá)和平面性作為錨點(diǎn)，擴(kuò)展了藝術(shù)的外延，給后人留下一眾獨(dú)出心裁的杰作。當(dāng)今，AI本身就是一件極度挑釁的藝術(shù)品。創(chuàng)作門檻的降低、生成作品的可控性和隨機(jī)性的并存，AI背后進(jìn)行大數(shù)據(jù)訓(xùn)練的科技公司，都已突破現(xiàn)代或后現(xiàn)代藝術(shù)的邊界，指向一種新的藝術(shù)生命體。

AI在全球范圍內(nèi)對(duì)創(chuàng)作者的沖擊不限于視覺領(lǐng)域。今年2月，著名科幻雜志《克拉克世界》暫停征稿，原因是收到AI生成的作品過多，審稿工作無法進(jìn)行。不過，雜志編輯希拉·威廉姆斯（Sheila Williams）也表示，機(jī)器寫的文章一眼就能看出來，AI要替代作家還有很長的路要走。

在音樂方面，今年5月份，AI孫燕姿和人工智能翻唱引發(fā)關(guān)注。音樂人與聲音空間設(shè)計(jì)師李星宇在接受界面文化專訪時(shí)指出，AI在音樂行業(yè)的應(yīng)用早已非常廣泛。音樂的本質(zhì)與數(shù)學(xué)或金融類似，是純粹的心智活動(dòng)，比起繪畫這類借助物理形態(tài)的創(chuàng)作，音樂極易和科技結(jié)合產(chǎn)生質(zhì)變。但當(dāng)技術(shù)被大企業(yè)壟斷，歸順于其營利目標(biāo)，普通創(chuàng)作者的生存空間受到了擠壓。大數(shù)據(jù)分析催生出了大量不求有功、但求無過的網(wǎng)紅口水歌，播放列表文化更把聽眾培養(yǎng)成被動(dòng)接受推薦、不知自主探索的“孩子”，今后，不知口味被算法形塑的聽眾還能不能欣賞超出認(rèn)知的音樂，也不知道底部創(chuàng)作者還有沒有資源創(chuàng)作顛覆認(rèn)知的新作并將其推向市場(chǎng)。李星宇在采訪中悲觀地表示：“最有可能出現(xiàn)的情況是，平臺(tái)將資源分給自家的AI，同時(shí)頭部藝人仍然會(huì)索要自己那一份，最后就不剩什么給其他創(chuàng)作者了。”

以上案例涉及的都是AI的內(nèi)容輸出，現(xiàn)階段，AI的訓(xùn)練仍離不開人類創(chuàng)意的輸入。今年獨(dú)領(lǐng)風(fēng)騷的生成式AI依靠的是大語言模型，大語言模型的訓(xùn)練需要大量語料。理想語料也并非俯拾即是——數(shù)據(jù)初創(chuàng)公司Scale AI的拉塞爾·卡普蘭（Russell Kaplan）指出，理想訓(xùn)練對(duì)象是篇幅夠長、文筆良好、事實(shí)準(zhǔn)確的作品。很多時(shí)候，它們來源于文學(xué)作品。科技公司對(duì)語料的攫取讓作家們打響了一場(chǎng)維權(quán)大戰(zhàn)，也讓讀者或觀眾對(duì)于“合理使用”、“知識(shí)產(chǎn)權(quán)”、“創(chuàng)意”等概念進(jìn)行了更深度的思考。

今年6月，美國作家Paul Tremblay和Mona Awad起訴OpenAI，指控該公司未經(jīng)授權(quán)使用他們的作品來訓(xùn)練其人工智能模型ChatGPT，并索求賠償金。訴狀指出，OpenAI用于訓(xùn)練ChatGPT的大部分?jǐn)?shù)據(jù)來自受版權(quán)保護(hù)的作品，極有可能由Library Genesis等盜版網(wǎng)站提供。 

我們耳熟能詳?shù)囊恍┳骷乙惨鸭尤脒@場(chǎng)對(duì)決。7月，全美作家協(xié)會(huì)（The Authors Guild）包括瑪格麗特·阿特伍德、菲利普·普爾曼在內(nèi)的一萬多名作家簽署了一封公開信，要求Open AI、微軟、Meta Platforms等公司領(lǐng)導(dǎo)者不得在未經(jīng)許可或未支付報(bào)酬的情況下使用自己的作品訓(xùn)練AI。9月，該協(xié)會(huì)和喬治·R·R·馬丁等13位作家對(duì)OpenAI發(fā)起集體訴訟。作家們認(rèn)為，既然他們的作品被用于訓(xùn)練盈利的AI產(chǎn)品，他們理應(yīng)獲得補(bǔ)償。另外，他們也表達(dá)了對(duì)模仿作品泛濫的擔(dān)憂。重點(diǎn)不僅僅是AI侵權(quán)，而是這種侵權(quán)行為所服務(wù)的目的將嚴(yán)重?fù)p害作家的權(quán)益，其情形與前文提到的音樂行業(yè)類似。

綜上看來，許多創(chuàng)作者已經(jīng)在積極應(yīng)對(duì)AI的出現(xiàn)和發(fā)展，推動(dòng)著作權(quán)法的完善。但更廣泛的擔(dān)憂并非某一作品被侵權(quán)，而是“模仿文化”對(duì)整個(gè)創(chuàng)意產(chǎn)業(yè)的影響?！禦ethinking creativity: creative industries, AI and everyday creativity》一文指出，AI的出現(xiàn)促使我們重新思考“創(chuàng)意”這一概念。從知識(shí)產(chǎn)權(quán)的視角出發(fā)，創(chuàng)意被視為一種資本、一種可以明碼標(biāo)價(jià)的固定表達(dá)，而創(chuàng)意的勞動(dòng)維度往往被忽略。創(chuàng)意的產(chǎn)生首先要求創(chuàng)造者能滿足溫飽，并付出大量勞動(dòng)來提高自我修養(yǎng)，這樣才能維持創(chuàng)造力，使靈感能在特定時(shí)刻涌現(xiàn)，而這些勞動(dòng)往往是無償?shù)摹?/span>

02 AI與人類工作：替代、掠奪或推動(dòng)變革

關(guān)鍵詞：好萊塢罷工、OpenAI外包工人、《后工作時(shí)代》、教育行業(yè)、模特行業(yè)

今年持續(xù)了五個(gè)月的好萊塢罷工，正是創(chuàng)意產(chǎn)業(yè)從業(yè)者從勞資關(guān)系的維度對(duì)AI進(jìn)行的反擊。界面文化曾報(bào)道過，除了流媒體平臺(tái)利潤的分成問題， AI也是此次罷工的一個(gè)重要議題。編劇工會(huì)要求AI只能作為編劇的輔助工具，演員工會(huì)也反對(duì)由AI生成的角色代替各類演員出演。和此前作家的抗議類似，演員們質(zhì)疑“制片方是否有權(quán)讓AI學(xué)習(xí)演員的作品”。

在長達(dá)五個(gè)月的僵持之后，制片方終于在11月作出重大讓步。據(jù)《衛(wèi)報(bào)》報(bào)道，此次編劇們?nèi)〉玫闹饕獎(jiǎng)倮ǎ褐破瑥S不得讓AI生成原材料然后要求編劇修改，也不得讓AI修改編劇的作品。麻省理工學(xué)院經(jīng)濟(jì)學(xué)家Simon Johnson在接受《衛(wèi)報(bào)》采訪時(shí)稱，編劇們?nèi)〉玫膮f(xié)議是非常“聰明”的，因?yàn)樵诖税才畔戮巹∪匀豢梢允褂肁I作為調(diào)研工具。Johnson說：“AI是由編劇而不是制片廠控制的。它不會(huì)成為自動(dòng)化科技，而是對(duì)人類工作進(jìn)行補(bǔ)充?！?/span> 

然而，好萊塢編劇和演員的成功很大程度上要?dú)w因于好萊塢的全球影響力、以及他們的人氣基礎(chǔ)。并不是所有人在面對(duì)大平臺(tái)和AI時(shí)都有能力奮起反抗。界面文化曾關(guān)注AI標(biāo)記員的困境——OpenAI以時(shí)薪1.32美元雇傭肯尼亞外包工對(duì)其內(nèi)容進(jìn)行審核。《Times》發(fā)布的調(diào)查報(bào)道揭露了這些低薪工人的狀況，他們長期負(fù)責(zé)標(biāo)記帶有暴力、色情、言論仇恨的數(shù)據(jù)，沉浸在有沖擊性的污穢內(nèi)容中，很多人都出現(xiàn)了PTSD、抑郁、焦慮等心理問題，失眠與噩夢(mèng)頻頻發(fā)生。

今年上海譯文出版社引進(jìn)的《后工作時(shí)代：平臺(tái)資本主義時(shí)代的勞動(dòng)力》一書深刻剖析了平臺(tái)資本主義時(shí)代的“微工作”制度。它看似創(chuàng)造了自由、彈性、體面、不受地域限制的新工作，為全球南方帶來福音，其實(shí)是全球工作危機(jī)的進(jìn)一步扭曲。比如，亞馬遜的微工作網(wǎng)站Mechanical Turk提供大量數(shù)據(jù)標(biāo)記工作，但只有發(fā)達(dá)國家的少數(shù)人可以通過銀行轉(zhuǎn)賬來獲得報(bào)酬，來自全球南方國家的工人只能領(lǐng)取禮品卡，用于購買亞馬遜提供的商品和服務(wù)。同時(shí)，由于計(jì)件任務(wù)的性質(zhì)，工人需要花大量時(shí)間尋找下一份工作，尋找工作的時(shí)間甚至比完成工作的時(shí)間還長。這樣的工作不僅沒有權(quán)利保障，還有嚴(yán)重的倫理問題，工人不知道他們自己輸入的數(shù)據(jù)最終被用于什么目的。美國軍方曾和谷歌共同開發(fā)過一個(gè)人工智能程序，數(shù)據(jù)標(biāo)記員只知道自己在對(duì)無人機(jī)視頻進(jìn)行分類，卻不知程序?qū)崉t是為了幫軍隊(duì)識(shí)別戰(zhàn)場(chǎng)上的目標(biāo)。

隨著人工智能技術(shù)的發(fā)展，即使是這樣不穩(wěn)定的工作也正變得難以維持。《訓(xùn)練人工智能的中國縣城工人》一文提到，人工智能研究者們已經(jīng)開始嘗試向機(jī)器“喂養(yǎng)”未標(biāo)注的數(shù)據(jù)與部分標(biāo)注數(shù)據(jù)，亦即“半監(jiān)督學(xué)習(xí)”，而不依賴于人工標(biāo)注的自監(jiān)督學(xué)習(xí)與數(shù)據(jù)標(biāo)注。騰訊、阿里、字節(jié)跳動(dòng)等一眾大廠都在研發(fā)自監(jiān)督學(xué)習(xí)的算法，甚至有些數(shù)據(jù)標(biāo)注公司也已有60%內(nèi)容來自于機(jī)器的自動(dòng)化標(biāo)注。數(shù)據(jù)標(biāo)注員曾被稱為“人工智能的老師”，每人每天上千次的拉框教會(huì)了人工智能理解世界，沒想到“老師”轉(zhuǎn)眼間要將被“學(xué)生”取代。 

人工智能正在取代越來越多的工作。《南方周末》的報(bào)道展示了AI對(duì)于教育行業(yè)和模特行業(yè)的挑戰(zhàn)：AI教育系統(tǒng)Call Annie一經(jīng)推出，美國的教育平臺(tái)Chegg股價(jià)暴跌50%，不用約課、目前免費(fèi)、24小時(shí)陪聊的AI教師也許會(huì)在未來淘汰所有語言老師、基礎(chǔ)教育類老師、翻譯、甚至大學(xué)助教；AI模特對(duì)真人模特的巨大挑戰(zhàn)也正在凸顯，不僅身高、發(fā)色可以隨意調(diào)節(jié)，在其后的商業(yè)運(yùn)作中還可以改寫AI模特的故事，目前AI模特Aitana Lopez已完全能以假亂真，每月承接1萬歐元的廣告。

只要善于適應(yīng)，人類的未來或許并非一片灰暗?？苹米骷夷矫髟?a target="_blank">接受界面文化采訪時(shí)稱，當(dāng)機(jī)器可以代替很多工作， 我們就要審視還要不要重視這類功夫。當(dāng)機(jī)器很快學(xué)習(xí)到語言風(fēng)格，文學(xué)作者就會(huì)想如何寫出邏輯更強(qiáng)、有更多隱含內(nèi)容的文本。就像愛德華·阿什福德·李（注：《柏拉圖與技術(shù)呆子》《協(xié)同進(jìn)化：人類與機(jī)器融合的未來》作者，計(jì)算機(jī)科學(xué)家）提出的那樣，技術(shù)和人是協(xié)同進(jìn)化的，人類會(huì)隨著人工智能的進(jìn)化改變自己。慕明有一個(gè)天馬行空的想法，未來可以把ChatGPT作為創(chuàng)新的參考線、或計(jì)量單位，如果新推出一個(gè)小說家，可以去衡量他的創(chuàng)意是ChatGPT的0.8倍還是1.5倍。既然機(jī)器可以通過人類來學(xué)習(xí)，為什么人不能通過機(jī)器的反饋來學(xué)習(xí)呢？

03 AI的風(fēng)險(xiǎn)與監(jiān)管：如何走向“人機(jī)一體”的未來？

關(guān)鍵詞：AI競賽、AI幻覺、AI戰(zhàn)爭、AI立法、《人類世的<資本論>》

AI帶來的社會(huì)風(fēng)險(xiǎn)不容小覷。即使是馬斯克這樣的科技狂人，也在今年3月領(lǐng)銜簽署公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。不過也有人認(rèn)為他只是在為自己公司開發(fā)AI產(chǎn)品拖延時(shí)間。

無論如何，馬斯克的呼吁并未得到響應(yīng)，AI競賽仍在如火如荼地進(jìn)行中。界面文化之前的評(píng)論文章曾提到許多值得我們警惕的點(diǎn)。比如，美國警察局會(huì)使用預(yù)測(cè)分析軟件，根據(jù)其指導(dǎo)更頻繁地對(duì)低收入社區(qū)巡邏和搜索，對(duì)AI的過度依賴加劇了已有的貧窮和不公。另外，ChatGPT常常“一本正經(jīng)地胡說八道”，給出看似非常有權(quán)威性的錯(cuò)誤答案。人們必須警惕這種“幻覺”，保留自主驗(yàn)證信息的習(xí)慣。

英國哲學(xué)家伊麗莎白·米勒也在接受界面文化采訪時(shí)提到了人工智能與戰(zhàn)爭機(jī)器的關(guān)系。她指出，在新近的巴以沖突之中，以色列正在使用被稱為大規(guī)模暗殺工廠的“福音”（Habsora）人工智能系統(tǒng)，它在過去幾周里殺死了成千上萬的人。

目前，各國都在緊鑼密鼓地推動(dòng)AI立法。7月，我國出臺(tái)了《生成式人工智能服務(wù)管理暫行辦法》。10月，拜登簽署了關(guān)于AI的行政令。12月，歐盟委員會(huì)三方就《人工智能法案》達(dá)成協(xié)議，使該法案成為全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)，涵蓋版權(quán)、數(shù)據(jù)隱私、公共安全等多方面。

在未來的立法方向上，AI的民主管理和監(jiān)督至關(guān)重要。正如《人類世的<資本論>》作者齋藤幸平在接受界面文化采訪時(shí)表示的，我們現(xiàn)在所擁有的所有技術(shù)幾乎都被GAFA（Google、Apple、Facebook、Amazon）這樣的私人企業(yè)出資壟斷了，而普通人并不具備發(fā)展此類規(guī)模技術(shù)的能力，即使某家公司在黑箱內(nèi)部進(jìn)行誘導(dǎo)我們也無從得知。所以要制定規(guī)則保證它不受公司邏輯的影響，以民主的方式?jīng)Q定如何管理它，并進(jìn)行更多監(jiān)督。

當(dāng)工具變得過于強(qiáng)大， 每個(gè)人都需要思考如何在新的時(shí)代與工具進(jìn)行合理的交互。在澎湃思想市場(chǎng)的《“他者”涌現(xiàn)：生成式人工智能大模型漫談》一文中，中科院自動(dòng)化研究所博士研究生張宇欣和中科院自動(dòng)化研究所研究員董未名指出，當(dāng)程序員們不再使用01編碼和計(jì)算機(jī)溝通，而使用Python這種更貼近自然語言的編程語言，當(dāng)人們每天都在學(xué)習(xí)如何使用提示詞更好地與AI溝通，人類和機(jī)器似乎正在以一種人機(jī)共同創(chuàng)造的語言為紐帶進(jìn)行融合。在這個(gè)“人機(jī)一體”的時(shí)代，我們不僅僅要提升技術(shù)水平，更要反思自身，深入地了解人類的局限和人工智能的潛力。人工智能終將與我們每個(gè)人有關(guān)，無論是在創(chuàng)意、工作的層面上，還是在人類認(rèn)清自我與理解語言的層面上。

參考資料：

Lee, Hye-Kyung. “Rethinking Creativity: Creative Industries, AI and Everyday Creativity.” Media, Culture & Society, vol. 44, no. 3, 2022, pp. 601–12,

https://authorsguild.org/news/thousands-sign-authors-guild-letter-calling-on-ai-industry-leaders-to-protect-writers/

https://authorsguild.org/news/ag-and-authors-file-class-action-suit-against-openai/