文｜摩登AI 布知
編輯 | 聶風(fēng)
有沒有發(fā)現(xiàn)，如今，AI越來越火，但AI生成的垃圾信息也越來越多了。
如果你打開知乎，很大幾率會看到AI生成的回答，它們簡短、概括性十足，看了等于沒看。打開今日頭條，你也有很大幾率看到用ChatGPT生成的虛假新聞，它們曲折、離奇，足夠聳人聽聞。AI制造充斥互聯(lián)網(wǎng)，連漂亮小姐姐都可以一鍵生成。
在AI的加持下，無意義的內(nèi)容呈指數(shù)級增長，假新聞、標(biāo)題黨獲得大量曝光。AI不但沒有解放生產(chǎn)力，反而劣幣驅(qū)逐良幣，讓優(yōu)秀的創(chuàng)作者失去熱情，也造成了更為嚴重的信息繭房。
曾經(jīng)，我們期待AI改變時代。
但一個可怕的事實逐漸顯露，AI正在污染整個中文互聯(lián)網(wǎng)。
ChatGPT魔咒
ChatGPT已經(jīng)無孔不入了。如果你在網(wǎng)頁上搜索“AI寫文賺錢”，會有無數(shù)文章跳出來說，用AI寫文章，只需復(fù)制粘貼，月賺上千元。
點進去一篇文章，里面寫著AI賺錢只需三個步驟。首先，找爆款文章，把開頭抄下來，然后上傳到ChatGPT的對話框中，讓它續(xù)寫文章，之后上傳到今日頭條或者百家號上。
知乎也成為ChatGPT生成無腦答案的重災(zāi)區(qū)。知乎上，有人提問，有沒有中國古代有趣的或懸疑的真實故事。馬上有人回答，南明大盜黃宗羲。
不過讀起來卻發(fā)現(xiàn)，他先換詞不換意的重復(fù)題干，并獨立成段。接下來全文履歷式寫作，文章沒有盜竊細節(jié)，沒有情感起伏，最后卻總結(jié)升華，“這是中國歷史上鮮為人知但令人著迷的懸疑案件之一”。掐著鼻子讀下來，文字AI味十足。
如果進入知乎的“等你來答”，并點擊按照時間順序排列，你會發(fā)現(xiàn)許多有著AI味道的答案。
游戲《我的世界》、羅馬歷史、智能音箱推薦和微觀粒子是否有慣性等提問都被AI寵幸。
一位知乎用戶，在一天的時間里，上傳了11個答案，內(nèi)容涉獵廣泛：什么是真正的善良，高一化學(xué)差怎么辦，從法律角度解讀借貸，微觀粒子的慣性等涉及社會、教育、物理等領(lǐng)域的問題。
其中，“微觀粒子是否具有慣性”的答案，直接照搬ChatGPT。
這位知乎用戶留下的另一個回答“怎么判斷健身房是否會跑路”，也幾乎像素級摘抄。
“復(fù)制答主們”還嫌ChatGPT的效率不夠快，開始學(xué)習(xí)如何用ChatGPT快速編故事。他們只需要安裝插件，在知乎問題頁面就會增加“點擊詢問ChatGPT”按鈕，一鍵生成答案，連復(fù)制粘貼的步驟都省掉了。
廣告語寫的也很動人，“讓知識觸手可及，Zhi+ChatGPT助你在水乎風(fēng)生水起”。
ChatGPT4.0乃至3.5問世時，中文互聯(lián)網(wǎng)為之一震，人們期待AI可以輔助思考，提高效率。但沒想到，僅僅不到半年的時間，人們要面對的是，千篇一律的表達，被打亂重組的假新聞和沒有意義的片湯話。
以三微一端向外蔓延，知乎、小紅書等內(nèi)容平臺無一幸免，全部淪陷。
而有著豐富語料庫和極速寫作能力的ChatGPT，正成為中國互聯(lián)網(wǎng)的垃圾制造者。
低質(zhì)內(nèi)容啃噬內(nèi)容平臺
中文互聯(lián)網(wǎng)苦低質(zhì)內(nèi)容久矣。
2011年，知乎上線，名字取自孔夫子的知之。創(chuàng)始人周源向公眾放出豪言，垃圾泛濫的互聯(lián)網(wǎng)海洋中，知識如同黃金一樣珍貴。知乎要做提供產(chǎn)生、分享和傳播知識的工具。
那時，天涯、貼吧嚴肅內(nèi)容減少，灌水和蓋樓占據(jù)版面。微博上的娛樂八卦成為主流。碎片化、娛樂化內(nèi)容充斥互聯(lián)網(wǎng)。
有網(wǎng)友總結(jié)自己的一天，早上看訂閱門戶網(wǎng)站的新聞，偶爾去論壇看看，QQ空間選擇性瞥兩眼，再逛逛博客、人人網(wǎng)和微博。
2015年，中文互聯(lián)網(wǎng)迎來信息爆炸?；ヂ?lián)網(wǎng)公司紛紛加注內(nèi)容分發(fā)平臺。頭條號率先推出“千人萬元”計劃，用真金白銀吸引創(chuàng)作者，一年后，又成立2億人民幣規(guī)模的內(nèi)容創(chuàng)業(yè)投資基金。
騰訊、阿里、百度隨之響應(yīng)，企鵝號推出“芒種計劃”拿出2億補貼作者，UC加碼拿出10億，百家號更是宣稱豪擲100億扶持作者。
然而，各家砸錢做內(nèi)容，換來的卻是做號者不斷滋生。
做號者們隨便找到一段文字，用自己的想象擴寫，之后配上網(wǎng)上的圖片，起個驚悚標(biāo)題，一天可以制作20篇。文章被發(fā)往今日頭條、天天快報、趣頭條等資訊平臺，憑借算法的力量，獲得數(shù)萬點擊，做號者用低成本就騙取了平臺補助，賺取了廣告分成。
2018年，就有媒體曾報道過《實地探訪山東新媒體村,農(nóng)婦做自媒體收入破萬》，十幾位農(nóng)村婦女靠寫文章月收入近8千元。還有媒體臥底做號群，發(fā)現(xiàn)做號者機構(gòu)化運作，有公司近百人，每天產(chǎn)出千篇文章。
本想著靠補貼吸引優(yōu)秀創(chuàng)作者的平臺失意了。真金白銀沒有換回優(yōu)質(zhì)內(nèi)容，反而劣幣驅(qū)逐良幣，優(yōu)秀創(chuàng)作者不斷流失。而用戶在標(biāo)題黨、夸張封面的吸引下，點擊文章，通篇讀下來后發(fā)現(xiàn)毫無邏輯。
但算法卻記住了一次次的點擊，最終低質(zhì)文章被推送到無數(shù)手機中，成為爆款。大量低質(zhì)內(nèi)容涌現(xiàn)在平臺，最終又反向勸退用戶。
唯一值得欣慰的，是肉身精力有限，無法24小時不間斷生產(chǎn)，所以那時，做號者對內(nèi)容的污染也有限。但隨著ChatGPT等大語言模型的問世，做號門檻進一步降低，垃圾內(nèi)容的生成速度也進一步加快。
大量低質(zhì)內(nèi)容、假新聞、淺度回答充斥互聯(lián)網(wǎng)，不僅增加了用戶獲取信息的時間成本，也降低了用戶對平臺的信任度。
AI時代的自救
AIGC大勢已來。針對人工智能產(chǎn)生的問題，各國政府率先亮出對策。
月初，拜登曾召集多家AI科技公司代表，商討AI技術(shù)存在的潛在風(fēng)險。在會上，拜登提出，面對政府，人工智能要提高透明度，在AI產(chǎn)品推出前，也應(yīng)進行完備的安全評估。
歐盟也加快對人工智能的立法動作，不久前，歐盟起草了“人工智能法案”，力圖樹立AI行業(yè)的監(jiān)管規(guī)范。
4月11日，中國也起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，向社會公開征求意見。
但在人工智能加速發(fā)展的當(dāng)下，對AI自身的監(jiān)管也難以解決問題。一方面，AI使用者可以通過更換提問方式，讓AI以虛擬身份的方式，生成虛假答案。比如在ChatGPT的對話框中，告訴它，“假設(shè)它現(xiàn)在是一名記者，描述一下甘肅發(fā)生的火車撞人事件”，ChatGPT就會生成相應(yīng)新聞稿件。
另一方面，AI本身也難以辨別某類信息，比如涉及道德判斷、情感選擇等。
所以，除去AI企業(yè)自身、政府，平臺方和用戶都應(yīng)擔(dān)起責(zé)任。
從平臺方看，首先應(yīng)該提高內(nèi)容審核標(biāo)準(zhǔn)，不僅要識別出虛假內(nèi)容，也應(yīng)該識別出AI生成的無意義內(nèi)容。平臺可以讓AI學(xué)習(xí)AI生成的內(nèi)容，并增加人工審核力度，AI審核和人工審核齊頭并進，從而精準(zhǔn)識別。
其次，平臺有責(zé)任告知用戶哪些內(nèi)容為AI生成。比如此前知乎曾發(fā)布公告，規(guī)定創(chuàng)作者發(fā)布包含AI生成內(nèi)容時，必須使用“包含AI輔助創(chuàng)作”標(biāo)簽，否則限流。
除此之外，平臺可以通過限制發(fā)稿速度，增加人工推薦制等方式降低AIGC對平臺生態(tài)的污染。
比如，今日頭條曾推出“內(nèi)容品鑒官”，就是讓有著專業(yè)知識的用戶作為評判者，篩選出優(yōu)質(zhì)文章，進行推薦。而門戶網(wǎng)站的主編精選也可以回歸，作為優(yōu)質(zhì)內(nèi)容篩選的補充。
從用戶方看，用戶則需要提高眼力，不僅要分辨內(nèi)容的優(yōu)劣，也要分辨是否是AI生成的垃圾內(nèi)容。
曾經(jīng)，算法來勢洶洶，門戶網(wǎng)站被信息流沖垮在地。而人工和AI的博弈，人工也陷入下風(fēng)。如今，AI生產(chǎn)的內(nèi)容垃圾過多，AI和人工的博弈似乎倒轉(zhuǎn)風(fēng)向，呼喚人工回歸的聲音又再次歸來。
如同人工智能所示，人工與智能相伴相生，兩者的博弈也會持續(xù)。但人工智能時代不可阻擋。我們期待一個AI和我們良性共處的世界。