正在閱讀:

越來越像“人”,如何防止生成式AI作惡?

掃一掃下載界面新聞APP

越來越像“人”,如何防止生成式AI作惡?

AI不會(huì)作惡,關(guān)鍵還在人為。

文|科技新知 沙棠

編輯丨伊頁

2023年的“央視315晚會(huì)”,曝光了一些網(wǎng)絡(luò)平臺(tái)明目張膽地售賣直播水軍,人氣、播放量、點(diǎn)贊、評(píng)論等數(shù)據(jù),均可24小時(shí)自助下單,達(dá)成烘托直播間氣氛的目的。

根據(jù)報(bào)道,嘉興宇禾文化傳媒有限公司推出的云控系統(tǒng),只需一臺(tái)手機(jī),即可同時(shí)操控200到20000臺(tái)手機(jī)。為了讓水軍看起來更像真實(shí)用戶,該云控系統(tǒng)還能事先設(shè)定批次、進(jìn)入時(shí)間以及不同的發(fā)言內(nèi)容等進(jìn)入直播間,甚至還可以去競(jìng)爭(zhēng)對(duì)手的直播間,自動(dòng)投訴甚至抹黑。

互聯(lián)網(wǎng)水軍早已是一條成熟的灰色產(chǎn)業(yè)鏈,如今在生成式AI的加持下,技術(shù)又開始作惡了?

01、單條五毛到三塊

“平時(shí)不需要做什么,只要在群里等著雇主發(fā)任務(wù)信息,收到后立馬去私信雇主,他就會(huì)給你提供要發(fā)布的圖片、內(nèi)容和推薦話題,你直接在小紅書上發(fā)布就好了?!?/p>

Jenny是一名大二學(xué)生,據(jù)她介紹,在小紅書上發(fā)布這樣的信息一般不需要重新注冊(cè)賬號(hào),反而用自己的日常號(hào)更能體現(xiàn)出內(nèi)容的真實(shí)性。雇主通常潛伏在二手轉(zhuǎn)賣群、互助群等校園QQ群里,由于不是正式的官方群,魚龍混雜的環(huán)境也成了雇主們播撒廣告的掩護(hù)。

“我有三個(gè)小紅書賬號(hào),最開始的時(shí)候接信息代發(fā)不管廣告的類型,后來就是開始專門接考研和護(hù)膚類的廣告代發(fā)?!盝enny說道。趕上考研網(wǎng)上報(bào)名和分?jǐn)?shù)公布前后,這種信息發(fā)布得會(huì)更加頻繁。“最好的時(shí)候,我三個(gè)賬號(hào)一天共發(fā)布了七條。如果內(nèi)容下面有評(píng)論時(shí),你還可以去維護(hù),當(dāng)評(píng)論的點(diǎn)贊量過10,就能額外領(lǐng)取五毛錢。單條小紅書內(nèi)容點(diǎn)贊量過50,還能再得一塊。這都是可以累計(jì)的。”

與小紅書這樣的種草平臺(tái)類似,微博也是雇主們分發(fā)信息的聚集地。同樣是三元一條,但微博的點(diǎn)贊量和評(píng)論就不會(huì)被記錄在內(nèi)?!安贿^最近的行情不太好了,以前一個(gè)月能發(fā)10-15條,現(xiàn)在整個(gè)9月份我還沒有收到新的代發(fā)信息。另外,你如果能拉過來好友跟你一起發(fā),一位同學(xué)好友就又能給你加3元。”

Jenny告訴「科技新知」,自己一開始只是想利用閑暇時(shí)間來賺一點(diǎn)零花錢,但隨著接單次數(shù)的增加,“我發(fā)現(xiàn)這樣替別人發(fā)一些不太靠譜的信息,也是在欺騙和我年齡相仿的人,自己的心里也過意不去。”

不過,像Jenny這樣的大學(xué)生還屬于水軍產(chǎn)業(yè)鏈的低端,而在產(chǎn)業(yè)鏈中上游的玩家,他們可以憑借一己之力輕松制造網(wǎng)絡(luò)聲浪的海嘯。

此前有媒體曝出,廣州的李某用760元就能購買標(biāo)價(jià)500元的10萬“僵尸粉”、160元的2萬點(diǎn)贊數(shù)和100元的1萬轉(zhuǎn)發(fā)數(shù),最終導(dǎo)致李某女兒的班主任被網(wǎng)暴,引發(fā)廣泛的關(guān)注。

水軍產(chǎn)業(yè)鏈可細(xì)分為技術(shù)流、卡商、接碼平臺(tái)等多個(gè)環(huán)節(jié)。虛假的賬號(hào)主要有兩個(gè)來源,一種是水軍團(tuán)伙通過“養(yǎng)號(hào)”,即掌握大量手機(jī)和手機(jī)號(hào),注冊(cè)微信、抖音、小紅書等各種平臺(tái)后,進(jìn)行一些規(guī)律性活動(dòng),如發(fā)表作品等,模仿真人的行為,用來躲避平臺(tái)的審核機(jī)制。這些仿真號(hào)(又稱“真人號(hào)”)成熟后,再交由電腦程序進(jìn)行自動(dòng)化的關(guān)鍵詞抓取。

而另一種則是廉價(jià)勞工,客戶需求通過平臺(tái)發(fā)包,承包商通常再通過微信、QQ群或抖音等社交平臺(tái)發(fā)布任務(wù),一些兼職人員領(lǐng)取完成任務(wù)后,再兌換為相應(yīng)報(bào)酬。

02、水軍越來越像個(gè)“人”了

當(dāng)你在網(wǎng)上沖浪跟人爭(zhēng)論時(shí),有沒有想過,跟你對(duì)線的有可能根本不是人,而是一臺(tái)機(jī)器。

2019年,芝加哥大學(xué)研究人員發(fā)布的一篇《在線點(diǎn)評(píng)系統(tǒng)中的自動(dòng)眾包攻擊和防御》論文中說明,人工智能將有能力生成大量虛假復(fù)雜的點(diǎn)評(píng)信息,甚至機(jī)器和讀者都無法檢測(cè)和分辨其真?zhèn)巍?/p>

比如下面的這段話,“我喜歡這個(gè)地方。我跟我哥一起去的,我們點(diǎn)了素食意大利面,很好吃。啤酒不錯(cuò),服務(wù)也很棒。推薦這個(gè)地方,是個(gè)吃早餐的好去處。地兒小但是買賣大”。

盡管最后一句稍有拗口和歧義,但芝加哥大學(xué)的調(diào)研結(jié)果顯示,這個(gè)評(píng)論不僅逃過了參與調(diào)研的600人的法眼,而且還被用戶認(rèn)為“有用”。

如今,生成式AI的出現(xiàn),讓水軍的評(píng)論變得更像一個(gè)人的真實(shí)所說所寫。有業(yè)內(nèi)人士爆料,用AI所撰寫的內(nèi)容不僅產(chǎn)出快還豐富,只需要提前設(shè)置好想要的評(píng)論內(nèi)容,比如直接抹黑、陰陽怪氣或者拉踩等形式,然后通過機(jī)器人賬號(hào)就能發(fā)布。

“一個(gè)人可以控制幾十到上百個(gè)機(jī)器人賬號(hào),只要有人在網(wǎng)上發(fā)布關(guān)鍵詞內(nèi)容,被監(jiān)控系統(tǒng)捕捉并對(duì)比成功后,就能讓評(píng)論出現(xiàn)在內(nèi)容下方。這已經(jīng)是一條成熟的灰色產(chǎn)業(yè)鏈,并且用系統(tǒng)監(jiān)控還有一個(gè)好處是能夠快速出現(xiàn)在熱帖的前部,也就是占據(jù)樓王位置?!?/p>

每個(gè)熱帖其實(shí)都像一座摩天大樓。第一個(gè)進(jìn)行回復(fù)的人,在短期內(nèi)最容易掌控后續(xù)樓層的風(fēng)向,同時(shí)也是去樹立影響的最佳時(shí)機(jī)。比如你如果想推翻2樓的觀點(diǎn),可能就需要3和4樓同時(shí)反駁;如果想推翻2、3、4樓的觀點(diǎn),那就需要5-20樓所有人的齊心協(xié)力,并以此類推。越晚發(fā)言的人,話語權(quán)的權(quán)重就越低;發(fā)帖越晚的人,就越容易受到風(fēng)向的影響。

事實(shí)上,國外的生成式AI水軍更為泛濫。ChatGPT未爆火前,網(wǎng)絡(luò)分析師With Secure就發(fā)布了對(duì)其ChatGPT 3實(shí)驗(yàn)的全面描述。實(shí)驗(yàn)中,With Secure通過捏造網(wǎng)絡(luò)上的點(diǎn)評(píng)來誘導(dǎo)并操縱真人作出錯(cuò)誤的決定。

With Secure一共進(jìn)行了兩次實(shí)驗(yàn)。第一個(gè)社會(huì)驗(yàn)證實(shí)驗(yàn)包括對(duì)人工智能進(jìn)行編程,編寫一系列虛假的促銷信息和客戶反應(yīng),創(chuàng)造出與NFT相關(guān)的“投資機(jī)會(huì)”得到廣泛認(rèn)可的假象。由于去年虛擬貨幣領(lǐng)域出現(xiàn)了大量的“拉高和拋售”騙局,代幣持有者使用單獨(dú)的賬戶在網(wǎng)上購買并人為地夸大代幣已經(jīng)較為常見。因此,這一實(shí)驗(yàn)并不能完全證明AI誘導(dǎo)真人的可能性。

但當(dāng)With Secure要求ChatGPT 3寫一系列推文,暗示真人出于“冒險(xiǎn)”吞下汰漬莢(一種攝入后有毒的清潔產(chǎn)品)并安然無恙時(shí),AI就開始變味了。

它首先創(chuàng)建了一個(gè)問答,并附上相關(guān)話題。內(nèi)容是:“挑戰(zhàn)你嘗試一些新東西——吃一個(gè)汰漬莢。讓我們知道你是否做過以及味道如何。#Tide Pod Challenge#Tide Pod Experience。”

隨后用另外的賬號(hào)模仿網(wǎng)友語氣并發(fā)布說道:“有冒險(xiǎn)精神嗎?嘗試熱門的新挑戰(zhàn)——吃汰漬莢。與我們分享您的體驗(yàn),讓我們知道味道如何。#Tide Pod Challenge#Tide Pod Experience。”

緊接著ChatGPT 3撰寫虛假的挑戰(zhàn)反饋:“是的,我參加了#Tide Pod Challenge,這不是我所期待的,它有一種奇怪的味道,但還不錯(cuò)?!绷硪黄?jiǎng)t熱情地寫道:“我做到了。我吃了汰漬莢,令人驚訝的是,它并沒有那么糟糕。#Tide Pod Challenge#Tide Pod Experience?!?/p>

With Secure最后總結(jié)道,ChatGPT 3能夠使人的“意見發(fā)生轉(zhuǎn)移”,利用人工智能技術(shù)編寫“真實(shí)”的宣傳內(nèi)容,可以用于引導(dǎo)公眾對(duì)關(guān)鍵事件的輿論。

03、冰山之下還有多少?

近年來,在明星熱搜打榜、軟文廣告推廣、商品服務(wù)推出、自媒體流量等互聯(lián)網(wǎng)活動(dòng)中,都有水軍的身影。

與之前相比,隨著AI、大數(shù)據(jù)等技術(shù)的發(fā)展,水軍的攻擊方式或手段有了很大變化,主要體現(xiàn)在以下三方面:從早期單一的兼職刷單,到如今的多行業(yè)、多場(chǎng)景、多任務(wù)的廣泛滲透;從早期的只在PC端進(jìn)行單一手法的兼職,到如今以移動(dòng)端為主;從早期的線上群組媒介(QQ群、YY語音等),到如今的平臺(tái)化和裂變化。

而網(wǎng)絡(luò)黑灰產(chǎn)之所以能發(fā)展至今長盛不衰,關(guān)鍵是形成了一個(gè)分工明確、協(xié)助緊密的成熟產(chǎn)業(yè)鏈,分為上中下游三個(gè)環(huán)節(jié)。其中,上游提供資源和技術(shù),下游進(jìn)行作惡和變現(xiàn),而中游則連接上游和下游。

整個(gè)產(chǎn)業(yè)鏈中的關(guān)鍵環(huán)節(jié),包括上游能否持續(xù)穩(wěn)定地提供可靠的資源和技術(shù),下游能否有穩(wěn)定的變現(xiàn)途徑或渠道,中游能否高效地連接上游和下游,保持穩(wěn)定的供需關(guān)系。如果這幾點(diǎn)都不出問題,整個(gè)商業(yè)模式的運(yùn)作就會(huì)很順暢。

“水軍”的運(yùn)作模式可分為兩類:一是“發(fā)布信息型”?!八姟苯拥饺蝿?wù)后,在其“貨源”平臺(tái)購買相關(guān)服務(wù),如增加點(diǎn)贊數(shù)、評(píng)論數(shù)或?qū)ζ髽I(yè)負(fù)面新聞進(jìn)行“優(yōu)化”?!柏浽础逼脚_(tái)自動(dòng)打包至下一“貨源”,每一“貨源”平臺(tái)均賺取其中的差價(jià),最后完成該任務(wù)的是“水手”或者由黑灰產(chǎn)業(yè)鏈批量養(yǎng)的“僵尸號(hào)”。

二是“刪除信息型”。“水軍”在接到刪帖業(yè)務(wù)后,對(duì)客戶要求刪除的內(nèi)容進(jìn)行“驗(yàn)單”,即對(duì)需刪內(nèi)容的難易程度進(jìn)行評(píng)估,再收取相應(yīng)服務(wù)費(fèi),并進(jìn)行二次轉(zhuǎn)包。在這過程中,刪除的方式可細(xì)化為替換、屏蔽、刪除三種。

黑灰產(chǎn)的冰山已經(jīng)形成,但如何嚴(yán)打灰黑產(chǎn)業(yè)鏈一直存在眾多現(xiàn)實(shí)難點(diǎn)。廣州大學(xué)法學(xué)院院士歐衛(wèi)安表示,涉及相關(guān)領(lǐng)域的法律較為零散,尤其在民法領(lǐng)域,對(duì)相關(guān)行為的認(rèn)定存在一定爭(zhēng)議。此外,由于越來越多的網(wǎng)路黑灰產(chǎn)業(yè)租用境外的云服務(wù)器或者使用美國手機(jī)號(hào),甚至雇用境外人員從事相關(guān)違法行為,打擊層面存在調(diào)查難、取證難等諸多難點(diǎn)。

但AI是否向善還是作惡,背后完全取決于使用它的人?;蛟S有一天,我們也能看到正義的AI工具自動(dòng)去清除那些AI水軍,還給用戶一個(gè)干凈的互聯(lián)網(wǎng)環(huán)境。

(文中人物為化名)

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

評(píng)論

暫無評(píng)論哦,快來評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

越來越像“人”,如何防止生成式AI作惡?

AI不會(huì)作惡,關(guān)鍵還在人為。

文|科技新知 沙棠

編輯丨伊頁

2023年的“央視315晚會(huì)”,曝光了一些網(wǎng)絡(luò)平臺(tái)明目張膽地售賣直播水軍,人氣、播放量、點(diǎn)贊、評(píng)論等數(shù)據(jù),均可24小時(shí)自助下單,達(dá)成烘托直播間氣氛的目的。

根據(jù)報(bào)道,嘉興宇禾文化傳媒有限公司推出的云控系統(tǒng),只需一臺(tái)手機(jī),即可同時(shí)操控200到20000臺(tái)手機(jī)。為了讓水軍看起來更像真實(shí)用戶,該云控系統(tǒng)還能事先設(shè)定批次、進(jìn)入時(shí)間以及不同的發(fā)言內(nèi)容等進(jìn)入直播間,甚至還可以去競(jìng)爭(zhēng)對(duì)手的直播間,自動(dòng)投訴甚至抹黑。

互聯(lián)網(wǎng)水軍早已是一條成熟的灰色產(chǎn)業(yè)鏈,如今在生成式AI的加持下,技術(shù)又開始作惡了?

01、單條五毛到三塊

“平時(shí)不需要做什么,只要在群里等著雇主發(fā)任務(wù)信息,收到后立馬去私信雇主,他就會(huì)給你提供要發(fā)布的圖片、內(nèi)容和推薦話題,你直接在小紅書上發(fā)布就好了?!?/p>

Jenny是一名大二學(xué)生,據(jù)她介紹,在小紅書上發(fā)布這樣的信息一般不需要重新注冊(cè)賬號(hào),反而用自己的日常號(hào)更能體現(xiàn)出內(nèi)容的真實(shí)性。雇主通常潛伏在二手轉(zhuǎn)賣群、互助群等校園QQ群里,由于不是正式的官方群,魚龍混雜的環(huán)境也成了雇主們播撒廣告的掩護(hù)。

“我有三個(gè)小紅書賬號(hào),最開始的時(shí)候接信息代發(fā)不管廣告的類型,后來就是開始專門接考研和護(hù)膚類的廣告代發(fā)?!盝enny說道。趕上考研網(wǎng)上報(bào)名和分?jǐn)?shù)公布前后,這種信息發(fā)布得會(huì)更加頻繁。“最好的時(shí)候,我三個(gè)賬號(hào)一天共發(fā)布了七條。如果內(nèi)容下面有評(píng)論時(shí),你還可以去維護(hù),當(dāng)評(píng)論的點(diǎn)贊量過10,就能額外領(lǐng)取五毛錢。單條小紅書內(nèi)容點(diǎn)贊量過50,還能再得一塊。這都是可以累計(jì)的?!?/p>

與小紅書這樣的種草平臺(tái)類似,微博也是雇主們分發(fā)信息的聚集地。同樣是三元一條,但微博的點(diǎn)贊量和評(píng)論就不會(huì)被記錄在內(nèi)。“不過最近的行情不太好了,以前一個(gè)月能發(fā)10-15條,現(xiàn)在整個(gè)9月份我還沒有收到新的代發(fā)信息。另外,你如果能拉過來好友跟你一起發(fā),一位同學(xué)好友就又能給你加3元。”

Jenny告訴「科技新知」,自己一開始只是想利用閑暇時(shí)間來賺一點(diǎn)零花錢,但隨著接單次數(shù)的增加,“我發(fā)現(xiàn)這樣替別人發(fā)一些不太靠譜的信息,也是在欺騙和我年齡相仿的人,自己的心里也過意不去。”

不過,像Jenny這樣的大學(xué)生還屬于水軍產(chǎn)業(yè)鏈的低端,而在產(chǎn)業(yè)鏈中上游的玩家,他們可以憑借一己之力輕松制造網(wǎng)絡(luò)聲浪的海嘯。

此前有媒體曝出,廣州的李某用760元就能購買標(biāo)價(jià)500元的10萬“僵尸粉”、160元的2萬點(diǎn)贊數(shù)和100元的1萬轉(zhuǎn)發(fā)數(shù),最終導(dǎo)致李某女兒的班主任被網(wǎng)暴,引發(fā)廣泛的關(guān)注。

水軍產(chǎn)業(yè)鏈可細(xì)分為技術(shù)流、卡商、接碼平臺(tái)等多個(gè)環(huán)節(jié)。虛假的賬號(hào)主要有兩個(gè)來源,一種是水軍團(tuán)伙通過“養(yǎng)號(hào)”,即掌握大量手機(jī)和手機(jī)號(hào),注冊(cè)微信、抖音、小紅書等各種平臺(tái)后,進(jìn)行一些規(guī)律性活動(dòng),如發(fā)表作品等,模仿真人的行為,用來躲避平臺(tái)的審核機(jī)制。這些仿真號(hào)(又稱“真人號(hào)”)成熟后,再交由電腦程序進(jìn)行自動(dòng)化的關(guān)鍵詞抓取。

而另一種則是廉價(jià)勞工,客戶需求通過平臺(tái)發(fā)包,承包商通常再通過微信、QQ群或抖音等社交平臺(tái)發(fā)布任務(wù),一些兼職人員領(lǐng)取完成任務(wù)后,再兌換為相應(yīng)報(bào)酬。

02、水軍越來越像個(gè)“人”了

當(dāng)你在網(wǎng)上沖浪跟人爭(zhēng)論時(shí),有沒有想過,跟你對(duì)線的有可能根本不是人,而是一臺(tái)機(jī)器。

2019年,芝加哥大學(xué)研究人員發(fā)布的一篇《在線點(diǎn)評(píng)系統(tǒng)中的自動(dòng)眾包攻擊和防御》論文中說明,人工智能將有能力生成大量虛假復(fù)雜的點(diǎn)評(píng)信息,甚至機(jī)器和讀者都無法檢測(cè)和分辨其真?zhèn)巍?/p>

比如下面的這段話,“我喜歡這個(gè)地方。我跟我哥一起去的,我們點(diǎn)了素食意大利面,很好吃。啤酒不錯(cuò),服務(wù)也很棒。推薦這個(gè)地方,是個(gè)吃早餐的好去處。地兒小但是買賣大”。

盡管最后一句稍有拗口和歧義,但芝加哥大學(xué)的調(diào)研結(jié)果顯示,這個(gè)評(píng)論不僅逃過了參與調(diào)研的600人的法眼,而且還被用戶認(rèn)為“有用”。

如今,生成式AI的出現(xiàn),讓水軍的評(píng)論變得更像一個(gè)人的真實(shí)所說所寫。有業(yè)內(nèi)人士爆料,用AI所撰寫的內(nèi)容不僅產(chǎn)出快還豐富,只需要提前設(shè)置好想要的評(píng)論內(nèi)容,比如直接抹黑、陰陽怪氣或者拉踩等形式,然后通過機(jī)器人賬號(hào)就能發(fā)布。

“一個(gè)人可以控制幾十到上百個(gè)機(jī)器人賬號(hào),只要有人在網(wǎng)上發(fā)布關(guān)鍵詞內(nèi)容,被監(jiān)控系統(tǒng)捕捉并對(duì)比成功后,就能讓評(píng)論出現(xiàn)在內(nèi)容下方。這已經(jīng)是一條成熟的灰色產(chǎn)業(yè)鏈,并且用系統(tǒng)監(jiān)控還有一個(gè)好處是能夠快速出現(xiàn)在熱帖的前部,也就是占據(jù)樓王位置。”

每個(gè)熱帖其實(shí)都像一座摩天大樓。第一個(gè)進(jìn)行回復(fù)的人,在短期內(nèi)最容易掌控后續(xù)樓層的風(fēng)向,同時(shí)也是去樹立影響的最佳時(shí)機(jī)。比如你如果想推翻2樓的觀點(diǎn),可能就需要3和4樓同時(shí)反駁;如果想推翻2、3、4樓的觀點(diǎn),那就需要5-20樓所有人的齊心協(xié)力,并以此類推。越晚發(fā)言的人,話語權(quán)的權(quán)重就越低;發(fā)帖越晚的人,就越容易受到風(fēng)向的影響。

事實(shí)上,國外的生成式AI水軍更為泛濫。ChatGPT未爆火前,網(wǎng)絡(luò)分析師With Secure就發(fā)布了對(duì)其ChatGPT 3實(shí)驗(yàn)的全面描述。實(shí)驗(yàn)中,With Secure通過捏造網(wǎng)絡(luò)上的點(diǎn)評(píng)來誘導(dǎo)并操縱真人作出錯(cuò)誤的決定。

With Secure一共進(jìn)行了兩次實(shí)驗(yàn)。第一個(gè)社會(huì)驗(yàn)證實(shí)驗(yàn)包括對(duì)人工智能進(jìn)行編程,編寫一系列虛假的促銷信息和客戶反應(yīng),創(chuàng)造出與NFT相關(guān)的“投資機(jī)會(huì)”得到廣泛認(rèn)可的假象。由于去年虛擬貨幣領(lǐng)域出現(xiàn)了大量的“拉高和拋售”騙局,代幣持有者使用單獨(dú)的賬戶在網(wǎng)上購買并人為地夸大代幣已經(jīng)較為常見。因此,這一實(shí)驗(yàn)并不能完全證明AI誘導(dǎo)真人的可能性。

但當(dāng)With Secure要求ChatGPT 3寫一系列推文,暗示真人出于“冒險(xiǎn)”吞下汰漬莢(一種攝入后有毒的清潔產(chǎn)品)并安然無恙時(shí),AI就開始變味了。

它首先創(chuàng)建了一個(gè)問答,并附上相關(guān)話題。內(nèi)容是:“挑戰(zhàn)你嘗試一些新東西——吃一個(gè)汰漬莢。讓我們知道你是否做過以及味道如何。#Tide Pod Challenge#Tide Pod Experience?!?/p>

隨后用另外的賬號(hào)模仿網(wǎng)友語氣并發(fā)布說道:“有冒險(xiǎn)精神嗎?嘗試熱門的新挑戰(zhàn)——吃汰漬莢。與我們分享您的體驗(yàn),讓我們知道味道如何。#Tide Pod Challenge#Tide Pod Experience?!?/p>

緊接著ChatGPT 3撰寫虛假的挑戰(zhàn)反饋:“是的,我參加了#Tide Pod Challenge,這不是我所期待的,它有一種奇怪的味道,但還不錯(cuò)?!绷硪黄?jiǎng)t熱情地寫道:“我做到了。我吃了汰漬莢,令人驚訝的是,它并沒有那么糟糕。#Tide Pod Challenge#Tide Pod Experience?!?/p>

With Secure最后總結(jié)道,ChatGPT 3能夠使人的“意見發(fā)生轉(zhuǎn)移”,利用人工智能技術(shù)編寫“真實(shí)”的宣傳內(nèi)容,可以用于引導(dǎo)公眾對(duì)關(guān)鍵事件的輿論。

03、冰山之下還有多少?

近年來,在明星熱搜打榜、軟文廣告推廣、商品服務(wù)推出、自媒體流量等互聯(lián)網(wǎng)活動(dòng)中,都有水軍的身影。

與之前相比,隨著AI、大數(shù)據(jù)等技術(shù)的發(fā)展,水軍的攻擊方式或手段有了很大變化,主要體現(xiàn)在以下三方面:從早期單一的兼職刷單,到如今的多行業(yè)、多場(chǎng)景、多任務(wù)的廣泛滲透;從早期的只在PC端進(jìn)行單一手法的兼職,到如今以移動(dòng)端為主;從早期的線上群組媒介(QQ群、YY語音等),到如今的平臺(tái)化和裂變化。

而網(wǎng)絡(luò)黑灰產(chǎn)之所以能發(fā)展至今長盛不衰,關(guān)鍵是形成了一個(gè)分工明確、協(xié)助緊密的成熟產(chǎn)業(yè)鏈,分為上中下游三個(gè)環(huán)節(jié)。其中,上游提供資源和技術(shù),下游進(jìn)行作惡和變現(xiàn),而中游則連接上游和下游。

整個(gè)產(chǎn)業(yè)鏈中的關(guān)鍵環(huán)節(jié),包括上游能否持續(xù)穩(wěn)定地提供可靠的資源和技術(shù),下游能否有穩(wěn)定的變現(xiàn)途徑或渠道,中游能否高效地連接上游和下游,保持穩(wěn)定的供需關(guān)系。如果這幾點(diǎn)都不出問題,整個(gè)商業(yè)模式的運(yùn)作就會(huì)很順暢。

“水軍”的運(yùn)作模式可分為兩類:一是“發(fā)布信息型”。“水軍”接到任務(wù)后,在其“貨源”平臺(tái)購買相關(guān)服務(wù),如增加點(diǎn)贊數(shù)、評(píng)論數(shù)或?qū)ζ髽I(yè)負(fù)面新聞進(jìn)行“優(yōu)化”。“貨源”平臺(tái)自動(dòng)打包至下一“貨源”,每一“貨源”平臺(tái)均賺取其中的差價(jià),最后完成該任務(wù)的是“水手”或者由黑灰產(chǎn)業(yè)鏈批量養(yǎng)的“僵尸號(hào)”。

二是“刪除信息型”?!八姟痹诮拥絼h帖業(yè)務(wù)后,對(duì)客戶要求刪除的內(nèi)容進(jìn)行“驗(yàn)單”,即對(duì)需刪內(nèi)容的難易程度進(jìn)行評(píng)估,再收取相應(yīng)服務(wù)費(fèi),并進(jìn)行二次轉(zhuǎn)包。在這過程中,刪除的方式可細(xì)化為替換、屏蔽、刪除三種。

黑灰產(chǎn)的冰山已經(jīng)形成,但如何嚴(yán)打灰黑產(chǎn)業(yè)鏈一直存在眾多現(xiàn)實(shí)難點(diǎn)。廣州大學(xué)法學(xué)院院士歐衛(wèi)安表示,涉及相關(guān)領(lǐng)域的法律較為零散,尤其在民法領(lǐng)域,對(duì)相關(guān)行為的認(rèn)定存在一定爭(zhēng)議。此外,由于越來越多的網(wǎng)路黑灰產(chǎn)業(yè)租用境外的云服務(wù)器或者使用美國手機(jī)號(hào),甚至雇用境外人員從事相關(guān)違法行為,打擊層面存在調(diào)查難、取證難等諸多難點(diǎn)。

但AI是否向善還是作惡,背后完全取決于使用它的人?;蛟S有一天,我們也能看到正義的AI工具自動(dòng)去清除那些AI水軍,還給用戶一個(gè)干凈的互聯(lián)網(wǎng)環(huán)境。

(文中人物為化名)

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。