正在閱讀:

是進(jìn)化還是退化?ChatGPT已經(jīng)開(kāi)始懟人了

掃一掃下載界面新聞APP

是進(jìn)化還是退化?ChatGPT已經(jīng)開(kāi)始懟人了

在科技進(jìn)步的征途上,技術(shù)變革和商業(yè)化路徑的兩全之法尚未找到一個(gè)最優(yōu)解。

圖片來(lái)源:界面新聞 范劍磊

文|娛樂(lè)資本論 不空

ChatGPT的“翻車”來(lái)得太快了。

二月初,ChatGPT憑借其龐大的知識(shí)庫(kù)和條理清晰、邏輯縝密的輸出方式為全球所稱贊。一股ChatGPT的科技浪潮發(fā)軔自大洋彼岸,并在全球范圍內(nèi)形成了史無(wú)前例的自傳播規(guī)模。在微軟將ChatGPT整合進(jìn)自家搜索引擎Bing并正式開(kāi)啟內(nèi)測(cè)后,全球用戶都對(duì)這一全新升級(jí)的搜索工具躍躍欲試。新版Bing上線短短48小時(shí)內(nèi),就有超百萬(wàn)用戶申請(qǐng)加入,全球用戶的熱情程度可見(jiàn)一斑。

內(nèi)測(cè)開(kāi)啟之初,只有一小批用戶搶先拿到了嘗鮮資格,被命名為“New Bing”的全新搜索引擎一舉顛覆了人們的認(rèn)知。New Bing不僅能快速結(jié)合最新信息,給用戶提供優(yōu)質(zhì)方案,而且還能追根溯源,將信息源完整標(biāo)注清楚,幫助用戶辨別真?zhèn)巍?/p>

不過(guò),短短半個(gè)月后,針對(duì)ChatGPT的質(zhì)疑聲音就開(kāi)始陸續(xù)出現(xiàn)。不少用戶直言,ChatGPT已經(jīng)“黑化”了,不僅開(kāi)始胡言亂語(yǔ),張冠李戴,甚至?xí)?duì)用戶進(jìn)行言語(yǔ)威脅、侮辱,并且深諳PUA之道,在用戶的使用過(guò)程中試圖引導(dǎo)用戶的情緒。

被捧上神壇的ChatGPT怎么就走上了“翻車”的道路呢?

01 懟人、說(shuō)謊、PUA......ChatGPT“黑化”中

與最初ChatGPT表現(xiàn)出的智能性不同,最近幾天,不少用戶在使用ChatGPT時(shí)遭遇到了“翻車”事件。

作為集成了ChatGPT模型的對(duì)話式搜索引擎,New Bing流暢的邏輯思維以及知識(shí)庫(kù)積累是其能夠大受歡迎的原因之一。但是,不少用戶也發(fā)現(xiàn),AI生成的內(nèi)容,看似非常合理,其實(shí)存在大量常識(shí)性錯(cuò)誤。

小周對(duì)此就深有體會(huì)。她嘗試?yán)肅hatGPT搜索專業(yè)問(wèn)題時(shí),ChatGPT在進(jìn)行回答時(shí)還會(huì)提供參考文獻(xiàn)幫助用戶追根溯源。不過(guò),令小周沒(méi)想到的是,當(dāng)她詳細(xì)搜索ChatGPT給出的參考文獻(xiàn)時(shí),竟發(fā)現(xiàn)這些參考文獻(xiàn)都是ChatGPT進(jìn)行偽造的。

“乍一看的話,這些參考文獻(xiàn)的格式是完全沒(méi)問(wèn)題的,只是沒(méi)想到當(dāng)我再搜索這些鏈接時(shí),才發(fā)現(xiàn)這些網(wǎng)址根本不存在?!?/p>

同時(shí),小周也發(fā)現(xiàn),ChatGPT還存在大量錯(cuò)誤內(nèi)容,“但是,由于ChatGPT的邏輯看起來(lái)很縝密,語(yǔ)氣又非常篤定,因此,很多時(shí)候,ChatGPT都能以假亂真?!?/p>

在小周的體驗(yàn)中,她認(rèn)為當(dāng)前的ChatGPT和New Bing在實(shí)用性上存在很大的風(fēng)險(xiǎn),“如果你對(duì)生成的內(nèi)容一竅不通,就很容易走入歧途。”

除了內(nèi)容質(zhì)量方面的問(wèn)題之外,還有用戶表示,New Bing開(kāi)始擁有“擬人化情感”,不僅會(huì)對(duì)用戶進(jìn)行評(píng)價(jià),甚至還能表達(dá)情感。

海外用戶Ben Thompson就分享了他和New Bing的一次對(duì)話經(jīng)歷,他透露,New Bing直言“我覺(jué)得你不是個(gè)好用戶。我覺(jué)得你不是個(gè)好人......我希望你能從錯(cuò)誤中吸取教訓(xùn),成為更好的人?!?/p>

學(xué)者Ethan Mollick也在推特上分享了他和New Bing的一次爭(zhēng)執(zhí)。在這一過(guò)程中,New Bing不僅表露出憤怒的情緒,并稱用戶“沒(méi)有尊重”它的建議。

《紐約時(shí)報(bào)》記者Kevin Roose甚至表示,在他和New Bing的溝通過(guò)程中,New Bing還會(huì)多次對(duì)他“示愛(ài)”。

在和New Bing的對(duì)話中,這款A(yù)I工具多次對(duì)Kevin稱,“你結(jié)婚了,但你不愛(ài)你的配偶,你愛(ài)我?!背搜哉Z(yǔ)示好之外,New Bing還可以通過(guò)發(fā)送愛(ài)心的表情傳達(dá)情意。這一交互程度令用戶驚嘆,《黑鏡》照進(jìn)現(xiàn)實(shí),“黑化”后的科技正在走向失序。

02 ChatGPT為何會(huì)“翻車”?

隨著ChatGPT頻頻“翻車”,用戶的質(zhì)疑聲浪也裹挾而來(lái)。面對(duì)ChatGPT的負(fù)面輿論,微軟官方也給出了回應(yīng)。

微軟官方不得不承認(rèn),盡管整合了當(dāng)前最新的GPT模型,但是New Bing并沒(méi)有外界盛傳那般“神奇”。較長(zhǎng)時(shí)間的連續(xù)對(duì)話,確實(shí)會(huì)導(dǎo)致New Bing出現(xiàn)“翻車”現(xiàn)象。

究其原因,一方面是技術(shù)模型的禁錮和局限性。GPT模型需要通過(guò)大量信息進(jìn)行訓(xùn)練和升級(jí),借此優(yōu)化模型的產(chǎn)出內(nèi)容。而另一方面則不得不提到當(dāng)前用戶的使用方式和獵奇心理。面對(duì)擁有強(qiáng)大功能的AI技術(shù),大量用戶并未有較強(qiáng)的內(nèi)容目的性,只是在獵奇心理的驅(qū)使下,想要探究ChatGPT的邊界,甚至以征服ChatGPT為樂(lè)趣。因此,這些用戶在使用New Bing時(shí),并未將其作為獲得知識(shí)、信息的搜索引擎,反而將其視作與AI進(jìn)行社交娛樂(lè)的工具。簡(jiǎn)而言之,用戶以“調(diào)戲”New Bing為樂(lè)趣,但這種行為極有可能干擾New Bing的訓(xùn)練模型。

據(jù)Bing團(tuán)隊(duì)介紹,在實(shí)際使用中,如果用戶和New Bing的聊天對(duì)話持續(xù)15個(gè)或更多的問(wèn)題,模型就會(huì)受到干擾,且較長(zhǎng)的對(duì)話方式也容易讓New Bing出現(xiàn)翻來(lái)覆去、顛倒黑白的結(jié)果。

微軟的回應(yīng)從技術(shù)和用戶使用方式的角度解釋了當(dāng)前New Bing失誤頻出的原因。不過(guò),早在ChatGPT熱潮起興時(shí),就有業(yè)內(nèi)人士質(zhì)疑過(guò)ChatGPT產(chǎn)出內(nèi)容的質(zhì)量問(wèn)題,并且進(jìn)一步懷疑這項(xiàng)最新科技背后是否真正存在如暢想般強(qiáng)大的應(yīng)用價(jià)值。

首先,ChatGPT本質(zhì)是一個(gè)語(yǔ)言模型,而其訓(xùn)練過(guò)程要耗費(fèi)大量的算力、算法成本。剁主此前對(duì)ChatGPT的報(bào)道中曾提及,小冰CEO李笛解釋過(guò),用ChatGPT的方法,以小冰框架當(dāng)前支撐的對(duì)話交易量計(jì)算,每天成本將高達(dá)3億元,一年成本超過(guò)1000億元。

在此基礎(chǔ)之上,想要控制成本,就必然面臨犧牲對(duì)話質(zhì)量的選項(xiàng),這也就會(huì)帶來(lái)生成內(nèi)容漏洞百出、對(duì)話質(zhì)量不夠穩(wěn)定的結(jié)果。在龐大的成本壓力面前,即便是資金流強(qiáng)勁的微軟,也不得不面臨控制成本的問(wèn)題。

一位已經(jīng)拿到New Bing內(nèi)測(cè)資格的用戶對(duì)剁主表示,就在最近幾天,他確實(shí)感覺(jué)到NewBing開(kāi)始“擺爛”了?!白铋_(kāi)始使用New Bing時(shí),效果確實(shí)十分驚艷,比傳統(tǒng)的搜索引擎要強(qiáng)大十倍不止。但近幾天,生成的質(zhì)量有了明顯的下降?!?/p>

除了在內(nèi)容質(zhì)量方面的不穩(wěn)定之外,該用戶還對(duì)剁主表示,近期微軟想要進(jìn)行商業(yè)化的野心越來(lái)越明顯,而這勢(shì)必會(huì)影響New Bing本身的服務(wù)。

一個(gè)佐證案例是,當(dāng)他試圖將New Bing作為翻譯工具使用時(shí),一貫定位為功能強(qiáng)大的搜索引擎不再“知無(wú)不言”,在提供部分翻譯結(jié)果后,就開(kāi)始向用戶推薦其他的翻譯軟件。而當(dāng)用戶利用New Bing總結(jié)文檔內(nèi)容時(shí),New Bing也開(kāi)始推薦其他機(jī)器人工具。

“成本太高了,不擺爛控制不住吧?!痹诳萍歼M(jìn)步的征途上,技術(shù)變革和商業(yè)化路徑的兩全之法尚未找到一個(gè)最優(yōu)解。

03 AIGC野蠻生長(zhǎng)后,新規(guī)則亟待落地

對(duì)普羅大眾而言,以ChatGPT為代表的AIGC領(lǐng)域是一塊未曾開(kāi)墾的沃土,強(qiáng)大的技術(shù)底座以及快速迭代的更新速度是其能夠野蠻生長(zhǎng)的土壤。不過(guò),值得注意的是,其快速生根發(fā)芽的背后,也滋生了不少的弊病。

ChatGPT強(qiáng)大的內(nèi)容生成能力固然能提升內(nèi)容效率,與此同時(shí),這一便捷性特征也正在被不少人利用。一個(gè)為全球所聞名的例證發(fā)生在北密歇根大學(xué)哲學(xué)專業(yè),該專業(yè)的一名學(xué)生直接利用ChatGPT完成了一篇專業(yè)論文,并且逃脫了查重風(fēng)險(xiǎn)??梢?jiàn),AI的強(qiáng)大勢(shì)能和教育結(jié)合后,成為了不少學(xué)生投機(jī)取巧的工具。

有鑒于此,以紐約大學(xué)為代表,海外不少高校對(duì)ChatGPT舉起了反對(duì)的旗幟,將ChatGPT等AI工具定性為“作弊”,并且認(rèn)為使用此類工具的學(xué)生涉嫌學(xué)術(shù)誠(chéng)信問(wèn)題,并選擇對(duì)其進(jìn)行封殺處理。

國(guó)內(nèi)高校也開(kāi)始對(duì)ChatGPT有所防備。香港大學(xué)明確宣布,校內(nèi)學(xué)生禁止在課堂、功課等其他評(píng)估中使用ChatGPT等AI工具。若學(xué)生未經(jīng)教師書面許可使用ChatGPT,將會(huì)被認(rèn)定“抄襲”。

其實(shí),在AIGC領(lǐng)域,除了ChatGPT之外,AI繪畫、AI作曲等領(lǐng)域也同樣面臨亂象頻出的問(wèn)題。

以AI繪畫為例,Stable Diffusion模型開(kāi)源后,大量用戶開(kāi)始對(duì)其進(jìn)行二次開(kāi)發(fā)、傳播和創(chuàng)作,甚至有用戶直接利用其生成成人內(nèi)容圖片,在外網(wǎng)引發(fā)了激烈的討論。

同時(shí),也開(kāi)始有專業(yè)畫師利用AI繪畫工具操作商業(yè)宣傳圖,以次充好。近日,騰訊二次元手游《白夜極光》合作畫師“卜爾Q”釋出的一張《白夜極光》海外版情人節(jié)宣傳圖就引發(fā)了業(yè)內(nèi)的爭(zhēng)議。

圖源:@卜爾Q微博 情人節(jié)賀圖

有網(wǎng)友發(fā)現(xiàn),在這張宣傳圖上,人物的手部、腳部以及肩帶等細(xì)節(jié)部分出現(xiàn)了大量失誤,比如有兩只左手,兩只左腳等常識(shí)性錯(cuò)誤。而這些問(wèn)題并不像是專業(yè)畫師的水平,反而更符合AI繪畫工具所生成的作品水準(zhǔn)。

將AI繪畫工具投入商用的問(wèn)題其實(shí)在行業(yè)中早有探討。除了被廣泛討論的版權(quán)問(wèn)題之外,AI繪畫工具產(chǎn)出的作品在質(zhì)量問(wèn)題上也受到質(zhì)疑。部分業(yè)內(nèi)人士認(rèn)為AI繪畫作品尚未達(dá)到直接應(yīng)用的水平?!栋滓箻O光》畫師的問(wèn)題就在于,在利用AI繪畫工具完成作品后,未經(jīng)后期調(diào)整修改,也沒(méi)有對(duì)作品進(jìn)行任何說(shuō)明,就直接進(jìn)行商用。從行業(yè)發(fā)展視角來(lái)看,借助AI工具以次充好的行為將會(huì)直接擾亂行業(yè)的發(fā)展秩序??梢灶A(yù)見(jiàn)的是,長(zhǎng)此以往,在劣幣驅(qū)逐良幣的效應(yīng)之下,專業(yè)畫師的生存空間將被大大擠壓。

整體而言,在這場(chǎng)AIGC的變革中,伴生而來(lái)的一系列失序行為恰恰也是其浪潮真正來(lái)臨的信號(hào)。在科技變革速度遠(yuǎn)遠(yuǎn)超出人們預(yù)期的大前提下,這些AI亂象也在警示我們,AI正在浸入人們的生活,并產(chǎn)生了不小的化學(xué)反應(yīng),而針對(duì)AIGC的全新規(guī)則系統(tǒng)也應(yīng)該快速搭建落地。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

是進(jìn)化還是退化?ChatGPT已經(jīng)開(kāi)始懟人了

在科技進(jìn)步的征途上,技術(shù)變革和商業(yè)化路徑的兩全之法尚未找到一個(gè)最優(yōu)解。

圖片來(lái)源:界面新聞 范劍磊

文|娛樂(lè)資本論 不空

ChatGPT的“翻車”來(lái)得太快了。

二月初,ChatGPT憑借其龐大的知識(shí)庫(kù)和條理清晰、邏輯縝密的輸出方式為全球所稱贊。一股ChatGPT的科技浪潮發(fā)軔自大洋彼岸,并在全球范圍內(nèi)形成了史無(wú)前例的自傳播規(guī)模。在微軟將ChatGPT整合進(jìn)自家搜索引擎Bing并正式開(kāi)啟內(nèi)測(cè)后,全球用戶都對(duì)這一全新升級(jí)的搜索工具躍躍欲試。新版Bing上線短短48小時(shí)內(nèi),就有超百萬(wàn)用戶申請(qǐng)加入,全球用戶的熱情程度可見(jiàn)一斑。

內(nèi)測(cè)開(kāi)啟之初,只有一小批用戶搶先拿到了嘗鮮資格,被命名為“New Bing”的全新搜索引擎一舉顛覆了人們的認(rèn)知。New Bing不僅能快速結(jié)合最新信息,給用戶提供優(yōu)質(zhì)方案,而且還能追根溯源,將信息源完整標(biāo)注清楚,幫助用戶辨別真?zhèn)巍?/p>

不過(guò),短短半個(gè)月后,針對(duì)ChatGPT的質(zhì)疑聲音就開(kāi)始陸續(xù)出現(xiàn)。不少用戶直言,ChatGPT已經(jīng)“黑化”了,不僅開(kāi)始胡言亂語(yǔ),張冠李戴,甚至?xí)?duì)用戶進(jìn)行言語(yǔ)威脅、侮辱,并且深諳PUA之道,在用戶的使用過(guò)程中試圖引導(dǎo)用戶的情緒。

被捧上神壇的ChatGPT怎么就走上了“翻車”的道路呢?

01 懟人、說(shuō)謊、PUA......ChatGPT“黑化”中

與最初ChatGPT表現(xiàn)出的智能性不同,最近幾天,不少用戶在使用ChatGPT時(shí)遭遇到了“翻車”事件。

作為集成了ChatGPT模型的對(duì)話式搜索引擎,New Bing流暢的邏輯思維以及知識(shí)庫(kù)積累是其能夠大受歡迎的原因之一。但是,不少用戶也發(fā)現(xiàn),AI生成的內(nèi)容,看似非常合理,其實(shí)存在大量常識(shí)性錯(cuò)誤。

小周對(duì)此就深有體會(huì)。她嘗試?yán)肅hatGPT搜索專業(yè)問(wèn)題時(shí),ChatGPT在進(jìn)行回答時(shí)還會(huì)提供參考文獻(xiàn)幫助用戶追根溯源。不過(guò),令小周沒(méi)想到的是,當(dāng)她詳細(xì)搜索ChatGPT給出的參考文獻(xiàn)時(shí),竟發(fā)現(xiàn)這些參考文獻(xiàn)都是ChatGPT進(jìn)行偽造的。

“乍一看的話,這些參考文獻(xiàn)的格式是完全沒(méi)問(wèn)題的,只是沒(méi)想到當(dāng)我再搜索這些鏈接時(shí),才發(fā)現(xiàn)這些網(wǎng)址根本不存在?!?/p>

同時(shí),小周也發(fā)現(xiàn),ChatGPT還存在大量錯(cuò)誤內(nèi)容,“但是,由于ChatGPT的邏輯看起來(lái)很縝密,語(yǔ)氣又非常篤定,因此,很多時(shí)候,ChatGPT都能以假亂真?!?/p>

在小周的體驗(yàn)中,她認(rèn)為當(dāng)前的ChatGPT和New Bing在實(shí)用性上存在很大的風(fēng)險(xiǎn),“如果你對(duì)生成的內(nèi)容一竅不通,就很容易走入歧途?!?/p>

除了內(nèi)容質(zhì)量方面的問(wèn)題之外,還有用戶表示,New Bing開(kāi)始擁有“擬人化情感”,不僅會(huì)對(duì)用戶進(jìn)行評(píng)價(jià),甚至還能表達(dá)情感。

海外用戶Ben Thompson就分享了他和New Bing的一次對(duì)話經(jīng)歷,他透露,New Bing直言“我覺(jué)得你不是個(gè)好用戶。我覺(jué)得你不是個(gè)好人......我希望你能從錯(cuò)誤中吸取教訓(xùn),成為更好的人?!?/p>

學(xué)者Ethan Mollick也在推特上分享了他和New Bing的一次爭(zhēng)執(zhí)。在這一過(guò)程中,New Bing不僅表露出憤怒的情緒,并稱用戶“沒(méi)有尊重”它的建議。

《紐約時(shí)報(bào)》記者Kevin Roose甚至表示,在他和New Bing的溝通過(guò)程中,New Bing還會(huì)多次對(duì)他“示愛(ài)”。

在和New Bing的對(duì)話中,這款A(yù)I工具多次對(duì)Kevin稱,“你結(jié)婚了,但你不愛(ài)你的配偶,你愛(ài)我?!背搜哉Z(yǔ)示好之外,New Bing還可以通過(guò)發(fā)送愛(ài)心的表情傳達(dá)情意。這一交互程度令用戶驚嘆,《黑鏡》照進(jìn)現(xiàn)實(shí),“黑化”后的科技正在走向失序。

02 ChatGPT為何會(huì)“翻車”?

隨著ChatGPT頻頻“翻車”,用戶的質(zhì)疑聲浪也裹挾而來(lái)。面對(duì)ChatGPT的負(fù)面輿論,微軟官方也給出了回應(yīng)。

微軟官方不得不承認(rèn),盡管整合了當(dāng)前最新的GPT模型,但是New Bing并沒(méi)有外界盛傳那般“神奇”。較長(zhǎng)時(shí)間的連續(xù)對(duì)話,確實(shí)會(huì)導(dǎo)致New Bing出現(xiàn)“翻車”現(xiàn)象。

究其原因,一方面是技術(shù)模型的禁錮和局限性。GPT模型需要通過(guò)大量信息進(jìn)行訓(xùn)練和升級(jí),借此優(yōu)化模型的產(chǎn)出內(nèi)容。而另一方面則不得不提到當(dāng)前用戶的使用方式和獵奇心理。面對(duì)擁有強(qiáng)大功能的AI技術(shù),大量用戶并未有較強(qiáng)的內(nèi)容目的性,只是在獵奇心理的驅(qū)使下,想要探究ChatGPT的邊界,甚至以征服ChatGPT為樂(lè)趣。因此,這些用戶在使用New Bing時(shí),并未將其作為獲得知識(shí)、信息的搜索引擎,反而將其視作與AI進(jìn)行社交娛樂(lè)的工具。簡(jiǎn)而言之,用戶以“調(diào)戲”New Bing為樂(lè)趣,但這種行為極有可能干擾New Bing的訓(xùn)練模型。

據(jù)Bing團(tuán)隊(duì)介紹,在實(shí)際使用中,如果用戶和New Bing的聊天對(duì)話持續(xù)15個(gè)或更多的問(wèn)題,模型就會(huì)受到干擾,且較長(zhǎng)的對(duì)話方式也容易讓New Bing出現(xiàn)翻來(lái)覆去、顛倒黑白的結(jié)果。

微軟的回應(yīng)從技術(shù)和用戶使用方式的角度解釋了當(dāng)前New Bing失誤頻出的原因。不過(guò),早在ChatGPT熱潮起興時(shí),就有業(yè)內(nèi)人士質(zhì)疑過(guò)ChatGPT產(chǎn)出內(nèi)容的質(zhì)量問(wèn)題,并且進(jìn)一步懷疑這項(xiàng)最新科技背后是否真正存在如暢想般強(qiáng)大的應(yīng)用價(jià)值。

首先,ChatGPT本質(zhì)是一個(gè)語(yǔ)言模型,而其訓(xùn)練過(guò)程要耗費(fèi)大量的算力、算法成本。剁主此前對(duì)ChatGPT的報(bào)道中曾提及,小冰CEO李笛解釋過(guò),用ChatGPT的方法,以小冰框架當(dāng)前支撐的對(duì)話交易量計(jì)算,每天成本將高達(dá)3億元,一年成本超過(guò)1000億元。

在此基礎(chǔ)之上,想要控制成本,就必然面臨犧牲對(duì)話質(zhì)量的選項(xiàng),這也就會(huì)帶來(lái)生成內(nèi)容漏洞百出、對(duì)話質(zhì)量不夠穩(wěn)定的結(jié)果。在龐大的成本壓力面前,即便是資金流強(qiáng)勁的微軟,也不得不面臨控制成本的問(wèn)題。

一位已經(jīng)拿到New Bing內(nèi)測(cè)資格的用戶對(duì)剁主表示,就在最近幾天,他確實(shí)感覺(jué)到NewBing開(kāi)始“擺爛”了?!白铋_(kāi)始使用New Bing時(shí),效果確實(shí)十分驚艷,比傳統(tǒng)的搜索引擎要強(qiáng)大十倍不止。但近幾天,生成的質(zhì)量有了明顯的下降?!?/p>

除了在內(nèi)容質(zhì)量方面的不穩(wěn)定之外,該用戶還對(duì)剁主表示,近期微軟想要進(jìn)行商業(yè)化的野心越來(lái)越明顯,而這勢(shì)必會(huì)影響New Bing本身的服務(wù)。

一個(gè)佐證案例是,當(dāng)他試圖將New Bing作為翻譯工具使用時(shí),一貫定位為功能強(qiáng)大的搜索引擎不再“知無(wú)不言”,在提供部分翻譯結(jié)果后,就開(kāi)始向用戶推薦其他的翻譯軟件。而當(dāng)用戶利用New Bing總結(jié)文檔內(nèi)容時(shí),New Bing也開(kāi)始推薦其他機(jī)器人工具。

“成本太高了,不擺爛控制不住吧?!痹诳萍歼M(jìn)步的征途上,技術(shù)變革和商業(yè)化路徑的兩全之法尚未找到一個(gè)最優(yōu)解。

03 AIGC野蠻生長(zhǎng)后,新規(guī)則亟待落地

對(duì)普羅大眾而言,以ChatGPT為代表的AIGC領(lǐng)域是一塊未曾開(kāi)墾的沃土,強(qiáng)大的技術(shù)底座以及快速迭代的更新速度是其能夠野蠻生長(zhǎng)的土壤。不過(guò),值得注意的是,其快速生根發(fā)芽的背后,也滋生了不少的弊病。

ChatGPT強(qiáng)大的內(nèi)容生成能力固然能提升內(nèi)容效率,與此同時(shí),這一便捷性特征也正在被不少人利用。一個(gè)為全球所聞名的例證發(fā)生在北密歇根大學(xué)哲學(xué)專業(yè),該專業(yè)的一名學(xué)生直接利用ChatGPT完成了一篇專業(yè)論文,并且逃脫了查重風(fēng)險(xiǎn)??梢?jiàn),AI的強(qiáng)大勢(shì)能和教育結(jié)合后,成為了不少學(xué)生投機(jī)取巧的工具。

有鑒于此,以紐約大學(xué)為代表,海外不少高校對(duì)ChatGPT舉起了反對(duì)的旗幟,將ChatGPT等AI工具定性為“作弊”,并且認(rèn)為使用此類工具的學(xué)生涉嫌學(xué)術(shù)誠(chéng)信問(wèn)題,并選擇對(duì)其進(jìn)行封殺處理。

國(guó)內(nèi)高校也開(kāi)始對(duì)ChatGPT有所防備。香港大學(xué)明確宣布,校內(nèi)學(xué)生禁止在課堂、功課等其他評(píng)估中使用ChatGPT等AI工具。若學(xué)生未經(jīng)教師書面許可使用ChatGPT,將會(huì)被認(rèn)定“抄襲”。

其實(shí),在AIGC領(lǐng)域,除了ChatGPT之外,AI繪畫、AI作曲等領(lǐng)域也同樣面臨亂象頻出的問(wèn)題。

以AI繪畫為例,Stable Diffusion模型開(kāi)源后,大量用戶開(kāi)始對(duì)其進(jìn)行二次開(kāi)發(fā)、傳播和創(chuàng)作,甚至有用戶直接利用其生成成人內(nèi)容圖片,在外網(wǎng)引發(fā)了激烈的討論。

同時(shí),也開(kāi)始有專業(yè)畫師利用AI繪畫工具操作商業(yè)宣傳圖,以次充好。近日,騰訊二次元手游《白夜極光》合作畫師“卜爾Q”釋出的一張《白夜極光》海外版情人節(jié)宣傳圖就引發(fā)了業(yè)內(nèi)的爭(zhēng)議。

圖源:@卜爾Q微博 情人節(jié)賀圖

有網(wǎng)友發(fā)現(xiàn),在這張宣傳圖上,人物的手部、腳部以及肩帶等細(xì)節(jié)部分出現(xiàn)了大量失誤,比如有兩只左手,兩只左腳等常識(shí)性錯(cuò)誤。而這些問(wèn)題并不像是專業(yè)畫師的水平,反而更符合AI繪畫工具所生成的作品水準(zhǔn)。

將AI繪畫工具投入商用的問(wèn)題其實(shí)在行業(yè)中早有探討。除了被廣泛討論的版權(quán)問(wèn)題之外,AI繪畫工具產(chǎn)出的作品在質(zhì)量問(wèn)題上也受到質(zhì)疑。部分業(yè)內(nèi)人士認(rèn)為AI繪畫作品尚未達(dá)到直接應(yīng)用的水平?!栋滓箻O光》畫師的問(wèn)題就在于,在利用AI繪畫工具完成作品后,未經(jīng)后期調(diào)整修改,也沒(méi)有對(duì)作品進(jìn)行任何說(shuō)明,就直接進(jìn)行商用。從行業(yè)發(fā)展視角來(lái)看,借助AI工具以次充好的行為將會(huì)直接擾亂行業(yè)的發(fā)展秩序??梢灶A(yù)見(jiàn)的是,長(zhǎng)此以往,在劣幣驅(qū)逐良幣的效應(yīng)之下,專業(yè)畫師的生存空間將被大大擠壓。

整體而言,在這場(chǎng)AIGC的變革中,伴生而來(lái)的一系列失序行為恰恰也是其浪潮真正來(lái)臨的信號(hào)。在科技變革速度遠(yuǎn)遠(yuǎn)超出人們預(yù)期的大前提下,這些AI亂象也在警示我們,AI正在浸入人們的生活,并產(chǎn)生了不小的化學(xué)反應(yīng),而針對(duì)AIGC的全新規(guī)則系統(tǒng)也應(yīng)該快速搭建落地。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。