正在閱讀:

AIGC想要替代“創(chuàng)作者”,需解決訓(xùn)練成本、內(nèi)容“侵權(quán)”、道德倫理三大問題

掃一掃下載界面新聞APP

AIGC想要替代“創(chuàng)作者”,需解決訓(xùn)練成本、內(nèi)容“侵權(quán)”、道德倫理三大問題

AIGC技術(shù)在全球范圍內(nèi)的蓬勃發(fā)展展示了巨大的潛力,但與此同時,我們也必須認(rèn)識到技術(shù)發(fā)展過程中的挑戰(zhàn)。

文|師天浩

近來,AIGC(人工智能生成內(nèi)容)技術(shù)的快速發(fā)展吸引了全球各行各業(yè)的關(guān)注,成為熱議話題。ChatGPT的加入更是讓人工智能這一領(lǐng)域成為人們關(guān)注的焦點。在這個領(lǐng)域,越來越多的初創(chuàng)公司在AIGC的助力下,獲得新一輪的融資。盡管近年來資本市場整體低迷,但是AIGC領(lǐng)域在全球范圍內(nèi)逆勢上揚,展現(xiàn)出了巨大的市場潛力和吸引力。

在AIGC技術(shù)快速發(fā)展的同時,國內(nèi)外知名科技公司也在積極布局。例如,谷歌、微軟、百度、阿里和字節(jié)等公司都已加入這個領(lǐng)域,并在不斷提升其技術(shù)水平和應(yīng)用場景。這些公司的關(guān)鍵領(lǐng)袖也曾多次公開發(fā)表言論表示,AIGC技術(shù)將會為各行各業(yè)帶來嶄新的發(fā)展方向和商業(yè)模式,為人們的生活和工作帶來更多的智能化體驗和便利。

隨著AIGC技術(shù)的日益成熟和應(yīng)用場景的不斷拓展,我們相信這個領(lǐng)域?qū)懈嗟膭?chuàng)新和突破。無論是在醫(yī)療、金融、教育、娛樂等領(lǐng)域,AIGC技術(shù)都將扮演越來越重要的角色。因此,我們期待各大企業(yè)在這個領(lǐng)域的進一步發(fā)展和創(chuàng)新,以推動整個行業(yè)的繁榮和進步。

AIGC如此強勢出圈,話題與資本相擁而上,其發(fā)展?jié)摿o限的同時也面臨更多不可忽視的挑戰(zhàn),天平兩端如何平衡共處?本文筆者將逐一探討。

01、AIGC:從實驗走向?qū)嵱?/h4>

AIGC雖然在當(dāng)今已經(jīng)不再被視為新興技術(shù),在2021年之前,它的應(yīng)用還主要集中在有限的實驗性范圍內(nèi)。在這一階段,AIGC的核心關(guān)注點在于生成文本內(nèi)容。從20世紀(jì)90年代中期直至21世紀(jì)10年代中期,AIGC逐漸實現(xiàn)了從實驗室研究向現(xiàn)實應(yīng)用的轉(zhuǎn)變。然而,受限于當(dāng)時的算法能力,早期的AIGC難以直接生成內(nèi)容,往往需要進行一定程度的人工干預(yù)。

幸運的是,隨著科技的持續(xù)發(fā)展,新一代的AIGC模型已經(jīng)能夠處理各種類型的內(nèi)容格式,包括但不限于文字、語音、代碼、圖像、視頻、3D模型、游戲機按鍵和機器人動作等。這種多樣化的進步為AIGC在各個行業(yè)的應(yīng)用提供了廣闊的可能性,使得AIGC已經(jīng)在眾多領(lǐng)域取得了引人注目的成果。

以文本生成領(lǐng)域為例,AIGC現(xiàn)已能夠在新聞報道、小說創(chuàng)作、廣告文案等多個領(lǐng)域發(fā)揮重要作用。在4月,飛豬在地鐵站上線了全新的商業(yè)AIGC廣告,其廣告質(zhì)量甚至足以與頂尖的設(shè)計、插畫師、攝影師媲美,在廣告業(yè)內(nèi)引起議論:AI是否即將取代廣告人?

“OpenAI”研究項目在2021年推出了一款名為“ChatGPT”的大型語言模型,直接將行業(yè)的熱度推到了頂端。這款基于GPT-4架構(gòu)的模型具備強大的文本生成能力,為文字生成領(lǐng)域帶來了革命性的變化,其產(chǎn)出效率完全不受限。不夸張的說,掌握了一個AI工具,就相當(dāng)于聘請了千萬個文字處理從業(yè)者。

不僅如此,AIGC在語音識別和合成、圖像識別和生成等領(lǐng)域的應(yīng)用也取得了顯著的成果。例如,谷歌的語音助手在語音識別方面實現(xiàn)了重大突破,準(zhǔn)確率已經(jīng)達(dá)到了95%以上;而在圖像識別領(lǐng)域,微軟的Azure計算機視覺服務(wù)已經(jīng)實現(xiàn)了高精度的圖像識別和分析功能。

更令人振奮的是,AIGC已經(jīng)在許多其他領(lǐng)域取得了顯著的成果,如智能編程助手、自動生成3D模型和動畫、游戲AI設(shè)計等。這些成果不僅提高了生產(chǎn)效率,還拓展了原有領(lǐng)域的創(chuàng)新邊界。

總之,從實驗走向?qū)嵱玫腁IGC已經(jīng)在各個領(lǐng)域取得了顯著的成果,預(yù)示著人工智能技術(shù)將在未來發(fā)揮更大的作用。過去技術(shù)工具從誕生到廣泛應(yīng)用,需要經(jīng)歷很長一段時間的市場考察,但AIGC工具的到來正快速滲透進了各行各業(yè),打破了這一規(guī)律。

02、潛力巨大,但發(fā)展之路充滿挑戰(zhàn)

在當(dāng)今社會,人工智能圖像內(nèi)容生成(AIGC)領(lǐng)域的發(fā)展速度越來越快,眾多科技巨頭都將目光投向這個新興領(lǐng)域。據(jù)統(tǒng)計數(shù)據(jù)顯示,國內(nèi)一線科技公司如百度、騰訊優(yōu)圖、阿里巴巴、快手、字節(jié)跳動、網(wǎng)易、商湯、科大訊飛和美圖等都在AIGC領(lǐng)域投入了大量的資源,這充分說明了這個領(lǐng)域的巨大潛力和市場價值。然而,這個領(lǐng)域在發(fā)展之路上還充滿了挑戰(zhàn)。

目前,AIGC領(lǐng)域處于摸索和發(fā)展的初級階段,各大公司在這個領(lǐng)域的戰(zhàn)略主要集中在提升技術(shù)水平、拓展應(yīng)用場景以及了解消費者需求。然而,業(yè)內(nèi)專家分析認(rèn)為,目前大部分AIGC技術(shù)尚未完善到足以在實際生產(chǎn)中應(yīng)用的程度。

例如,圖像識別的準(zhǔn)確率、生成圖像的質(zhì)量和真實度等方面仍有待提高?,F(xiàn)在全球AI研發(fā)有開源傳統(tǒng),中文標(biāo)準(zhǔn)的訓(xùn)練數(shù)據(jù)甚少,今年飽受話題爭議的百度文心一言,頻頻出現(xiàn)詞不達(dá)意的圖片生成,這并非如網(wǎng)友玩梗道“百度技術(shù)、算法落后”,而是國內(nèi)AI領(lǐng)域一個非?,F(xiàn)實的原因:就是“高質(zhì)量內(nèi)容數(shù)據(jù)的稀缺”,無法快速精準(zhǔn)訓(xùn)練AI,可用內(nèi)容數(shù)據(jù)源匱乏。

另一方面,部分相對成熟的AIGC應(yīng)用尚處于免費試用階段,主要是為了吸引更多的用戶和客戶。這導(dǎo)致了AIGC技術(shù)本身在目前階段缺乏足夠的變現(xiàn)能力。以美圖公司為例,其海外市場推出的AI繪畫功能在日本市場大受歡迎,連續(xù)進入了蘋果App免費下載排行榜和谷歌Play商店免費下載榜前三名。

雖然其在圖像處理和美顏領(lǐng)域具有較高的知名度,但由于大量用戶尚未付費使用,企業(yè)收入和利潤仍受到一定程度的影響。主要體現(xiàn)在成本方面,公開資料顯示,GPT-3 訓(xùn)練的僅硬件和電力成本就高達(dá)1200萬美元(約7500萬人民幣),GPT3.5只高不少,如此高額的支出,近兩年面對寒氣逼人的市場環(huán)境,企業(yè)欲下場新領(lǐng)域也不再高舉高打,只會更嚴(yán)格地考察投入和回報。

在技術(shù)完善、應(yīng)用推廣和商業(yè)模式探索等方面仍面臨諸多挑戰(zhàn)。未來,隨著技術(shù)的不斷進步和市場需求的不斷擴大,AIGC領(lǐng)域有望迎來更加廣泛的應(yīng)用和更為豐富的商業(yè)價值。

03、法律合規(guī)風(fēng)險不容忽視

當(dāng)你在音樂平臺漫不經(jīng)心的聽歌,突然看到孫燕姿翻唱了一首其他網(wǎng)紅作品,為此驚訝她什么時候唱過這一曲,初聽音色頗像本人,仔細(xì)一聽實則略有瑕疵,還有AI周杰倫、AI王心凌、AI披頭士。音樂圈內(nèi)多位從事版權(quán)工作的業(yè)內(nèi)人士標(biāo)識這一現(xiàn)象已涉嫌侵權(quán)。這不僅令我們產(chǎn)生了對 AI 作品現(xiàn)象的恐慌,更引發(fā)了從未經(jīng)歷的合規(guī)問題。

沒錯,AIGC技術(shù)正在不斷發(fā)展,然而在各種應(yīng)用場景中,其不成熟性和法律合規(guī)方面的風(fēng)險不容忽視。

對話場景中的AIGC技術(shù),可能生成出不合適,甚至違背社會道德常理的對話內(nèi)容。例如,在今年2月,谷歌公司研發(fā)的AI智能聊天機器人程序Bard在展示時給出錯誤的答案引發(fā)爭議,導(dǎo)致母公司Alpabet股價“跳水”,一度蒸發(fā)掉了1000億美元的市值。這表明企業(yè)在采用AI技術(shù)時,需要對其內(nèi)容進行嚴(yán)格審查,以防止輸出不當(dāng)信息。

AI生成內(nèi)容的可信度也是一個需要關(guān)注的問題。有研究表明,當(dāng)測試人員讓ChatGPT根據(jù)虛假信息撰寫新聞時,它能迅速生成看似可信但實際上無明確信源的內(nèi)容。在2020年美國總統(tǒng)大選的背景下,一項研究發(fā)現(xiàn),AI生成的虛假新聞在Twitter上被轉(zhuǎn)發(fā)的速度比真實新聞快20%,這給社會帶來了巨大的輿論風(fēng)險,不少網(wǎng)友對此也表示擔(dān)憂:以后可能會有更多假新聞以假亂真。

除了內(nèi)容可信度的問題,數(shù)據(jù)安全風(fēng)險同樣需要關(guān)注。數(shù)據(jù)準(zhǔn)確性、數(shù)據(jù)保密性和數(shù)據(jù)合規(guī)性是構(gòu)成數(shù)據(jù)安全的三大要素。例如,一家名為Clearview AI的公司因非法搜集和使用數(shù)十億張公民面部識別數(shù)據(jù)而引發(fā)了全球關(guān)注。這表明,企業(yè)在利用AI技術(shù)時,應(yīng)確保數(shù)據(jù)合規(guī)性并保護個人隱私。

在追求AIGC技術(shù)創(chuàng)新的同時,我們必須認(rèn)識到技術(shù)發(fā)展過程中的挑戰(zhàn),如數(shù)據(jù)安全、法律合規(guī)、道德倫理和商業(yè)模式等問題。例如,數(shù)據(jù)泄露事件屢見不鮮。根據(jù)2022年的一項報告,全球范圍內(nèi)每天有超過105億條數(shù)據(jù)被泄露。這些泄露的數(shù)據(jù)可能被用于制作深度偽造(deepfake)內(nèi)容,進一步擴大虛假信息的傳播范圍。因此,數(shù)據(jù)安全問題對于AIGC領(lǐng)域至關(guān)重要。

此外,法律合規(guī)問題也需要引起關(guān)注。在AI生成內(nèi)容領(lǐng)域的快速發(fā)展中,我們必須注意到存在的法律合規(guī)風(fēng)險。盡管AIGC技術(shù)擁有無限的創(chuàng)新潛力,但在其應(yīng)用過程中,我們需要關(guān)注諸多問題,如道德、法律、數(shù)據(jù)安全等。

例如,2018年歐盟頒布了《通用數(shù)據(jù)保護條例》(GDPR),要求企業(yè)在使用AI技術(shù)時確保數(shù)據(jù)的合規(guī)性。違反GDPR的企業(yè)將面臨高額罰款,甚至可能面臨法律訴訟。這意味著企業(yè)在利用AIGC技術(shù)時,必須確保其合法合規(guī)。

道德倫理問題同樣不容忽視。AI生成內(nèi)容可能會無意間傳播有害信息,如種族歧視、性別歧視等。為了避免這些問題,企業(yè)應(yīng)建立嚴(yán)格的道德倫理框架,對AI生成的內(nèi)容進行審查和監(jiān)控。

結(jié)言

好看的皮囊在自媒體平臺能快速地獲取大批流量,因此誕生了一批又一批美女俊男虛擬人,出現(xiàn)在直播間、短視頻里,但隨之而來出現(xiàn)了一系列問題,例如虛假新聞、侵犯他人權(quán)利,給監(jiān)管帶來了一定麻煩。

抖音作為國內(nèi)AI第一梯隊廠商首當(dāng)出手發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》,其中提到,發(fā)布者應(yīng)對人工智能生成內(nèi)容進行顯著標(biāo)識,禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容等。

AIGC技術(shù)在全球范圍內(nèi)的蓬勃發(fā)展展示了巨大的潛力,為各行各業(yè)帶來無數(shù)創(chuàng)新機會。然而,與此同時,我們也必須認(rèn)識到技術(shù)發(fā)展過程中的挑戰(zhàn),如數(shù)據(jù)安全、法律合規(guī)、道德倫理和商業(yè)模式等問題。在繼續(xù)拓展AIGC技術(shù)的應(yīng)用領(lǐng)域時,需要在創(chuàng)新與安全、發(fā)展與倫理之間尋求平衡,以實現(xiàn)可持續(xù)的發(fā)展。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

AIGC想要替代“創(chuàng)作者”,需解決訓(xùn)練成本、內(nèi)容“侵權(quán)”、道德倫理三大問題

AIGC技術(shù)在全球范圍內(nèi)的蓬勃發(fā)展展示了巨大的潛力,但與此同時,我們也必須認(rèn)識到技術(shù)發(fā)展過程中的挑戰(zhàn)。

文|師天浩

近來,AIGC(人工智能生成內(nèi)容)技術(shù)的快速發(fā)展吸引了全球各行各業(yè)的關(guān)注,成為熱議話題。ChatGPT的加入更是讓人工智能這一領(lǐng)域成為人們關(guān)注的焦點。在這個領(lǐng)域,越來越多的初創(chuàng)公司在AIGC的助力下,獲得新一輪的融資。盡管近年來資本市場整體低迷,但是AIGC領(lǐng)域在全球范圍內(nèi)逆勢上揚,展現(xiàn)出了巨大的市場潛力和吸引力。

在AIGC技術(shù)快速發(fā)展的同時,國內(nèi)外知名科技公司也在積極布局。例如,谷歌、微軟、百度、阿里和字節(jié)等公司都已加入這個領(lǐng)域,并在不斷提升其技術(shù)水平和應(yīng)用場景。這些公司的關(guān)鍵領(lǐng)袖也曾多次公開發(fā)表言論表示,AIGC技術(shù)將會為各行各業(yè)帶來嶄新的發(fā)展方向和商業(yè)模式,為人們的生活和工作帶來更多的智能化體驗和便利。

隨著AIGC技術(shù)的日益成熟和應(yīng)用場景的不斷拓展,我們相信這個領(lǐng)域?qū)懈嗟膭?chuàng)新和突破。無論是在醫(yī)療、金融、教育、娛樂等領(lǐng)域,AIGC技術(shù)都將扮演越來越重要的角色。因此,我們期待各大企業(yè)在這個領(lǐng)域的進一步發(fā)展和創(chuàng)新,以推動整個行業(yè)的繁榮和進步。

AIGC如此強勢出圈,話題與資本相擁而上,其發(fā)展?jié)摿o限的同時也面臨更多不可忽視的挑戰(zhàn),天平兩端如何平衡共處?本文筆者將逐一探討。

01、AIGC:從實驗走向?qū)嵱?/h4>

AIGC雖然在當(dāng)今已經(jīng)不再被視為新興技術(shù),在2021年之前,它的應(yīng)用還主要集中在有限的實驗性范圍內(nèi)。在這一階段,AIGC的核心關(guān)注點在于生成文本內(nèi)容。從20世紀(jì)90年代中期直至21世紀(jì)10年代中期,AIGC逐漸實現(xiàn)了從實驗室研究向現(xiàn)實應(yīng)用的轉(zhuǎn)變。然而,受限于當(dāng)時的算法能力,早期的AIGC難以直接生成內(nèi)容,往往需要進行一定程度的人工干預(yù)。

幸運的是,隨著科技的持續(xù)發(fā)展,新一代的AIGC模型已經(jīng)能夠處理各種類型的內(nèi)容格式,包括但不限于文字、語音、代碼、圖像、視頻、3D模型、游戲機按鍵和機器人動作等。這種多樣化的進步為AIGC在各個行業(yè)的應(yīng)用提供了廣闊的可能性,使得AIGC已經(jīng)在眾多領(lǐng)域取得了引人注目的成果。

以文本生成領(lǐng)域為例,AIGC現(xiàn)已能夠在新聞報道、小說創(chuàng)作、廣告文案等多個領(lǐng)域發(fā)揮重要作用。在4月,飛豬在地鐵站上線了全新的商業(yè)AIGC廣告,其廣告質(zhì)量甚至足以與頂尖的設(shè)計、插畫師、攝影師媲美,在廣告業(yè)內(nèi)引起議論:AI是否即將取代廣告人?

“OpenAI”研究項目在2021年推出了一款名為“ChatGPT”的大型語言模型,直接將行業(yè)的熱度推到了頂端。這款基于GPT-4架構(gòu)的模型具備強大的文本生成能力,為文字生成領(lǐng)域帶來了革命性的變化,其產(chǎn)出效率完全不受限。不夸張的說,掌握了一個AI工具,就相當(dāng)于聘請了千萬個文字處理從業(yè)者。

不僅如此,AIGC在語音識別和合成、圖像識別和生成等領(lǐng)域的應(yīng)用也取得了顯著的成果。例如,谷歌的語音助手在語音識別方面實現(xiàn)了重大突破,準(zhǔn)確率已經(jīng)達(dá)到了95%以上;而在圖像識別領(lǐng)域,微軟的Azure計算機視覺服務(wù)已經(jīng)實現(xiàn)了高精度的圖像識別和分析功能。

更令人振奮的是,AIGC已經(jīng)在許多其他領(lǐng)域取得了顯著的成果,如智能編程助手、自動生成3D模型和動畫、游戲AI設(shè)計等。這些成果不僅提高了生產(chǎn)效率,還拓展了原有領(lǐng)域的創(chuàng)新邊界。

總之,從實驗走向?qū)嵱玫腁IGC已經(jīng)在各個領(lǐng)域取得了顯著的成果,預(yù)示著人工智能技術(shù)將在未來發(fā)揮更大的作用。過去技術(shù)工具從誕生到廣泛應(yīng)用,需要經(jīng)歷很長一段時間的市場考察,但AIGC工具的到來正快速滲透進了各行各業(yè),打破了這一規(guī)律。

02、潛力巨大,但發(fā)展之路充滿挑戰(zhàn)

在當(dāng)今社會,人工智能圖像內(nèi)容生成(AIGC)領(lǐng)域的發(fā)展速度越來越快,眾多科技巨頭都將目光投向這個新興領(lǐng)域。據(jù)統(tǒng)計數(shù)據(jù)顯示,國內(nèi)一線科技公司如百度、騰訊優(yōu)圖、阿里巴巴、快手、字節(jié)跳動、網(wǎng)易、商湯、科大訊飛和美圖等都在AIGC領(lǐng)域投入了大量的資源,這充分說明了這個領(lǐng)域的巨大潛力和市場價值。然而,這個領(lǐng)域在發(fā)展之路上還充滿了挑戰(zhàn)。

目前,AIGC領(lǐng)域處于摸索和發(fā)展的初級階段,各大公司在這個領(lǐng)域的戰(zhàn)略主要集中在提升技術(shù)水平、拓展應(yīng)用場景以及了解消費者需求。然而,業(yè)內(nèi)專家分析認(rèn)為,目前大部分AIGC技術(shù)尚未完善到足以在實際生產(chǎn)中應(yīng)用的程度。

例如,圖像識別的準(zhǔn)確率、生成圖像的質(zhì)量和真實度等方面仍有待提高。現(xiàn)在全球AI研發(fā)有開源傳統(tǒng),中文標(biāo)準(zhǔn)的訓(xùn)練數(shù)據(jù)甚少,今年飽受話題爭議的百度文心一言,頻頻出現(xiàn)詞不達(dá)意的圖片生成,這并非如網(wǎng)友玩梗道“百度技術(shù)、算法落后”,而是國內(nèi)AI領(lǐng)域一個非?,F(xiàn)實的原因:就是“高質(zhì)量內(nèi)容數(shù)據(jù)的稀缺”,無法快速精準(zhǔn)訓(xùn)練AI,可用內(nèi)容數(shù)據(jù)源匱乏。

另一方面,部分相對成熟的AIGC應(yīng)用尚處于免費試用階段,主要是為了吸引更多的用戶和客戶。這導(dǎo)致了AIGC技術(shù)本身在目前階段缺乏足夠的變現(xiàn)能力。以美圖公司為例,其海外市場推出的AI繪畫功能在日本市場大受歡迎,連續(xù)進入了蘋果App免費下載排行榜和谷歌Play商店免費下載榜前三名。

雖然其在圖像處理和美顏領(lǐng)域具有較高的知名度,但由于大量用戶尚未付費使用,企業(yè)收入和利潤仍受到一定程度的影響。主要體現(xiàn)在成本方面,公開資料顯示,GPT-3 訓(xùn)練的僅硬件和電力成本就高達(dá)1200萬美元(約7500萬人民幣),GPT3.5只高不少,如此高額的支出,近兩年面對寒氣逼人的市場環(huán)境,企業(yè)欲下場新領(lǐng)域也不再高舉高打,只會更嚴(yán)格地考察投入和回報。

在技術(shù)完善、應(yīng)用推廣和商業(yè)模式探索等方面仍面臨諸多挑戰(zhàn)。未來,隨著技術(shù)的不斷進步和市場需求的不斷擴大,AIGC領(lǐng)域有望迎來更加廣泛的應(yīng)用和更為豐富的商業(yè)價值。

03、法律合規(guī)風(fēng)險不容忽視

當(dāng)你在音樂平臺漫不經(jīng)心的聽歌,突然看到孫燕姿翻唱了一首其他網(wǎng)紅作品,為此驚訝她什么時候唱過這一曲,初聽音色頗像本人,仔細(xì)一聽實則略有瑕疵,還有AI周杰倫、AI王心凌、AI披頭士。音樂圈內(nèi)多位從事版權(quán)工作的業(yè)內(nèi)人士標(biāo)識這一現(xiàn)象已涉嫌侵權(quán)。這不僅令我們產(chǎn)生了對 AI 作品現(xiàn)象的恐慌,更引發(fā)了從未經(jīng)歷的合規(guī)問題。

沒錯,AIGC技術(shù)正在不斷發(fā)展,然而在各種應(yīng)用場景中,其不成熟性和法律合規(guī)方面的風(fēng)險不容忽視。

對話場景中的AIGC技術(shù),可能生成出不合適,甚至違背社會道德常理的對話內(nèi)容。例如,在今年2月,谷歌公司研發(fā)的AI智能聊天機器人程序Bard在展示時給出錯誤的答案引發(fā)爭議,導(dǎo)致母公司Alpabet股價“跳水”,一度蒸發(fā)掉了1000億美元的市值。這表明企業(yè)在采用AI技術(shù)時,需要對其內(nèi)容進行嚴(yán)格審查,以防止輸出不當(dāng)信息。

AI生成內(nèi)容的可信度也是一個需要關(guān)注的問題。有研究表明,當(dāng)測試人員讓ChatGPT根據(jù)虛假信息撰寫新聞時,它能迅速生成看似可信但實際上無明確信源的內(nèi)容。在2020年美國總統(tǒng)大選的背景下,一項研究發(fā)現(xiàn),AI生成的虛假新聞在Twitter上被轉(zhuǎn)發(fā)的速度比真實新聞快20%,這給社會帶來了巨大的輿論風(fēng)險,不少網(wǎng)友對此也表示擔(dān)憂:以后可能會有更多假新聞以假亂真。

除了內(nèi)容可信度的問題,數(shù)據(jù)安全風(fēng)險同樣需要關(guān)注。數(shù)據(jù)準(zhǔn)確性、數(shù)據(jù)保密性和數(shù)據(jù)合規(guī)性是構(gòu)成數(shù)據(jù)安全的三大要素。例如,一家名為Clearview AI的公司因非法搜集和使用數(shù)十億張公民面部識別數(shù)據(jù)而引發(fā)了全球關(guān)注。這表明,企業(yè)在利用AI技術(shù)時,應(yīng)確保數(shù)據(jù)合規(guī)性并保護個人隱私。

在追求AIGC技術(shù)創(chuàng)新的同時,我們必須認(rèn)識到技術(shù)發(fā)展過程中的挑戰(zhàn),如數(shù)據(jù)安全、法律合規(guī)、道德倫理和商業(yè)模式等問題。例如,數(shù)據(jù)泄露事件屢見不鮮。根據(jù)2022年的一項報告,全球范圍內(nèi)每天有超過105億條數(shù)據(jù)被泄露。這些泄露的數(shù)據(jù)可能被用于制作深度偽造(deepfake)內(nèi)容,進一步擴大虛假信息的傳播范圍。因此,數(shù)據(jù)安全問題對于AIGC領(lǐng)域至關(guān)重要。

此外,法律合規(guī)問題也需要引起關(guān)注。在AI生成內(nèi)容領(lǐng)域的快速發(fā)展中,我們必須注意到存在的法律合規(guī)風(fēng)險。盡管AIGC技術(shù)擁有無限的創(chuàng)新潛力,但在其應(yīng)用過程中,我們需要關(guān)注諸多問題,如道德、法律、數(shù)據(jù)安全等。

例如,2018年歐盟頒布了《通用數(shù)據(jù)保護條例》(GDPR),要求企業(yè)在使用AI技術(shù)時確保數(shù)據(jù)的合規(guī)性。違反GDPR的企業(yè)將面臨高額罰款,甚至可能面臨法律訴訟。這意味著企業(yè)在利用AIGC技術(shù)時,必須確保其合法合規(guī)。

道德倫理問題同樣不容忽視。AI生成內(nèi)容可能會無意間傳播有害信息,如種族歧視、性別歧視等。為了避免這些問題,企業(yè)應(yīng)建立嚴(yán)格的道德倫理框架,對AI生成的內(nèi)容進行審查和監(jiān)控。

結(jié)言

好看的皮囊在自媒體平臺能快速地獲取大批流量,因此誕生了一批又一批美女俊男虛擬人,出現(xiàn)在直播間、短視頻里,但隨之而來出現(xiàn)了一系列問題,例如虛假新聞、侵犯他人權(quán)利,給監(jiān)管帶來了一定麻煩。

抖音作為國內(nèi)AI第一梯隊廠商首當(dāng)出手發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》,其中提到,發(fā)布者應(yīng)對人工智能生成內(nèi)容進行顯著標(biāo)識,禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容等。

AIGC技術(shù)在全球范圍內(nèi)的蓬勃發(fā)展展示了巨大的潛力,為各行各業(yè)帶來無數(shù)創(chuàng)新機會。然而,與此同時,我們也必須認(rèn)識到技術(shù)發(fā)展過程中的挑戰(zhàn),如數(shù)據(jù)安全、法律合規(guī)、道德倫理和商業(yè)模式等問題。在繼續(xù)拓展AIGC技術(shù)的應(yīng)用領(lǐng)域時,需要在創(chuàng)新與安全、發(fā)展與倫理之間尋求平衡,以實現(xiàn)可持續(xù)的發(fā)展。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。