界面新聞?dòng)浾?| 彭新

今年ChatGPT的爆火，讓AI技術(shù)走入了大眾視野。在輿論普遍關(guān)注討論的潮流之下，圍繞AI開發(fā)拓展的各類應(yīng)用，也給各行各業(yè)的產(chǎn)業(yè)流程再造和格局重塑帶來(lái)深層涌動(dòng)。

對(duì)于微博等內(nèi)容平臺(tái)而言，AIGC技術(shù)帶來(lái)的沖擊更為深刻廣泛，是大模型前期的典型應(yīng)用方向，AI聊天機(jī)器人給用戶帶來(lái)更真實(shí)的社交體驗(yàn)，而文生圖、文生文等AIGC應(yīng)用，也大幅降低了內(nèi)容創(chuàng)業(yè)者的創(chuàng)作門檻，有利于內(nèi)容快速制作，進(jìn)一步提高效率。

10月26日，在由界面新聞主辦的2023 REAL科技大會(huì)上，微博COO、新浪移動(dòng)CEO王巍稱，在AIGC布局上，微博目前已實(shí)現(xiàn)利用AIGC輔助高效內(nèi)容生產(chǎn)、替代部分專業(yè)內(nèi)容生產(chǎn)者角色、根據(jù)用戶需求生成個(gè)性化定制內(nèi)容、提升商業(yè)運(yùn)營(yíng)效率，AIGC在微博多場(chǎng)景中的應(yīng)用較大提升了內(nèi)容生產(chǎn)效率，并陸續(xù)推出了覆蓋明星、情感等方向的多垂類“AI伴聊”功能。

王巍介紹稱，微博從目前用戶反饋來(lái)看，這些功能得到用戶以及藝人工作室的認(rèn)可，很多用戶在超話、評(píng)論區(qū)等地方形成自發(fā)性討論與宣傳。王巍認(rèn)為，此類垂類“AI伴聊”可以利用垂類博主在不同領(lǐng)域的專業(yè)知識(shí)，通過(guò)風(fēng)格化、專業(yè)化聊天互動(dòng)，為用戶提供信息價(jià)值并優(yōu)化用戶社交體驗(yàn)，同時(shí)提升粉絲與博主的互動(dòng)粘性，功能也得到了用戶的認(rèn)可。

作為內(nèi)容平臺(tái)， 從目前國(guó)內(nèi)外的AIGC技術(shù)在內(nèi)容社區(qū)的實(shí)踐來(lái)看，相關(guān)應(yīng)用均存在一定爭(zhēng)議，比如版權(quán)所有方對(duì)于數(shù)據(jù)集訓(xùn)練和標(biāo)注的爭(zhēng)議，近期包括社交平臺(tái)X（原推特）、OpenAI均受到相關(guān)版權(quán)方法律爭(zhēng)議。

對(duì)此王巍坦言，內(nèi)容平臺(tái)的版權(quán)爭(zhēng)議將長(zhǎng)期存在，但核心問(wèn)題可能是AIGC及其應(yīng)用的發(fā)展速度太快，社會(huì)影響面太大，這造成對(duì)之前大家都比較習(xí)慣的傳統(tǒng)方式帶來(lái)很大沖擊，包括觀念方面的以及使用習(xí)慣方面的。

“當(dāng)人們?cè)趽肀Ъ夹g(shù)的時(shí)候，你肯定是先擁抱技術(shù)的機(jī)會(huì)，然后再考慮其他挑戰(zhàn)，而挑戰(zhàn)所帶來(lái)的社會(huì)問(wèn)題，隨之而來(lái)需要解決?！蓖跷「嬖V界面新聞?dòng)浾撸?/span>AIGC來(lái)得太快，對(duì)于很多新現(xiàn)象、新問(wèn)題，人們各方面，包括心理上還沒準(zhǔn)備好，就像汽車剛面世的時(shí)候，人們對(duì)于汽車、馬車哪個(gè)更好存在爭(zhēng)議，但這并不能阻止汽車快速普及。

不過(guò)，盡管AIGC帶來(lái)了內(nèi)容創(chuàng)作進(jìn)入下一個(gè)階段的曙光。王巍看到，在有了底層大模型生態(tài)，以及微博這樣的終端應(yīng)用場(chǎng)景平臺(tái)情況下，仍有三大問(wèn)題制約AIGC應(yīng)用實(shí)現(xiàn)爆發(fā)性增長(zhǎng)：首先是大模型推理成本居高不下。目前結(jié)論是模型規(guī)模越大效果越好，但是這帶來(lái)推理成本很高的問(wèn)題，一旦使用應(yīng)用的用戶規(guī)模上來(lái)，成本之高很難承受；

其次是大模型幻覺問(wèn)題。在很多嚴(yán)肅商業(yè)應(yīng)用環(huán)境下，不允許大模型輸出“幻覺”內(nèi)容，所以這嚴(yán)重約束并減少了大模型的應(yīng)用場(chǎng)景。

最后，大模型在生成內(nèi)容可控性方面仍然有缺陷，這體現(xiàn)出技術(shù)仍然不夠成熟。比如很多文生圖模型，在正確生成圖片中的漢字或者精細(xì)內(nèi)容可控生成方面仍顯不足。這制約了大模型的應(yīng)用效果和應(yīng)用范圍。

所謂“大模型幻覺”，通俗來(lái)說(shuō)就是AI會(huì)“一本正經(jīng)地胡說(shuō)八道”，如ChatGPT在聊天中輸出與常識(shí)不符的聊天內(nèi)容。該如何解決大模型幻覺問(wèn)題？對(duì)此王巍表示，AIGC所產(chǎn)生的回答，本質(zhì)上是一個(gè)文字生成概率問(wèn)題，因此AI回答內(nèi)容時(shí)，必然需要關(guān)注到由概率帶來(lái)的不確定風(fēng)險(xiǎn)甚至謬誤。但從技術(shù)角度來(lái)看，內(nèi)容平臺(tái)上可以通過(guò)調(diào)整某些模型參數(shù)來(lái)對(duì)AI模型進(jìn)行一個(gè)文字輸出概率上的調(diào)整，如AI在回答醫(yī)療等需要嚴(yán)謹(jǐn)答案的問(wèn)題時(shí)，就可通過(guò)設(shè)置合適的溫度超參系數(shù)，強(qiáng)制讓AI不要過(guò)于自由發(fā)揮，給出更精確更可信的答案。

王巍介紹，在解決大模型中的幻覺時(shí)，微博主要有兩點(diǎn)考慮：一方面，微博利用現(xiàn)有相對(duì)成熟的技術(shù)方案緩解幻覺問(wèn)題。比如采用Langchain+向量知識(shí)庫(kù)的方案，將很多背景事實(shí)信息存入向量數(shù)據(jù)庫(kù)中，通過(guò)搜索增強(qiáng)的方式來(lái)盡量減少大模型幻覺。另外一方面，微博也會(huì)探索一些對(duì)于大模型幻覺不敏感的應(yīng)用方向，比如虛擬角色或類似Character.ai的場(chǎng)景，對(duì)此類應(yīng)用而言，大模型產(chǎn)生幻覺不是大問(wèn)題，甚至有時(shí)候還是好事情，比如幻覺內(nèi)容會(huì)讓用戶覺得回答更有趣或者更有創(chuàng)意。