文|智能相對論 沈浪

Long-LLM（長文本大模型）時代似乎來得有些突然，而引爆這場熱潮的，竟是一家由清華學(xué)霸牽頭的本土AI初創(chuàng)企業(yè)。

前不久，月之暗面（Moonshot AI）公司宣布旗下對話式 AI 助理產(chǎn)品 Kimi 應(yīng)用現(xiàn)已支持200萬字無損上下文輸入。

對比去年10月份Kimi上線時僅支持的20萬字，這一波升級直接提升了10倍文本處理能力，同時也引起了強烈的市場反應(yīng)，特別是在資本市場，Kimi概念股應(yīng)運而生，諸如九安醫(yī)療、華策影視、中廣天擇等都受益于Kimi概念而實現(xiàn)了股價不同程度的漲幅。

這些刺激更讓大模型領(lǐng)域徹底卷起了長文本大戰(zhàn)。

01 “長文本”大戰(zhàn)，卷的不是字數(shù)而是財力

阿里率先完成自家的大模型產(chǎn)品升級，強化長文本處理能力，免費面向大眾開放最高1000萬字的長文本處理能力。

360則緊隨其后，宣布旗下360智腦正式內(nèi)測500萬字的長文本功能，并在360AI瀏覽器開放給用戶使用。

而百度也宣布在下個月進行版本升級，開放長文本能力，文字范圍會在200萬-500萬字。

目前，文心一言的文本上限大致為2.8萬字。而像GPT-4Turbo-128k公布的文本范圍也不過為10萬漢字，Claude3200k上下文約16萬漢字。

可以說，這一波熱潮直接把國內(nèi)的大模型廠商一下子都拉進了百萬量級的長文本競賽，而主流廠商的入局也為這場“長文本”大戰(zhàn)增添了很多看頭。

目前來看，“長文本”大戰(zhàn)的賽點主要呈現(xiàn)在兩個方面。

一方面，是大模型的支持文本參數(shù)。類似阿里通義千問的1000萬字、360智腦的500萬字、百度文心一言的200萬-500萬字、Kimi的200萬字等等，都在極力向市場爭“彩頭”，告訴用戶自家的長文本處理能力足夠“長”。

另一方面，是長文本處理能力的開放程度。有意思的是，Kimi是免費開放給用戶使用的，阿里通義千問的長文本處理功能也是免費的，360智腦、百度文心一言也沒有要收費的意思?！浴伴L文本”大戰(zhàn)為例，今年的大模型競爭遠比去年要“卷”得多。

還記得去年大火的妙鴨相機，以及各式各樣的圖片生成式服務(wù)，都或多或少地通過各種形式如充值、辦會員等，要求用戶付費才能體驗。

今年大模型領(lǐng)域的這把“火”燒得旺，也燒得離奇地“free”。

為什么？

Kimi自升級以來，就有大量用戶不斷涌入，激增的流量更是一度讓月之暗面（Moonshot AI）的服務(wù)器承受了巨大的壓力，一度陷入宕機，旗下的App和小程序都無法正常使用。

根據(jù)月之暗面（Moonshot AI）發(fā)布的官方消息，從3.20觀測到流量異常增高后，已經(jīng)進行了5次擴容工作。推理資源會持續(xù)配合流量進行擴容，以盡量承載持續(xù)增長的用戶量。

簡單來說，用戶對長文本功能是非常有興趣的，相關(guān)的市場需求還在保持持續(xù)性的、爆炸性的增長。同時，大量的用戶涌進，不僅提高了大模型產(chǎn)品的知名度，更重要的是在大量用戶的基礎(chǔ)上通過類似于UGC的模式去探索大模型的應(yīng)用，或許更能進一步推動Long-LLM（長文本大模型）的商業(yè)化進程。

當然，在這個過程中，不可避免地就得投入大量資金，一旦商業(yè)化加速，大模型廠商就得做好“卷”財力的準備。

阿里通義千問目前免費對所有人開放高達萬頁的文檔處理能力，如果要計算成本，按照目前最便宜的市價0.1元/頁，10000頁的文檔光解析費用就要1000元，這還不包括解析完成之后大模型處理文檔的成本?？紤]到通義千問網(wǎng)頁、APP、釘釘?shù)榷鄠€端口的用戶基數(shù)，需要投入的資金恐怕不會是個小數(shù)目。

大模型的商業(yè)化在開始階段并非“賺錢”，而是“燒錢”。

02 長文本，直接“接駁”商業(yè)化場景

在大模型的商業(yè)化進程上，長文本的爆火是很關(guān)鍵的一環(huán)。

就大模型的技術(shù)原理而言，解決長文本問題是必要的。因為文本長度的提高，對應(yīng)的模型能解決問題的邊界也將大幅提升，兩者呈現(xiàn)出明顯的正向關(guān)系。

傳統(tǒng)的文本處理模型受限于訓(xùn)練結(jié)構(gòu)，可支持的文本范圍都不算長，在處理復(fù)雜任務(wù)和深度專業(yè)知識（這一類知識往往都是長篇巨著）時，只能拆解輸入訓(xùn)練，由此就有可能導(dǎo)致輸出的結(jié)果上下文邏輯不連貫不順暢等問題。

區(qū)別于傳統(tǒng)的文本處理模型，長文本模型就具備更準確的文本理解和生成能力以及更強大的跨領(lǐng)域遷移能力。這對于打造垂直領(lǐng)域的行業(yè)專家是一個非常必要的能力支持，比如面向一些長篇巨制的醫(yī)療文獻、法律文件、財務(wù)報告等，長文本模型就具備更好的理解能力，對應(yīng)完成跨領(lǐng)域?qū)W習(xí)和應(yīng)用，從而打造出更專業(yè)的醫(yī)療助理、法律助理以及金融助理等應(yīng)用。

話不多說，實踐一下。

在這里，「智能相對論」向阿里通義千問相繼“投喂”了幾本長達數(shù)百頁的專業(yè)書籍，涵蓋以《高產(chǎn)母豬飼養(yǎng)技術(shù)有問必答》為代表的農(nóng)業(yè)養(yǎng)殖、以《犬貓營養(yǎng)需要》為代表的寵物喂養(yǎng)等等小眾領(lǐng)域。

結(jié)果所能實現(xiàn)的效果確實令人驚訝，阿里通義千問不僅能高度概括總結(jié)這些長篇巨著的主要內(nèi)容，還能有針對性的給出具體篇章的知識解答。比如，在《高產(chǎn)母豬飼養(yǎng)技術(shù)有問必答》一書中，「智能相對論」向其提問“夏季高溫提問應(yīng)該如何飼養(yǎng)母豬？”很快就得到了書中的精煉解答。

這意味著什么？只要用戶有足夠多的專業(yè)書籍“投喂”給大模型，那么大模型就可以成長為一個專業(yè)的專家助理，幫助用戶快速解答相關(guān)專業(yè)問題。

在日常生活中，或許有很多書籍是我們沒辦法去仔細閱讀和學(xué)習(xí)的，但是只要有長文本大模型予以支持，那么基本上人人都能創(chuàng)造一個專業(yè)的垂直領(lǐng)域助理。

這或許會顛覆現(xiàn)在我們獲取信息、知識的渠道，去百度搜索或是去知乎提問、亦或是去小紅書討論這些路徑都將被替代。

在Kimi開放20萬字文本處理能力的時候，其做了一個簡單的對比，20萬字等于什么？答案是等于先秦的全部古籍。隨著長文本大模型進入百萬量級的迭代，那么這些能力還能實現(xiàn)進一步的進化，對應(yīng)所賦予場景應(yīng)用的機會就是無限的。

如今，在AI領(lǐng)域，Agent的話題也很火，被認為是下一個主流的應(yīng)用形態(tài)。那么，打造Agent的關(guān)鍵是什么？答案正是大模型的長文本處理能力。

比如，Kimi就在幫助元隆雅圖等公司進行營銷升級，基于長文本處理能力來提供爆品文案分析、文案寫作、市場分析、輔助營銷策劃等功能。

盡管現(xiàn)在很多相關(guān)的應(yīng)用還處在探索階段，但是誰又能確定下一個爆款應(yīng)用不是出自自家的大模型+某個C端用戶的想法/某個企業(yè)客戶的業(yè)務(wù)融合？正因如此，大模型廠商們才不顧一切的升級并開放長文本功能，為下一場應(yīng)用上的爆火做準備。

目前，長本文的火爆還只是技術(shù)上的，接下來的爆點大概率將是應(yīng)用上的爆發(fā)。

03 寫在最后

2024年是大模型大規(guī)模走向商業(yè)化的關(guān)鍵一年。從Kimi的火爆程度來看，以長文本為代表的技術(shù)迭代走向C端引發(fā)了非常積極的反饋。同時，在「智能相對論」的實踐中，也預(yù)感這一能力隨著技術(shù)的成熟和完善，必然會在C端用戶的手中被“玩出花來”。

只是目前很多的“玩法”還缺乏打磨，顯得比較粗糙。OpenAI在發(fā)布GPT商店時，就期望要打造一個全新的生態(tài)，人人都能創(chuàng)造自己的專屬GPTs。

現(xiàn)在，擺在大眾面前的長文本熱潮，其實就是一個全民時代到來的信號。只要用戶有書，會投喂，那么同樣可以在國內(nèi)的大模型平臺上打造出屬于自己想要的專業(yè)助理，進而延伸到應(yīng)用端的火爆。

當然，在這個過程中，書籍的版權(quán)問題、平臺的審核問題以及巨大的流量涌入所帶來的諸多挑戰(zhàn)和問題，也是大模型走向商業(yè)化的難點。但是，其根本的方向是清晰的，Long-LLM（長文本大模型）時代已經(jīng)拉開序幕，從技術(shù)到應(yīng)用，接下來大模型廠商們有得卷了。

說實在，就目前各大廠商公布的參數(shù)，從500萬到1000萬，基本上也足夠用了。大模型在長文本技術(shù)層面或許不會再有什么值得卷了，哪怕是有也只是背地里正常迭代和發(fā)展。

接下來的爆點只能是往應(yīng)用層面來看。不管是To C還是To B，誰家的平臺最先把大眾化的應(yīng)用探索并驗證出來，再加以打磨推向大眾市場，那么誰就有可能成為下一個市場的寵兒。