文|光錐智能 白鴿
編輯|王一粟
大模型,正在重塑“一體機(jī)”這個(gè)原本小眾的服務(wù)器產(chǎn)品。
“之前行業(yè)對(duì)一體機(jī)的需求非常少?!笨拼笥嶏w智算業(yè)務(wù)部副總經(jīng)理許昀對(duì)光錐智能說(shuō)道,“而現(xiàn)在的需求遠(yuǎn)超預(yù)期。”
自開(kāi)年以來(lái),隨著DeepSeek大模型的爆火,也點(diǎn)燃了大模型一體機(jī)市場(chǎng)的爆發(fā)。
據(jù)IDC統(tǒng)計(jì),市場(chǎng)上已迅速有接近百家廠商推出AI一體機(jī)產(chǎn)品,包括新華三等服務(wù)器廠商、京東云、百度智能云等云服務(wù)提供商、科大訊飛等行業(yè)應(yīng)用開(kāi)發(fā)商及大模型技術(shù)供應(yīng)商等各路玩家。
大模型一體機(jī)是一個(gè)專為人工智能大模型應(yīng)用和部署而設(shè)計(jì)的集成計(jì)算設(shè)備,通常包含中央處理器(CPU)、圖形處理器(GPU)、存儲(chǔ)器、操作系統(tǒng)、AI平臺(tái)軟件及各類模型算法等軟硬組件,可以理解為一個(gè)小型獨(dú)立的服務(wù)器,既能夠讓大模型開(kāi)箱即用,還能夠保證數(shù)據(jù)安全。
這些玩家推出各種集成DeepSeek大模型為主的大模型一體機(jī),并以各自不同的競(jìng)爭(zhēng)優(yōu)勢(shì)切入不同的行業(yè)場(chǎng)景應(yīng)用之中。
從產(chǎn)品類型上看,市場(chǎng)上目前爆火的大模型一體機(jī),更多是以集成DeepSeek大模型為主,包括32B、70B以及671B滿血版等,整體售價(jià)大概在十幾萬(wàn)元到百萬(wàn)元之間不等。
“華為四卡機(jī)器售價(jià)15萬(wàn)多,底層硬件是鯤鵬CPU+昇騰,內(nèi)置DeepSeek-70B大模型,集成問(wèn)答助手、知識(shí)庫(kù)等功能,可同時(shí)支持30個(gè)人并發(fā)?!币晃淮竽P鸵惑w機(jī)銷售商對(duì)光錐智能表示,“而搭配DeepSeek-671B大模型的一體機(jī)售價(jià)則超過(guò)200萬(wàn)元?!?/p>
事實(shí)上,在IT基礎(chǔ)設(shè)施中,一體機(jī)并不是一個(gè)全新產(chǎn)品,此前也存在著數(shù)據(jù)庫(kù)一體機(jī)等產(chǎn)品,但整體市場(chǎng)需求卻始終是不溫不火。
而這一波大模型一體機(jī)爆發(fā)背后,則是受DeepSeek影響,及大模型小型化和算力小型化的發(fā)展趨勢(shì),通過(guò)“軟硬協(xié)同、開(kāi)箱即用”的特性,能夠滿足企業(yè)在專一的業(yè)務(wù)場(chǎng)景中,低成本使用大模型的需求,解決了企業(yè)AI部署中的數(shù)據(jù)安全、算力成本和場(chǎng)景適配三大痛點(diǎn)。
不過(guò),盡管大模型一體機(jī)供給方的市場(chǎng)熱度頗高,“但實(shí)際上在行業(yè)落地還需要時(shí)間。”許昀說(shuō)道,“畢竟現(xiàn)階段大多數(shù)企業(yè)還處于試點(diǎn)階段,行業(yè)適配還需要時(shí)間,預(yù)計(jì)半年左右時(shí)間,真實(shí)的市場(chǎng)需求才會(huì)爆發(fā)出來(lái)?!?/p>
Gartner研究總監(jiān)張吟鈴也表示:“很多企業(yè)并未算清楚部署大模型一體機(jī)的投資回報(bào)比,也因此很多對(duì)大模型使用場(chǎng)景經(jīng)過(guò)研究的大型企業(yè)對(duì)大模型一體機(jī)的投資并不多,整體行業(yè)還處在一個(gè)前期。”
那么,本質(zhì)上仍屬于AI服務(wù)器類型的大模型一體機(jī),還能夠持續(xù)火多久?各類玩家在其中又將以什么樣的角色進(jìn)行爭(zhēng)奪戰(zhàn)?
一體機(jī)需求暴增,眾多玩家開(kāi)搶市場(chǎng)
2025年,被看作是大模型落地應(yīng)用暴發(fā)的一年,一體機(jī)作為底層算力支持的服務(wù)器,也成為眾多企業(yè)拓展大模型落地應(yīng)用的關(guān)鍵一環(huán)。
據(jù)浙商證券最新測(cè)算,預(yù)計(jì)2025年至2027年,一體機(jī)的需求量將分別達(dá)到15萬(wàn)臺(tái)、39萬(wàn)臺(tái)和72萬(wàn)臺(tái),在央國(guó)企的市場(chǎng)空間有望達(dá)到1236億元、2937億元和5208億元。
而為了搶奪更多的大模型市場(chǎng),包括AI服務(wù)器廠商、云計(jì)算廠商,以及行業(yè)應(yīng)用和大模型技術(shù)公司,紛紛開(kāi)始布局大模型一體機(jī)市場(chǎng),發(fā)布相關(guān)系列產(chǎn)品。
硬件廠商中,大致可以分為兩大類型,一個(gè)是以新華三為例的AI服務(wù)器廠商,一個(gè)則是以華為為例的國(guó)產(chǎn)芯片廠商,前者可以提供集成化的產(chǎn)品,而后者更多是提供底層芯片支持。
以新華三為例,其截至目前已經(jīng)發(fā)布了多種大模型一體機(jī)產(chǎn)品:
一種是集成DeepSeek大模型的一體機(jī),包括覆蓋14B至671B規(guī)模的靈犀Cube大模型一體機(jī),搭載DeepSeek V3、R1模型,支持671B大模型單機(jī)推理及訓(xùn)推一體服務(wù)UniCube;
另外一種則是為特定行業(yè)定制的大模型一體機(jī),如與數(shù)字政通合作的城市治理大模型一體機(jī),與泛微合作的協(xié)同辦公大模型一體機(jī),以及與百度健康合作的醫(yī)療大模型一體機(jī)等。
相比較來(lái)說(shuō),新華三作為服務(wù)器廠商,硬件優(yōu)勢(shì)明顯,自主研發(fā)的服務(wù)器如 H3C UniServer R5330 G7和R5500,能夠支持高性能GPU,提供靈活的拓?fù)浼軜?gòu),兼容多種模型,并且,硬件廠商也會(huì)注重軟硬件集成,優(yōu)化了性能和兼容性,減少用戶的配置成本。
另外,硬件層面可以很明顯地看到,國(guó)產(chǎn)化則成為大模型一體機(jī)的重要趨勢(shì),而以華為昇騰、海光、寒武紀(jì)等為主的國(guó)產(chǎn)芯片,也成為了眾多行業(yè)客戶打造大模型一體機(jī)的底層硬件配置首選。
在華為中國(guó)合作伙伴大會(huì)2025上,華為董事、ICT BG CEO楊超斌表示,目前已有超80家伙伴基于昇騰打造開(kāi)箱即用的大模型一體機(jī),并通過(guò)極簡(jiǎn)部署和靈活配置,滿足企業(yè)多樣化的需求。
除硬件廠商外,云廠商可以說(shuō)是布局Deepseek大模型一體機(jī)最激進(jìn)的玩家。
據(jù)不完全統(tǒng)計(jì),包括三大運(yùn)營(yíng)商云、百度智能云、京東云、火山引擎、浪潮云、阿里云等眾多云廠商,都已經(jīng)推出了大模型一體機(jī)產(chǎn)品。
目前云廠商們的大模型一體機(jī)基本可以分為兩大類型,一是適配DeepSeek標(biāo)準(zhǔn)版(蒸餾版,32B或70B),一個(gè)則是適配DeepSeek滿血版(671B),并以此為基礎(chǔ)適配不同行業(yè)場(chǎng)景。
如京東云針對(duì)金融場(chǎng)景,銀行、券商行業(yè)建議適配滿血版,保險(xiǎn)和基金則建議適配基礎(chǔ)版。
而百度智能云則是按照千帆和百舸兩大平臺(tái)細(xì)分大模型一體機(jī),百舸一體機(jī)以算力效率和成本控制為核心,而千帆一體機(jī)則側(cè)重模型開(kāi)發(fā)的便捷性與應(yīng)用生態(tài)的豐富性。
一方面,云廠商可以針對(duì)不同場(chǎng)景推出各種細(xì)分的大模型一體機(jī),能夠覆蓋更多細(xì)分場(chǎng)景的用戶需求,同時(shí),云廠商還可以結(jié)合自身的云服務(wù)生態(tài)、彈性算力等,為用戶提供更多支持。
事實(shí)上,云廠商如此積極地?fù)屨即竽P鸵惑w機(jī)市場(chǎng),這背后歸根結(jié)底,則是因?yàn)椤皣?guó)內(nèi)云廠商很難放棄私有化部署這塊蛋糕,這是其非常重要的營(yíng)收之一?!睆堃麾弻?duì)光錐智能說(shuō)道。
畢竟,在當(dāng)前中國(guó)市場(chǎng)中,即使公有云發(fā)展這么多年,企業(yè)私有化部署的需求仍始終存在。
此前一位頭部云廠商戰(zhàn)略規(guī)劃人士認(rèn)為,公共云是未來(lái)5年-10年的發(fā)展方向。但在未來(lái)3年,中國(guó)云市場(chǎng)核心增長(zhǎng)點(diǎn)是私有云、混合云。
也正因此,對(duì)于大多數(shù)云廠商來(lái)說(shuō),企業(yè)私有化部署市場(chǎng)是一塊還沒(méi)有“啃”下來(lái)的蛋糕,而大模型一體機(jī)市場(chǎng)的爆發(fā),則給云廠商們提供了機(jī)會(huì)。
在大模型一體機(jī)市場(chǎng)中,還有一類玩家,就是以科大訊飛為例的行業(yè)應(yīng)用及大模型技術(shù)廠商,相比于硬件廠商的硬件優(yōu)勢(shì)、云廠商的生態(tài)優(yōu)勢(shì),其核心競(jìng)爭(zhēng)力則聚焦在技術(shù)和行業(yè)理解上。
這些廠商不僅有自己的基座大模型能力,還能夠根據(jù)行業(yè)特定,對(duì)開(kāi)源大模型進(jìn)行微調(diào),并以此沉淀出了很多細(xì)分場(chǎng)景的行業(yè)大模型。
比如近期科大訊飛的星火深度推理模型X1的全面升級(jí),并基于星火X1首發(fā)星火醫(yī)療大模型X1,其大模型一體機(jī)也推出了針對(duì)政務(wù)、警務(wù)、司法、醫(yī)療、高教等五個(gè)應(yīng)用場(chǎng)景的一體機(jī)產(chǎn)品。
“(一體機(jī))需要與行業(yè)軟件做深度結(jié)合?!痹S昀說(shuō)道,“而對(duì)于同類型的大模型廠商,則看誰(shuí)能夠具有更深的行業(yè)理解,實(shí)現(xiàn)差異化競(jìng)爭(zhēng)優(yōu)勢(shì)?!?/p>
從硬件廠商,到云廠商,再到大模型廠商,大模型一體機(jī)市場(chǎng)的爆火,政企客戶爆發(fā)式的需求,仿佛是開(kāi)啟了一場(chǎng)搶奪大模型落地應(yīng)用的“盛宴”。
但從市場(chǎng)需求方來(lái)看,更多企業(yè)還處于前期試點(diǎn)階段,真正的市場(chǎng)需要遠(yuǎn)未真正爆發(fā)出來(lái)。而對(duì)于大多數(shù)企業(yè)來(lái)說(shuō),大模型一體機(jī)的應(yīng)用,真的能夠帶來(lái)更高的商業(yè)價(jià)值嗎?
超細(xì)分場(chǎng)景應(yīng)用,一體機(jī)商業(yè)價(jià)值待驗(yàn)證
一體機(jī)市場(chǎng)的突然爆火,主要得益于DeepSeek這一波熱度的帶動(dòng)。
一方面,DeepSeek爆火之后,讓更多政企客戶自上而下了解大模型的能力,更愿意嘗試進(jìn)行大模型的落地應(yīng)用,這也使得“大模型的整個(gè)需求池子變大了,需求面變廣了?!痹S昀說(shuō)道。
另一方面,更為重要的一點(diǎn)是,此前很多企業(yè)的業(yè)務(wù)場(chǎng)景都需要對(duì)數(shù)據(jù)隱私安全負(fù)責(zé),而受限于數(shù)據(jù)安全合規(guī)等因素影響,都未輕易嘗試將大模型與業(yè)務(wù)結(jié)合。
可以說(shuō),DeepSeek刺激了企業(yè)對(duì)大模型“輕量級(jí)”的私有化部署需求,讓預(yù)算有限的小場(chǎng)景小需求,都能用上大模型。
因此,綜合市場(chǎng)信息也可以看到,目前大模型一體機(jī)的市場(chǎng)需求,更多地來(lái)自金融、政企、醫(yī)療、教育等對(duì)數(shù)據(jù)安全要求較高和工業(yè)等對(duì)延時(shí)較為敏感的應(yīng)用場(chǎng)景,尤其是金融、政務(wù)等領(lǐng)域的客戶對(duì)大模型一體機(jī)的需求尤為旺盛。
但大模型一體機(jī)所能夠提供的大模型能力和算力支持是有限的,也正因此,目前在各行業(yè)場(chǎng)景中,真正能夠應(yīng)用一體機(jī)的,都是在某一個(gè)行業(yè)中特別細(xì)分的場(chǎng)景。
“一體機(jī)的應(yīng)用可能是在一些非常細(xì)的領(lǐng)域,因?yàn)樵诖蟮男袠I(yè)中,每一個(gè)細(xì)分領(lǐng)域里針對(duì)模型的參數(shù)量的要求和需求都不一樣?!痹S昀說(shuō)道,“所以我們會(huì)從具體的行業(yè)場(chǎng)景中再篩選出不同細(xì)分的場(chǎng)景進(jìn)行一體機(jī)適配?!?/p>
如在大企業(yè)之下會(huì)存在很多小部門,其中財(cái)務(wù)部對(duì)數(shù)據(jù)隱私安全要求較高,就可以使用一體機(jī)進(jìn)行大模型的私有化部署,而通過(guò)小部門的試點(diǎn),企業(yè)最后可以再?zèng)Q定是否要建設(shè)大型算力中心。
還有一些企業(yè)的IT部門部署一臺(tái)一體機(jī),做企業(yè)內(nèi)部知識(shí)庫(kù)的檢索,或者是做一些對(duì)話的操作系統(tǒng)等,以及利用大模型來(lái)提升員工的工作效率等。
“現(xiàn)階段接觸的客戶中,對(duì)滿血版一體機(jī)的需求沖動(dòng)也非常大,但在落地的過(guò)程中也會(huì)存在疑問(wèn)——部署一體機(jī)的應(yīng)用場(chǎng)景是什么?”許昀說(shuō)道,“因此,不同的場(chǎng)景對(duì)一體機(jī)的訴求都不同,要根據(jù)行業(yè)場(chǎng)景進(jìn)行因地制宜?!?/p>
從一體機(jī)客戶來(lái)說(shuō),大多數(shù)對(duì)隱私不敏感的中小企業(yè),更多地還是使用便宜彈性的公有云,而對(duì)于一些存在長(zhǎng)期需求,比如需要使用大模型的總結(jié)歸納能力來(lái)讀取其他家公司的財(cái)報(bào),且并不想將其放在公有云場(chǎng)景下的,則可以部署一體機(jī)。
對(duì)于大型企業(yè),一般會(huì)構(gòu)建自己獨(dú)立的智算平臺(tái),而想要在細(xì)分的場(chǎng)景中部署一體機(jī),還需要考慮與自身其他智能算力平臺(tái)如何協(xié)同管理的難題。
如果說(shuō)智算中心是一個(gè)滿漢全席,那一體機(jī)更像是地方小吃。所以,大模型一體機(jī)真的能夠撐起一個(gè)獨(dú)立的市場(chǎng)嗎?
“現(xiàn)階段,企業(yè)部署DeepSeek一體機(jī)后,可以用作增長(zhǎng)業(yè)務(wù)的場(chǎng)景其實(shí)非常少,更多用于效能提升”張吟鈴說(shuō)道,“目前企業(yè)處于一個(gè)內(nèi)部從上到下嘗試部署的過(guò)程中?!?/p>
張吟鈴直言對(duì)未來(lái)一體機(jī)賽道保持謹(jǐn)慎態(tài)度:“一體機(jī)的底層邏輯還是服務(wù)器硬件加軟件,上層搭載的大模型開(kāi)發(fā)部署平臺(tái)能夠讓企業(yè)部署AI更便利,但當(dāng)企業(yè)在使用大模型進(jìn)入到成熟期后,需要擴(kuò)展資源用作更多場(chǎng)景部署,企業(yè)則需要面對(duì)使用同一軟件平臺(tái)去納管不同種類一體機(jī)的挑戰(zhàn),若企業(yè)已經(jīng)選擇了一套軟件平臺(tái),則需要增加更多服務(wù)器即可。”
不過(guò),從商業(yè)化邏輯來(lái)看,對(duì)于像科大訊飛這樣的廠商來(lái)看,其與硬件廠商的本質(zhì)區(qū)別,就是不依靠硬件掙錢,而是賺取軟件服務(wù)費(fèi)用,以及帶動(dòng)客戶從細(xì)分市場(chǎng)向其他項(xiàng)目轉(zhuǎn)換的營(yíng)收。
從具體使用來(lái)看,行業(yè)客戶目前對(duì)一體機(jī)也存在兩極分化的評(píng)價(jià):一方面認(rèn)為一體機(jī)能夠滿足自己在某一個(gè)細(xì)分行業(yè)上的需求,整體實(shí)現(xiàn)的效果也還不錯(cuò);另一方面則因?yàn)闆](méi)有找到與行業(yè)能夠深度結(jié)合的點(diǎn),且部署一體機(jī)的價(jià)格也并不是很便宜,覺(jué)得一體機(jī)效果不好。
當(dāng)前大模型一體機(jī)的應(yīng)用主要聚焦在細(xì)分行業(yè)中的細(xì)場(chǎng)景下,而其是否真的能夠給企業(yè)帶來(lái)真正的降本增效,以及未來(lái)市場(chǎng)潛力如何,都還存疑。
而大模型一體機(jī)從能用,到好用,再到真正解決企業(yè)實(shí)際問(wèn)題,還需要一段時(shí)間。
走,去行業(yè)深處!
事實(shí)上,行業(yè)中對(duì)大模型一體機(jī)是否能夠真正發(fā)揮大模型性能也存在諸多討論。
有位業(yè)內(nèi)人士表示:“目前,大部分賣單機(jī)的都沒(méi)有考慮并行策略、跨節(jié)點(diǎn)通信開(kāi)銷優(yōu)化,就好比江南七怪一起上也是戰(zhàn)五渣,但是全真七子一個(gè)很弱,七個(gè)擺陣就能跟黃藥師不分上下,因?yàn)樘祛副倍逢囎黾簝?yōu)化?!?/p>
但盡管如此,當(dāng)前DeepSeek一體機(jī)仍是滿天飛。不過(guò),一體機(jī)現(xiàn)階段更多地還是滿足客戶的情緒價(jià)值:本地化、開(kāi)箱即用、專屬性,并做更多的場(chǎng)景嘗試,尤其是政企市場(chǎng)。
而圍繞著DeepSeek一體機(jī)的上下游也變得火熱起來(lái),很多做算力服務(wù)器的銷售商,也開(kāi)始大力推銷一體機(jī),但最終真的簽單落地的,卻并不多。
且真實(shí)現(xiàn)狀是,有大多數(shù)官宣部署了DeepSeek大模型的企業(yè),實(shí)際上卻只是進(jìn)行了前期測(cè)試。
許昀也對(duì)光錐智能直言:“我們現(xiàn)在只是看到了市場(chǎng)需求,但很多都還在做一體機(jī)的試點(diǎn),行業(yè)適配還需要時(shí)間,所以現(xiàn)階段一體機(jī)實(shí)際訂貨量暫時(shí)還沒(méi)有明確的數(shù)據(jù)。”
但許昀卻也堅(jiān)定地看好大模型一體機(jī)賽道。
在他看來(lái),隨著當(dāng)前越來(lái)越多小版本大模型的推出,會(huì)更適合以一體機(jī)的形式進(jìn)行部署,畢竟其性價(jià)比非常有優(yōu)勢(shì),“現(xiàn)在軟件和硬件都在不停地進(jìn)步,所以未來(lái)一定會(huì)在某一個(gè)時(shí)間點(diǎn),有一些非常好用的垂類模型,能夠放在專用的一體機(jī)上?!?/p>
而一體機(jī)的未來(lái),一定是在行業(yè)上縱深發(fā)展,畢竟,只有這樣才能夠降低模型尺寸的同時(shí),還能夠把效果做到最優(yōu)。