正在閱讀:

8萬8上“滿血”DeepSeek-R1,第四范式發(fā)布SageOne Lite

掃一掃下載界面新聞APP

8萬8上“滿血”DeepSeek-R1,第四范式發(fā)布SageOne Lite

今天,第四范式推出大模型推理一體機(jī)解決方案 SageOne Lite,8.8 萬元可運(yùn)行滿血版 DeepSeek-R1,以極致性價(jià)比幫助企業(yè)乃至個(gè)人實(shí)現(xiàn)本地使用 DeepSeek-R1。

圖片來源: 圖蟲創(chuàng)意

今天,第四范式推出大模型推理一體機(jī)解決方案 SageOne Lite,8.8 萬元可運(yùn)行滿血版 DeepSeek-R1,以極致性價(jià)比幫助企業(yè)乃至個(gè)人實(shí)現(xiàn)本地使用 DeepSeek-R1。該方案基于 KTransformers ,支持單機(jī)運(yùn)行滿血模型服務(wù)。此外,一體機(jī)解決方案還集成了 ModelHub 平臺(tái)實(shí)現(xiàn)模型管理及不同模型服務(wù)的靈活切換,內(nèi)置智能算力池化管理平臺(tái)提升 GPU 資源使用效率,并搭載了大模型開發(fā)平臺(tái)及開箱即用 AI 應(yīng)用套件,幫助企業(yè)及開發(fā)者體驗(yàn)滿血強(qiáng)大智能同時(shí),快速創(chuàng)建生成式 AI 應(yīng)用。

SageOne Lite 大模型推理一體機(jī)解決方案,具備三大核心優(yōu)勢(shì):

1)低成本,單機(jī)體驗(yàn)滿血版 DeepSeek-R1

2)集成 ModelHub、大模型工具鏈,內(nèi)置 SageSuite AI 應(yīng)用套件:包含數(shù)百個(gè)開放模型服務(wù)供給及模型全生命周期管理、可視化 Workflow 流程編排等,并預(yù)裝 AI 應(yīng)用套件,包括 AIGC、智能辦公、數(shù)字員工、智能問答等等

3)智能算力池化,資源動(dòng)態(tài)調(diào)度:通過業(yè)界領(lǐng)先的第四范式 GPU 資源池化(vGPU)技術(shù),可對(duì)算力和顯存進(jìn)行智能切分,對(duì)計(jì)算任務(wù)智能調(diào)度,靈活在不同尺寸的大模型中進(jìn)行切換


未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。如需轉(zhuǎn)載請(qǐng)聯(lián)系:youlianyunpindao@163.com
以上內(nèi)容與數(shù)據(jù)僅供參考,與界面有連云頻道立場無關(guān),不構(gòu)成投資建議,使用前請(qǐng)核實(shí)。據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

評(píng)論

暫無評(píng)論哦,快來評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

8萬8上“滿血”DeepSeek-R1,第四范式發(fā)布SageOne Lite

今天,第四范式推出大模型推理一體機(jī)解決方案 SageOne Lite,8.8 萬元可運(yùn)行滿血版 DeepSeek-R1,以極致性價(jià)比幫助企業(yè)乃至個(gè)人實(shí)現(xiàn)本地使用 DeepSeek-R1。

圖片來源: 圖蟲創(chuàng)意

今天,第四范式推出大模型推理一體機(jī)解決方案 SageOne Lite,8.8 萬元可運(yùn)行滿血版 DeepSeek-R1,以極致性價(jià)比幫助企業(yè)乃至個(gè)人實(shí)現(xiàn)本地使用 DeepSeek-R1。該方案基于 KTransformers ,支持單機(jī)運(yùn)行滿血模型服務(wù)。此外,一體機(jī)解決方案還集成了 ModelHub 平臺(tái)實(shí)現(xiàn)模型管理及不同模型服務(wù)的靈活切換,內(nèi)置智能算力池化管理平臺(tái)提升 GPU 資源使用效率,并搭載了大模型開發(fā)平臺(tái)及開箱即用 AI 應(yīng)用套件,幫助企業(yè)及開發(fā)者體驗(yàn)滿血強(qiáng)大智能同時(shí),快速創(chuàng)建生成式 AI 應(yīng)用。

SageOne Lite 大模型推理一體機(jī)解決方案,具備三大核心優(yōu)勢(shì):

1)低成本,單機(jī)體驗(yàn)滿血版 DeepSeek-R1

2)集成 ModelHub、大模型工具鏈,內(nèi)置 SageSuite AI 應(yīng)用套件:包含數(shù)百個(gè)開放模型服務(wù)供給及模型全生命周期管理、可視化 Workflow 流程編排等,并預(yù)裝 AI 應(yīng)用套件,包括 AIGC、智能辦公、數(shù)字員工、智能問答等等

3)智能算力池化,資源動(dòng)態(tài)調(diào)度:通過業(yè)界領(lǐng)先的第四范式 GPU 資源池化(vGPU)技術(shù),可對(duì)算力和顯存進(jìn)行智能切分,對(duì)計(jì)算任務(wù)智能調(diào)度,靈活在不同尺寸的大模型中進(jìn)行切換

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。