近日，DeepSeek憑借其低成本、高性能的大模型研發(fā)成果，迅速引發(fā)了全球科技界的關(guān)注。浪潮云聯(lián)合沐曦股份、銓興科技等生態(tài)伙伴，發(fā)布預(yù)置DeepSeek-R1和DeepSeek-V3模型的海若一體機(jī)，率先實(shí)現(xiàn)671B DeepSeek大模型國(guó)產(chǎn)GPU單機(jī)推理服務(wù)，為行業(yè)客戶提供大模型智能應(yīng)用落地的一體化解決方案。
一站式大模型交付，開啟行業(yè)智能新篇
為解決行業(yè)大模型落地面臨的算力多樣適配難、數(shù)據(jù)不出域、模型微調(diào)效率低、推理服務(wù)性能差、模型服務(wù)交付慢等問題，海若一體機(jī)通過優(yōu)化算法框架和加速庫、軟硬全棧調(diào)優(yōu)等方式，提供模型微調(diào)、模型推理、智能體編排、智能體應(yīng)用等服務(wù)，以完備的方案為行業(yè)客戶提供大模型場(chǎng)景化應(yīng)用一站式交付。
開箱即用：海若一體機(jī)提供從算力、平臺(tái)、大模型到應(yīng)用的一體化交付方案，能夠?qū)崿F(xiàn)1－３天完成整體交付，開箱即用。
推理優(yōu)化：海若一體機(jī)量身定制了極致優(yōu)化的推理加速方案,基于軟硬件融合調(diào)優(yōu)，大模型的推理性能可大幅提升，解碼生成速度提升185.7%，平均首字時(shí)延降低55.9%。
安全增強(qiáng)：具備知識(shí)庫細(xì)粒度權(quán)限管控能力，提供私有化部署方案，防止數(shù)據(jù)泄露，支持模型輸入輸出安全檢測(cè)，保證內(nèi)容合法合規(guī)。
開放兼容：支持浪潮海若、DeepSeek、GPT-4、通義千問等主流大模型；支持EmBedding、ReRanker、ASR、TTS多類型；內(nèi)置模型池適配沐曦、昇騰等多種芯片，根據(jù)場(chǎng)景、性能、預(yù)算靈活選擇。
規(guī)格多樣：?jiǎn)⒑桨�、進(jìn)階版、旗艦版等多種規(guī)格，可根據(jù)模型參數(shù)和應(yīng)用規(guī)模靈活選擇。
全棧產(chǎn)品矩陣，精準(zhǔn)匹配算力需求
面向行業(yè)客戶的多樣場(chǎng)景需求，海若一體機(jī)推出三種規(guī)格，提供DeepSeek從671B到1.5B多種參數(shù)的預(yù)置大模型，用戶可根據(jù)業(yè)務(wù)場(chǎng)景靈活選型，實(shí)現(xiàn)精度與效率的最佳平衡。浪潮云聯(lián)合銓興科技研發(fā)高顯存的海若一體機(jī)，支持單機(jī)部署DeepSeek 671B參數(shù)大模型，釋放極致性能。
接入DeepSeek系列模型，賦能智能體開發(fā)
目前，海若AgentOS已正式上架DeepSeek-R1和DeepSeek-V3模型。此次接入的模型已全面融合海若推理鏈路，集成海若獨(dú)家內(nèi)容安全模塊，實(shí)現(xiàn)模型安全增強(qiáng)與企業(yè)級(jí)高可用保障，同時(shí)支持完善的日志分析和告警，助力用戶安全穩(wěn)定地構(gòu)建智能體應(yīng)用。AgentOS平臺(tái)致力于為用戶提供全流程、一站式的智能體開發(fā)服務(wù)，平臺(tái)支持接入各類大語言模型，支持模型的一鍵部署，并具備模型管理和監(jiān)控能力，大大降低了用戶在模型管理上的技術(shù)門檻和時(shí)間成本。同時(shí)，平臺(tái)提供知識(shí)庫管理、可視化工作流編排和豐富的工具組件，結(jié)合模型實(shí)現(xiàn)生產(chǎn)級(jí)智能體開發(fā)，簡(jiǎn)化模型開發(fā)流程，將為開發(fā)者和行業(yè)用戶帶來更快、更高效、更便捷的智能體開發(fā)和應(yīng)用體驗(yàn)。
當(dāng)前，智能體已成為新型應(yīng)用生態(tài)的關(guān)鍵入口。海若一體機(jī)作為大模型生產(chǎn)力平臺(tái)，將助力客戶管理模型、智能體、私域知識(shí)庫等大模型資產(chǎn)，推動(dòng)行業(yè)智能化升級(jí)，重塑大模型落地行業(yè)格局，引領(lǐng)智能經(jīng)濟(jì)新時(shí)代。
業(yè)界動(dòng)態(tài)
國(guó)家公共數(shù)據(jù)資源登記平臺(tái)已開發(fā)
皖公網(wǎng)安備34150102000370號(hào)
在線咨詢