龍芯中科技術(shù)股份有限公司(以下簡(jiǎn)稱“龍芯中科”)近日正式宣布,其已成功發(fā)布基于DeepSeek大模型的軟硬全棧推理一體機(jī)。這一創(chuàng)新產(chǎn)品的發(fā)布,標(biāo)志著龍芯中科在人工智能本地化部署領(lǐng)域取得了重大突破,實(shí)現(xiàn)了從芯片、系統(tǒng)到框架的全棧國(guó)產(chǎn)化支持,徹底擺脫了對(duì)外國(guó)技術(shù)的依賴。 此次發(fā)布的推理一體機(jī)搭載了2顆龍芯3C5000處理器,支持最多4張?zhí)踉濼100加速卡,并兼容龍芯、銀河麒麟、統(tǒng)信UOS等國(guó)產(chǎn)操作系統(tǒng)。這一設(shè)計(jì)不僅提升了設(shè)備的整體性能,還確保了系統(tǒng)的安全性和穩(wěn)定性。 DeepSeek大模型由北京深度求索人工智能基礎(chǔ)技術(shù)研究有限公司推出,是一款基于Transformer架構(gòu)的深度神經(jīng)網(wǎng)絡(luò)模型。該模型通過(guò)海量語(yǔ)料數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,并經(jīng)過(guò)監(jiān)督微調(diào)、人類反饋的強(qiáng)化學(xué)習(xí)等進(jìn)行對(duì)齊,構(gòu)建了強(qiáng)大的深度神經(jīng)網(wǎng)絡(luò)。DeepSeek大模型能夠執(zhí)行語(yǔ)義分析、計(jì)算推理、問(wèn)答對(duì)話、篇章生成、代碼編寫(xiě)等多種任務(wù),為龍芯中科的推理一體機(jī)提供了強(qiáng)大的AI支持。 龍芯中科此次發(fā)布的推理一體機(jī)全面支持DeepSeek全系(7B、8B、14B、32B、70B)模型,用戶可以根據(jù)實(shí)際應(yīng)用場(chǎng)景和性能要求,靈活調(diào)整一體機(jī)的配置,包括內(nèi)存、存儲(chǔ)以及加速卡等。這不僅提升了設(shè)備的靈活性,還滿足了不同行業(yè)用戶的多樣化需求。 值得一提的是,龍芯中科推理一體機(jī)提供了DeepSeek本地私有化部署環(huán)境,確保企業(yè)智能化應(yīng)用所需的數(shù)據(jù)處理和存儲(chǔ)均在客戶本地實(shí)現(xiàn)。這一設(shè)計(jì)有效杜絕了數(shù)據(jù)在公有云端傳輸和存儲(chǔ)過(guò)程中可能遭遇的泄露風(fēng)險(xiǎn),為政企、教育、工業(yè)等行業(yè)用戶提供了安全可靠的AI解決方案。 |