国产毛片a精品毛-国产毛片黄片-国产毛片久久国产-国产毛片久久精品-青娱乐极品在线-青娱乐精品

透過DeepSeek,聊聊存儲是如何給AI加速的

發(fā)布時間:2025-2-26 17:51    發(fā)布者:eechina
關(guān)鍵詞: 鎧俠 , AI加速 , DeepSeek , BiCS
作者:鎧俠

從AI服務器到AI PC,如何快速的用上DeepSeek成為熱門問題。無論DeepSeek Janus-Pro把多模態(tài)提升到了一個新層次,還是媲美主流的DeepSeek-V3,或者應用于本地的DeepSeek-V3,對存儲都提出了新的需求。以完整未蒸餾的DeepSeek R1模型為例,這是一個擁有6710億參數(shù)的混合專家(MoE)模型,未量化版本的文件體積高達720GB,而動態(tài)量化版本也達到150GB到400GB之間。

DeepSeek讓GPU算力一下子得到了空前的釋放,允許廠商將更多的資源集中到其它關(guān)鍵硬件中,比如更強大的并行能力,以及更優(yōu)秀的存儲方案。很顯然,常規(guī)的存儲方案已經(jīng)不能很好的解決效率和存儲的問題,在企業(yè)級和數(shù)據(jù)中心級SSD為AI提供存儲支持時,以QLC和CXL為例的新技術(shù)也正在協(xié)助AI以更低成本和更高的效率運行。



QLC與CXL:為AI鋪路

由于DeepSeek不僅降低了計算成本,多模態(tài)處理能力、說是知識圖譜和推理能力的優(yōu)秀表現(xiàn),使得廠商擁有足夠的資源調(diào)用更多的數(shù)據(jù)。這使得原本大量的冷數(shù)據(jù)變成了溫數(shù)據(jù)。溫數(shù)據(jù)對存儲有著更高的要求,需要相對HDD更快的傳輸速率,并且存儲數(shù)據(jù)可能每年以EB級增長。這導致SSD的需求往大容量和低成本的方向發(fā)展。

其中QLC能夠更好的在單位空間內(nèi)提升存儲容量,第八代BiCS FLASH™ 2Tb QLC的位密度比鎧俠目前所采用的第五代BiCS FLASH™的QLC產(chǎn)品提高了約2.3倍,寫入能效比提高了約70%。不僅如此,全新的QLC產(chǎn)品架構(gòu)可在單個存儲器封裝中堆疊16個芯片,為業(yè)界提供領(lǐng)先的4TB容量,并采用更為緊湊的封裝設(shè)計,尺寸僅為11.5 x 13.5 mm,高度為1.5 mm。

這意味著,未來采用第八代BiCS FLASH QLC的存儲產(chǎn)品在存儲空間擁有質(zhì)的飛躍,可以輕松將企業(yè)級SSD和數(shù)據(jù)中心級SSD容量提升至120TB以上。



密集的DeepSeek計算也意味著對內(nèi)存有著海量的要求,但動輒數(shù)百GB的訓練模型全部存儲在內(nèi)存中也意味著高昂的成本,如何利用BiCS FLASH™降低成本也是未來的思考方向。例如利用相變存儲原理,基于BiCS FLASH™結(jié)構(gòu)打造的XL-FLASH存儲級內(nèi)存(Storage Class Memory, SCM)與CXL相結(jié)合,開發(fā)相較內(nèi)存功耗更低、位密度更高,相較閃存讀取速度更快的存儲器。這不僅會提高存儲器利用效率,還有助于節(jié)能。



CXL技術(shù)本身通常也意味著更先進的PCIe版本支持,鎧俠則是積極響應PCIe升級的存儲制造商之一。例如,鎧俠率先推出支持PCIe 5.0的企業(yè)級固態(tài)硬盤CM7系列。PCIe 5.0 SSD與傳統(tǒng)存儲設(shè)備(如PCIe 4.0 SSD)的對比測試,結(jié)果顯示, CM7系列SSD在多個GPU并行訪問時,能夠提供91%的I/O吞吐量提升,此外,它的讀取延遲比傳統(tǒng)SSD低57%。同時,PCIe 5.0 SSD能機器學習訓練時間能夠得到顯著減少。以16個GPU并行處理為例,使用PCIe 5.0 SSD可以減少32到44天的訓練時間。

特別是在PCIe 5.0與NVMe™規(guī)范下實現(xiàn)可靠的RAID兼容性和互操作性能。特別是生成式AI與檢索增強生成 (RAG) 系統(tǒng)的重要性更勝以往,關(guān)系數(shù)據(jù)庫PostgreSQL和向量數(shù)據(jù)庫需求變得格外重要。例如通過Xinnor的RAID 解決方案的兼容性和互操作性測試,與采用相同硬件配置的軟件 RAID 解決方案相比,在數(shù)據(jù)降級模式下執(zhí)行PostgreSQL,效能更提升達25倍。



搶先布局

任何前沿技術(shù)不可能一蹴而就,AI技術(shù)的積累更是如此。流暢體驗的AI服務對數(shù)據(jù)傳輸速度有著很高的要求。在多年前,鎧俠已經(jīng)開始對AI展開布局,并致力于為人工智能的發(fā)展提供高性能的存儲解決方案。

為了推動檢索增強生成(RAG)擴展獲得更好的性能支持,并進一步降低成本。鎧俠在近期宣布開源AiSAQ™技術(shù),這是一項專為SSD優(yōu)化的新型“近似最近鄰”搜索(ANNS)算法,跳過將索引數(shù)據(jù)載入內(nèi)存(DRAM)的步驟,直接在SSD上執(zhí)行檢索操作,幫助企業(yè)/應用針對特定數(shù)據(jù)優(yōu)化,從而實現(xiàn)幫助大語言模型(LLM)訓練節(jié)省成本。



利用高性能存儲特性,鎧俠在AI前沿進行了諸多嘗試。包括通過Memory-Centric AI技術(shù)解決企業(yè)級SSD中圖像分類任務中災難性丟失問題,在神經(jīng)網(wǎng)絡(luò)不通過調(diào)整的前提下,在深度學習中快速獲得圖像特征辨別和標簽添加。并在數(shù)年前與NVIDIA展開深度合作,從加速StyleGAN、NeRF等算法,到協(xié)助NVIDIA搭建Omniverse平臺,包括搭建最新的物理AI開發(fā)平臺NVIDIA Cosmos,為LLM訓練整理自定義數(shù)據(jù)集的NVIDIA NeMo Curator。



針對前瞻性存儲,鎧俠在近期還正式發(fā)布了全新XD8系列PCIe 5.0 EDSFF(企業(yè)和數(shù)據(jù)中心標準型)E1.S固態(tài)硬盤。它是鎧俠第三代E1.S固態(tài)硬盤,符合PCIe 5.0(32 GT/s x 4)和NVMe™ 2.0規(guī)范,并支持開放計算項目(OCP)數(shù)據(jù)中心NVMe SSD v2.5規(guī)范。

鎧俠XD8系列專為云和超大規(guī)模環(huán)境設(shè)計,滿足數(shù)據(jù)中心對高性能、高效率和高可擴展性的日益增長的需求。通過這款新的固態(tài)硬盤,云服務提供商和超大規(guī)模企業(yè)能夠優(yōu)化基礎(chǔ)設(shè)施,在保持運營效率的同時提供卓越的性能。



讓AI移動起來

DeepSeek另一個實現(xiàn)領(lǐng)域則是在移動平臺。即便是春節(jié)假期,多個版本針對AI PC本地化AI部署的DeepSeek R1已經(jīng)成型,例如蒸餾版本的7B和14B參數(shù)模型在筆記本和消費級臺式機電腦上,可利用NPU和GPU實現(xiàn)離線運作,進一步確保了私有信息的安全。

對于AI PC而言,除了提供獨立GPU或者NPU進行AI加速,大容量NVMe SSD也同等重要,另外還要考慮到有限的AI PC內(nèi)部空間,固態(tài)硬盤需要同時兼顧性能與散熱。以鎧俠BG6系列為例,鎧俠 BG6 系列在AI PC上能夠展現(xiàn)卓越的性能和靈活性。采用 PCIe 4.0 和 NVMe 1.4c 規(guī)范,搭載高達2,048GB存儲空間。順序讀取速度最高可達 6,000 MB/s,隨機讀取速度更是高達 900,000 IOPS。這使得BG6系列成為緊湊型固態(tài)硬盤中的佼佼者,為用戶提供了更快速、更高效的數(shù)據(jù)處理體驗。



另外BG6 系列提供了多種容量選擇,包括 256GB、512GB、1,024GB 和 2,048GB,適用于不同用戶需求。其采用 M.2 Type 2230 和 Type 2280 模組封裝,可靈活應用于各類薄型設(shè)備,如超薄筆記本電腦、嵌入式設(shè)備。也給不同形態(tài)的AI PC部署本地AI提供了豐富的解決方案。

從數(shù)據(jù)中心、服務器,到個人計算機,鎧俠為AI計算提供了豐富、高效的存儲方案,并與合作伙伴展開深度合作,從軟件和硬件層面入手,利用高性能固態(tài)硬盤的特性,為AI計算提供可靠的存儲后盾,共同探索更多AI的可能性,充分利用AI與數(shù)據(jù),創(chuàng)造更多價值。

本文地址:http://m.qingdxww.cn/thread-882601-1-1.html     【打印本頁】

本站部分文章為轉(zhuǎn)載或網(wǎng)友發(fā)布,目的在于傳遞和分享信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責;文章版權(quán)歸原作者及原出處所有,如涉及作品內(nèi)容、版權(quán)和其它問題,我們將根據(jù)著作權(quán)人的要求,第一時間更正或刪除。
您需要登錄后才可以發(fā)表評論 登錄 | 立即注冊

廠商推薦

  • Microchip視頻專區(qū)
  • FPGA設(shè)計流程培訓教程
  • Chiptorials——如何使用ATECC608 TrustFLEX實現(xiàn)公鑰輪換
  • Chiptorials ——如何將CryptoAuthLib庫用于Microchip安全身份驗證IC
  • 無線充電基礎(chǔ)知識及應用培訓教程
  • 貿(mào)澤電子(Mouser)專區(qū)
關(guān)于我們  -  服務條款  -  使用指南  -  站點地圖  -  友情鏈接  -  聯(lián)系我們
電子工程網(wǎng) © 版權(quán)所有   京ICP備16069177號 | 京公網(wǎng)安備11010502021702
快速回復 返回頂部 返回列表
主站蜘蛛池模板: 韩日一级视频 | 国产精品九九九久久九九 | 国产香蕉视频在线观看 | 日韩免费高清视频 | 牛牛视频在线观看 | 亚洲毛片一级带毛片基地 | 久久国产精品99国产精 | 在线a免费观看 | 欧美一卡2卡三卡4卡公司免费 | 久久久久久国产精品三级 | 亚洲黄色片一级 | 国产一级三级三级在线视 | 中文字幕 日本 | 日韩娇小性hd | 欧美高清视频一区 | 国产精品国产高清国产专区 | 国产精品国产欧美综合一区 | 香蕉尹人在线观看免费下载 | 日韩精品一区二区三区毛片 | 成品人app软件大全免费下载 | 综合欧美日韩一区二区三区 | 欧美视频区 | 91精品久久 | 四虎影院免费观看视频 | 亚洲香蕉影视在线播放 | 8050午夜二级一级全黄 | 亚洲天堂在线观看完整版 | 成人日韩在线 | 国内外成人免费在线视频 | 手机看片亚洲 | 精品卡一卡2卡三卡免费 | 久久成人国产精品二三区 | 久久精品8| 自拍视频在线免费观看 | 亚洲专区在线播放 | 97精品在线播放 | 女人18毛片a级毛片一区二区 | 男人天堂视频网 | 一级特黄aaa大片在线观看 | 国产高清一级毛片在线人 | 久久久久久岛国免费网站 |