|
由ChatGPT掀起的AI技術浪潮加速大模型產業的演進，昆侖芯緊密關注新時代計算產業發展的必然趨勢，加速AI芯片產業化，賦能大模型應用落地。 目前，昆侖芯圍繞大模型打造了多層級的產品矩陣，可支持十億、百億及千億以上模型，性能領先于業界主流GPU。 基于昆侖芯2代的AI加速卡R200，可支持1-10億參數大模型； 基于UBB服務器基板卡，AI加速器組R480-X8支持搭載8個昆侖芯2代OAM模組，數據帶寬大，適用于百億參數規模的訓推一體場景； 多個AI加速器組R480-X8可組成多機多卡的集群，提供更為強大的AI算力，更適用于千億以上大規模訓推場景。 針對大模型應用，昆侖芯提供了軟硬一體的技術棧，包括昆侖芯XFT大模型推理加速庫、框架層等。框架層具備數據標注、微調訓練、模型評估、模型優化、編排集成等能力，可為大模型提供推理服務與精調服務。 昆侖芯已與飛槳PaddlePaddle完成III級適配認證，攜手打磨大模型優化方案，通過分組切片、張量模型并行、數據并行、流水線并行等技術支持大模型高效訓練。同時，昆侖芯也與主流AI處理器、操作系統、AI框架完成了端到端適配。昆侖芯關注眼下技術熱點，也關注產業發展趨勢。 大模型時代引起了新一輪產業范式變革。以往算法工程師會通過用不同的數據集訓練專用模型，再應用于電力、石油、金融等不同的行業場景。未來，底層通用大模型將集成海量通用數據，通過加注少量行業知識、數據，即可形成行業大模型，擴散至不同場景。 隨著AI技術發展，將涌現越來越多的大模型，對數據與AI算力的需求相應攀升。廣義物聯網（IOT）將為大模型提供海量數據，在AI算力的賦能下，大模型可對數據進行處理與升華，再指導末端物聯網設備的行動，二者相輔相成，形成感知-認知-決策-行動的數據飛輪。 未來，昆侖芯將繼續緊密關注AI技術前沿趨勢，以成熟的芯片產品構筑大模型時代的強大算力底座，攜手生態伙伴構建軟硬一體的芯片生態，賦能大模型產業化落地。 |
