AI推理框架軟件ONNX Runtime正式支持龍架構

發布時間：2024-3-13 09:02 發布者：eechina

關鍵詞： AI , ONNX , 龍芯

來源：大半導體產業網

據龍芯中科官微消息，近日，知名AI推理框架開源社區ONNX Runtime正式發布支持龍架構的版本1.17.0。今后，用戶可以直接使用ONNX Runtime開源社區發布的版本在龍芯平臺完成AI推理類應用的開發和部署，標志著龍架構軟件生態得到進一步完善。

據悉，ONNX Runtime（ORT）是近年來興起的AI推理框架軟件，被大量AI應用作為基礎AI推理引擎。可支持PyTorch、Tensorflow、TFLite等多種格式的模型輸入，以及CPU、GPU、IoT、NPU、FPGA等多樣化算力后端。龍芯中科技術團隊與社區保持緊密合作，期間向ONNX Runtime社區代碼倉庫提交了7697行代碼，對矩陣乘法、卷積、轉置等核心算子進行深度向量優化。

未來，龍芯中科將繼續與AI領域的國際開源軟件社區攜手合作，助力AI領域的生態發展和技術創新，為用戶帶來更優產品，實現更大價值。

本文地址：http://m.qingdxww.cn/thread-852891-1-1.html 【打印本頁】

本站部分文章為轉載或網友發布，目的在于傳遞和分享信息，并不代表本網贊同其觀點和對其真實性負責；文章版權歸原作者及原出處所有，如涉及作品內容、版權和其它問題，我們將根據著作權人的要求，第一時間更正或刪除。