高通中國區(qū)董事長孟樸在日前舉辦的“2019 Qualcomm人工智能開放日”上表示，5G將成為一項(xiàng)通用技術(shù)，使萬事萬物彼此互連。 它也將如電力和互聯(lián)網(wǎng)一樣，為人類的生產(chǎn)生活帶來翻天腹地的變化，創(chuàng)新者也將迎來一個(gè)充滿新機(jī)遇的時(shí)代。

Qualcomm中國區(qū)董事長孟樸

“在5G時(shí)代，信息就像電一樣，往來穿梭于云和端之間，成為一種巨大的新能量。未來的10年中，與5G部署并行發(fā)展的技術(shù)領(lǐng)域，將是大數(shù)據(jù)的分析和運(yùn)用，其核心應(yīng)用就是人工智能”，孟樸接著說。在他看來，AI將推動(dòng)整個(gè)商業(yè)格局的根本性轉(zhuǎn)變，當(dāng)中包括了手機(jī)等移動(dòng)終端、汽車、智慧交通、物聯(lián)網(wǎng)等等。

作為產(chǎn)業(yè)的領(lǐng)先者，高通正在推動(dòng)AI從云到端的布局，助力開發(fā)者更快走入新時(shí)代。

從孟樸的介紹中我們得知，高通在2007年起就啟動(dòng)了首個(gè)AI研究項(xiàng)目，公司在過去十多年也一直致力于AI領(lǐng)域各個(gè)方面的研究，也驅(qū)動(dòng)公司產(chǎn)品路線圖中AI的應(yīng)用，他們說做的基礎(chǔ)研究和所交付的產(chǎn)品，可以讓AI應(yīng)用于眾多行業(yè)。到2018年，他們還成立了Qualcomm AI Research，希望進(jìn)一步加速AI創(chuàng)新。

高通投入AI研究已經(jīng)超過十年

高通技術(shù)工程高級總監(jiān)、 AI研發(fā)負(fù)責(zé)人侯紀(jì)磊博士也指出，高通正在打造平臺式創(chuàng)新，推動(dòng)人工只鞥呢在行業(yè)實(shí)現(xiàn)規(guī)�；�運(yùn)用。例如為了實(shí)現(xiàn)人工智能的的高能效，高通通過自動(dòng)化技術(shù)，利用AI技術(shù)來優(yōu)化AI模型，縮短產(chǎn)品上市時(shí)間并減少工程成本。具體下來則是通過壓縮、量化和編譯三種方式來實(shí)現(xiàn)。

高通實(shí)現(xiàn)高能效的三種方式

據(jù)侯紀(jì)磊介紹，高通在壓縮AI模型架構(gòu)的時(shí)候，能夠自動(dòng)移除不重要/榮譽(yù)單元，同時(shí)保證準(zhǔn)確度。數(shù)據(jù)顯示，在壓縮大三倍的時(shí)候，準(zhǔn)確度損失低于1%；在量化方面，也能在自動(dòng)降低權(quán)重和激活進(jìn)度的同時(shí)，保證準(zhǔn)確度。從高通提供的數(shù)據(jù)我們可以看到，他們在FP32和量化INT8上能實(shí)現(xiàn)近乎相同的準(zhǔn)確度，其更低內(nèi)存和計(jì)算則可以帶來每瓦特性能的4倍提升；至于編譯方面，高通面向自動(dòng)化硬件編譯的強(qiáng)化學(xué)習(xí)，可以應(yīng)對數(shù)十種潛在組合，在TensorFlow Lite上更是可以實(shí)現(xiàn)4倍加速。

如下圖所示，高通在AI硬件加速方面也有不少的研究。這對但比特操作，他們甚至實(shí)現(xiàn)了運(yùn)算能耗的10倍到100倍的提升�！案咄ㄉ踔聊軌虬蚜孔訄稣摰任锢韺W(xué)的基礎(chǔ)數(shù)學(xué)框架運(yùn)用到深度學(xué)習(xí)”，侯紀(jì)磊強(qiáng)調(diào)。

高通在AI硬件加速方面的研究

在這些研究的推動(dòng)下，高通在之前已經(jīng)能夠?yàn)榭蛻籼峁┍憬莸亩藗?cè)方案。例如其驍龍移動(dòng)平臺已為超過10億部智能手機(jī)提供領(lǐng)先的AI加速。以Qualcomm于去年年底推出驍龍855移動(dòng)平臺為例，它集成第四代多核Qualcomm AI Engine，其中包括全新設(shè)計(jì)的、專門面向AI處理而設(shè)計(jì)的硬件核心——Hexagon張量加速器（HTA）。

據(jù)了解，基于第四代AI引擎的高通驍龍855，在性能上是高通驍龍845的三倍，也是友商競品的兩倍，這主要得益于他們的在軟硬件方面的升級。不同于其他競爭對手在手機(jī)SoC上獨(dú)立設(shè)計(jì)一個(gè)加速器，高通通過靈活調(diào)用Kryo CPU、Adreno GPU和Hexagon DSP等傳統(tǒng)單元，搭配全新的張量加速器，高效率地實(shí)現(xiàn)AI加速應(yīng)用。

從高通之前的介紹我們得知，高通Adreno 640 GPU擁有50%的算術(shù)邏輯單元（ALU）提升，支持FP32和FP16浮點(diǎn)運(yùn)算；Kryo 485 CPU相比前代CPU，性能也有45%的提升，高通也為其融合了進(jìn)一步加速AI性能的全新點(diǎn)積指令；Hexagon 690 DSP則包含了全新的Hexagon張量加速器、向量擴(kuò)展內(nèi)核、以及優(yōu)化的標(biāo)量內(nèi)核。

以上三者的靈活調(diào)度幫助驍龍855的第四代AI Engine實(shí)現(xiàn)了每秒7TOPs的運(yùn)算能力，在多個(gè)方面賦能終端設(shè)備。

高通SoC的AI能力

高通同時(shí)也看到了云端推理的需求，憑借在移動(dòng)領(lǐng)域的獨(dú)特設(shè)計(jì)專長——領(lǐng)先的工藝制程、先進(jìn)的信號處理、低功耗和規(guī)�；�，高通宣布推出全新打造的Qualcomm Cloud AI 100加速器。這款用于數(shù)據(jù)中心的AI推理處理器，旨在讓分布式智能可以從云端遍布至終端之間的全部節(jié)點(diǎn)。高通也將為開發(fā)者提供完整的工具和框架支持。

基于這些技術(shù)，高通在日前于深圳舉辦的人工智能開放日上，攜手20多個(gè)伙伴帶來了超過40項(xiàng)基于高通AI Engine的AI應(yīng)用。使用搭載驍龍移動(dòng)平臺的OPPO、三星、vivo、小米等智能手機(jī)和利用基于驍龍平臺的AI開發(fā)套件，虹軟、百度、大象聲科、華捷艾米、Loom.ai、曠視、Mobius、Morpho、商湯、騰訊王者榮耀、騰訊AI Lab、中科創(chuàng)達(dá)、有道等企業(yè)展示了包括智慧影音、娛樂游戲、生活工具和行業(yè)應(yīng)用等四大類，如移動(dòng)端AI電競戰(zhàn)隊(duì)、AI通話智能降噪、AI嘯叫抑制、AI智能超級夜景、AI 智能美顏拍照、AI智能視頻虛化、實(shí)時(shí)語音翻譯、AR全屏翻譯、無人超市等豐富多彩的應(yīng)用，為用戶帶來更高效、智能、具備感知能力的極致體驗(yàn)。

孟樸也指出，到2025年，智能手機(jī)、PC/平板電腦、擴(kuò)展現(xiàn)實(shí)（XR）、汽車和物聯(lián)網(wǎng)這五大領(lǐng)域中的AI應(yīng)用率將會從2018年的不到10%提升到100%，而高通將會在當(dāng)中扮演一個(gè)重要角色。