|
中國科學(xué)院自動(dòng)化研究所攜手清華大學(xué)、北京大學(xué)等頂尖學(xué)府，共同宣布了一項(xiàng)重大科研成果：成功構(gòu)建了基于“內(nèi)生復(fù)雜性”的新型類腦網(wǎng)絡(luò)。這一突破性進(jìn)展不僅為AI模型的優(yōu)化與性能提升提供了全新的解決方案，也為構(gòu)筑AI與神經(jīng)科學(xué)之間的橋梁奠定了堅(jiān)實(shí)的基礎(chǔ)。 據(jù)中國科學(xué)院自動(dòng)化研究所消息，該研究團(tuán)隊(duì)由李國齊、徐波等科學(xué)家領(lǐng)銜，借鑒了大腦神經(jīng)元復(fù)雜動(dòng)力學(xué)特性，創(chuàng)新性地提出了“基于內(nèi)生復(fù)雜性”的類腦神經(jīng)元模型構(gòu)建方法。該方法有效改善了傳統(tǒng)AI模型通過向外拓展規(guī)模導(dǎo)致的計(jì)算資源消耗問題，為有效利用神經(jīng)科學(xué)發(fā)展AI開辟了新路徑。相關(guān)研究成果已在線發(fā)表于國際頂級期刊《自然·計(jì)算科學(xué)》（Nature Computational Science）。 
研究團(tuán)隊(duì)首先展示了脈沖神經(jīng)網(wǎng)絡(luò)神經(jīng)元LIF（Leaky Integrate and Fire）模型和HH（Hodgkin-Huxley）模型在動(dòng)力學(xué)特性上的等效性，并進(jìn)一步從理論上證明了HH神經(jīng)元可以與四個(gè)具有特定連接結(jié)構(gòu)的時(shí)變參數(shù)LIF神經(jīng)元（tv-LIF）在動(dòng)力學(xué)特性上實(shí)現(xiàn)等效�；谶@一發(fā)現(xiàn)，團(tuán)隊(duì)通過設(shè)計(jì)微架構(gòu)提升計(jì)算單元的內(nèi)生復(fù)雜性，使得HH網(wǎng)絡(luò)模型能夠模擬更大規(guī)模LIF網(wǎng)絡(luò)模型的動(dòng)力學(xué)特性，從而在更小的網(wǎng)絡(luò)架構(gòu)上實(shí)現(xiàn)相似的計(jì)算功能。 為了進(jìn)一步簡化模型并驗(yàn)證其有效性，研究團(tuán)隊(duì)將由四個(gè)tv-LIF神經(jīng)元構(gòu)建的“HH模型”（tv-LIF2HH）簡化為s-LIF2HH模型，并通過仿真實(shí)驗(yàn)驗(yàn)證了這種簡化模型在捕捉復(fù)雜動(dòng)力學(xué)行為方面的卓越性能。實(shí)驗(yàn)結(jié)果表明，HH網(wǎng)絡(luò)模型和s-LIF2HH網(wǎng)絡(luò)模型在表示能力和魯棒性上均展現(xiàn)出相似的性能，驗(yàn)證了內(nèi)生復(fù)雜性模型在處理復(fù)雜任務(wù)時(shí)的有效性和可靠性。尤為重要的是，HH網(wǎng)絡(luò)模型在計(jì)算資源消耗上更為高效，顯著減少了內(nèi)存和計(jì)算時(shí)間的使用，從而提高了整體的運(yùn)算效率。 這一研究成果為將神經(jīng)科學(xué)的復(fù)雜動(dòng)力學(xué)特性融入AI領(lǐng)域提供了新方法和理論支持，為實(shí)際應(yīng)用中的AI模型優(yōu)化和性能提升提供了可行的解決方案。研究團(tuán)隊(duì)通過信息瓶頸理論對上述研究結(jié)果進(jìn)行了深入解釋，為未來的研究指明了方向。 目前，研究團(tuán)隊(duì)已著手開展對更大規(guī)模HH網(wǎng)絡(luò)，以及具備更大內(nèi)生復(fù)雜性的多分支多房室神經(jīng)元的研究，旨在進(jìn)一步提升大模型的計(jì)算效率與任務(wù)處理能力，推動(dòng)研究成果在實(shí)際應(yīng)用場景中的快速落地。這一系列工作不僅有望推動(dòng)AI技術(shù)的革新，也將為神經(jīng)科學(xué)領(lǐng)域的研究帶來新的啟示。 |
