|
在經(jīng)歷了一個多世紀(jì)的研究后，人工智能 (AI) 最近變成了一個熱門并且異常重要的領(lǐng)域。尤其值得一提的是，模式識別和機器學(xué)習(xí)已經(jīng)發(fā)展到深度學(xué)習(xí) (DL)，這是一個比較新的名稱，指的是從經(jīng)驗中學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò) (NN)。DL目前已廣泛應(yīng)用到了工業(yè)和日常生活中。您智能手機上的圖像和語音識別，以及從一種語言到另一種語言的自動翻譯，就是DL發(fā)揮作用的兩個例子。 在講英語的盎格魯文化圈中，許多人以為DL是盎格魯文化圈國家的一項發(fā)明創(chuàng)造。但實際上，DL卻是在英語并非官方語言的國家發(fā)明的。首先，讓我們把目光投向過去，以整個計算史為背景了解AI的發(fā)展進(jìn)程。 早期的計算先行者 安提基特拉機械 (Antikythera Mechanism) 于公元前一世紀(jì)在希臘建造，是最早的機械計算機器之一。該裝置通過37個大小各異的齒輪運轉(zhuǎn)，用于預(yù)測天文現(xiàn)象 (圖1)。 
圖1：公元前1世紀(jì)希臘建造的安提基特拉機械 該裝置包含37個大小各異的齒輪，它被用來對天文現(xiàn)象進(jìn)行預(yù)測。(來源：DU ZHI XING/Shutterstock.com) 安提基特拉機械的先進(jìn)性在其后1600年內(nèi)一直未被超越，直到紐倫堡的彼得·亨利因 (Peter Henlein) 于1505年開始制造小型懷表。但是，與安提基特拉機械一樣，亨利因的機械也不是針對用戶給出的輸入來計算結(jié)果的通用機器。它們只是使用齒輪比來對時間做除法而已。手表將秒數(shù)除以60得到分鐘數(shù)，將分鐘數(shù)除以60得到小時數(shù)。 但在1623年，圖賓根的威廉·希卡德 (Wilhelm Schickard) 建造了首臺進(jìn)行基本算數(shù)的自動計算機。緊隨其后的是1640年布萊斯·帕斯卡 (Blaise Pascal) 的Pascaline加法器。隨后在1670年，戈特弗里德·威廉·萊布尼茨 (Gottfried Wilhelm Leibniz) 發(fā)明了步進(jìn)計算器，這是首臺能夠進(jìn)行加、減、乘、除所有四種基本運算的機器。1703年，萊布尼茨發(fā)表了《二進(jìn)制算術(shù)闡釋》(Explanation of Binary Mathematics)，這就是現(xiàn)在幾乎所有現(xiàn)代計算機上都在使用的二進(jìn)制計算方法。 數(shù)學(xué)分析和數(shù)據(jù)科學(xué)也在不斷發(fā)展。大約在1800年，卡爾·弗里德里希·高斯 (Carl Friedrich Gauss) 和阿德里安-馬里·勒讓德 (Adrien-Marie Legendre) 通過線性回歸（現(xiàn)在有時稱為“淺層學(xué)習(xí)”）發(fā)展出了模式識別的最小二乘法。高斯就是使用了這種算法讓人們再次觀測到小行星谷神星。他分析了先前觀測的數(shù)據(jù)點，然后使用多種技巧來調(diào)整預(yù)測算式的參數(shù)，從而準(zhǔn)確預(yù)測了谷神星再次出現(xiàn)的位置，這讓高斯名聲大噪。 差不多在同一個時期，法國出現(xiàn)了第一臺實用的程控機器：由穿孔卡片編程的自動織布機。1800年左右，約瑟夫·瑪麗·雅卡爾 (Joseph Marie Jacquard) 和同事就此成為了第一批事實上的程序員。 1837年，英格蘭的查爾斯·巴貝奇 (Charles Babbage) 設(shè)計了被稱為“分析機”的更通用的程控機器。當(dāng)時沒有人能夠把它造出來，也許是因為它的設(shè)計仍然基于繁瑣的十進(jìn)制而不是萊布尼茲的二進(jìn)制運算。不過，至少他設(shè)計的通用性次之的“差分機2號”在1991年造出的樣機表明能夠運行。 20世紀(jì)伊始，智能機器方向上的進(jìn)步大大加快。以下列出了1900年以來與AI發(fā)展相關(guān)的主要里程碑： ● 1914年，西班牙人萊昂納多·托雷斯·伊·克維多 (Leonardo Torres y Quevedo) 使用電磁元件建造了第一臺國際象棋自動機。它能從任何位置開始完成王車殘局而無需人工干預(yù)。當(dāng)時，國際象棋被認(rèn)為是一種高智力水平的活動。 ● 1931年，奧地利人庫爾特·哥德爾 (Kurt Gödel) 提出了第一種基于整數(shù)的通用編碼語言，從而成為AI理論以及整個理論計算機科學(xué)的奠基者。他用這種編碼語言來描述通用的計算定理證明器，確定數(shù)學(xué)、運算和AI的基本限制。1960年代和1970年代，AI和專家系統(tǒng)中許多后來的工作都將哥德爾的方法應(yīng)用于定理證明和推論。 ● 1935年，美國數(shù)學(xué)家阿隆佐·邱齊 (Alonzo Church) 發(fā)表了哥德爾1931年成果的擴展，解決了“可判定性難題”，也就是決策難題，引入了被稱為“λ演算”的替代通用語言。這便是流行編程語言LISP的基礎(chǔ)。英國的艾倫·圖靈 (Alan Turing) 在1936年使用了另一種同樣強大的理論結(jié)構(gòu)重新構(gòu)造了這項成果，現(xiàn)在這種結(jié)構(gòu)被稱為“圖靈機” (圖2)。他還提出了一種主觀AI測試。
圖2：英國人艾倫·圖靈在1936年使用被稱為圖靈機的理論結(jié)構(gòu)重構(gòu)了流行編程語言LISP。(來源：EQRoy/Shutterstock.com) ● 1935年至1941年間，康拉德·楚澤 (Konrad Zuse) 建造了第一臺具有實用意義并且可以工作的程序控制計算機Z3。在1940年代，他還設(shè)計了第一種高級編程語言，并用它編寫了第一個通用國際象棋程序。1950年，楚澤制造出世界第一臺商用計算機Z4，比第一臺UNIVAC早了幾個月。 ● 盡管“AI”這一名稱是約翰·麥卡錫 (John McCarthy) 在1956年的達(dá)特茅斯會議上創(chuàng)造的，但早在五年之前，在巴黎舉辦的著名的計算機與人類思想大會 (“Les Machines à Calculer et la Pensee Humaine”) 上就已討論這個主題。赫伯特·布魯?shù)吕?(Herbert Bruderer) 非常恰當(dāng)?shù)貙⑵浞Q為首次關(guān)于AI的大會。在那次有數(shù)百名世界專家參加的會議上，諾伯特·維納 (Norbert Wiener) 和前面提到的托雷斯·伊·克維多著名的國際象棋機進(jìn)行了一場對局。 ● 20世紀(jì)50年代后期，弗蘭克·羅森布拉特 (Frank Rosenblatt) 開發(fā)了用于“淺層神經(jīng)網(wǎng)絡(luò)”的感知機和簡單學(xué)習(xí)的算法。這些實際上是高斯和勒讓德在1800年左右推出的古老線性回歸器的變形。羅森布拉特后來還考慮過更深度的網(wǎng)絡(luò)，但并未取得太多進(jìn)展。 ● 1965年，兩位烏克蘭人阿列克謝·伊瓦赫年科 (Alexey Ivakhnenko) 和瓦倫丁·拉帕 (Valentin Lapa) 發(fā)表了第一篇有關(guān)具有任意層數(shù)的深層多層感知機學(xué)習(xí)算法的文章。如果說前饋網(wǎng)絡(luò)領(lǐng)域中有一位“深度學(xué)習(xí)之父”，一定非伊瓦赫年科莫屬。即使按照2000年以后的標(biāo)準(zhǔn)，他的網(wǎng)絡(luò)也屬于深層 (達(dá)到8層)。和如今的深度神經(jīng)網(wǎng)絡(luò)類似，他的網(wǎng)絡(luò)能夠通過學(xué)習(xí)來創(chuàng)建分層和分布式的傳入數(shù)據(jù)內(nèi)部表述。最近幾十年來，深度學(xué)習(xí)變得非常重要。它是AI的一個專門化分支，在某種程度上與人腦有關(guān)；人腦包含大約1000億個神經(jīng)元，每個神經(jīng)元都與1萬個其他神經(jīng)元相連接。其中有些是輸入神經(jīng)元，可為其他神經(jīng)元提供數(shù)據(jù)（聽覺、視覺、觸覺、痛覺、饑餓感）。還有一些神經(jīng)元是輸出神經(jīng)元，可以控制肌肉。大多數(shù)神經(jīng)元隱藏于二者之間，思維就在這些神經(jīng)元中進(jìn)行。大腦通過改變連接的強度或權(quán)重來學(xué)習(xí)，這些連接決定了神經(jīng)元相互影響的強度，并對一生中的所有經(jīng)歷進(jìn)行編碼。如今的深度學(xué)習(xí)人工神經(jīng)網(wǎng)絡(luò)正是由此獲得啟發(fā)，能夠比之前的方法更好地學(xué)習(xí)。 ● 1969年，馬文·明斯基 (Marvin Minsky) 和西摩·佩珀特 (Seymour Papert) 的出名著作《Perceptrons: an introduction to computational geometry》(感知機：計算幾何學(xué)導(dǎo)論) 介紹了淺層學(xué)習(xí)的局限性，探討了這個實際上已在4年前由阿列克謝·伊瓦赫年科和瓦倫丁·拉帕解決的問題。有人說明斯基的書延緩了與神經(jīng)網(wǎng)絡(luò)有關(guān)的研究，但事實并非如此，或者說在美國之外進(jìn)行的研究肯定不是這種情況。在隨后的幾十年里，許多研究者 (尤其是在東歐) 以伊瓦赫年科等人的成果為基礎(chǔ)繼續(xù)研究。即使是在2000年代，人們?nèi)栽谑褂盟粡V泛引用的方法來訓(xùn)練深層網(wǎng)絡(luò)。 1970年之前的歷史就介紹到這里。在AI歷史第二部分，我們將會詳細(xì)講述后續(xù)發(fā)展。 文章來源：貿(mào)澤電子 作者簡介：Jürgen Schmidhuber經(jīng)常被媒體譽為「現(xiàn)代人工智能之父」。他在大約15歲時就希望能開發(fā)一種比他自己更聰明、能夠自我完善的人工智能 (AI)，并以此作為退休之前的主攻目標(biāo)。他的實驗室自1991年起引領(lǐng)了深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的研究，提出了包括長短期記憶 (LSTM) 在內(nèi)的多項技術(shù)，為機器學(xué)習(xí)領(lǐng)域帶來了革命性的創(chuàng)新。到2017年，LSTM已經(jīng)在30億設(shè)備上得到運用，每天由全球數(shù)家市值最高上市公司的用戶發(fā)起的使用請求多達(dá)數(shù)十億次。LSTM顯著改善了超過20億臺Android手機的語音識別功能（2015年起）；谷歌翻譯使用LSTM大幅改善了機器翻譯的質(zhì)量（2016年起）；Facebook每天使用LSTM技術(shù)執(zhí)行逾45億次自動翻譯（2017年）；蘋果公司在約10億臺iPhone的Siri和Quicktype功能中采用了LSTM技術(shù)（2016年起）；亞馬遜公司的Alexa語音助手也采用LSTM技術(shù)來回答問題（2016年起）；還有各種數(shù)不勝數(shù)的其他應(yīng)用也采用了LSTM技術(shù)。2011年，他的團(tuán)隊率先借助深度神經(jīng)網(wǎng)絡(luò)技術(shù)贏得了一項官方舉辦的計算機視覺識別大賽，并且識別能力超過了人類；2012年，他們又率先借助深度神經(jīng)網(wǎng)絡(luò)技術(shù)贏得了一項以檢測癌癥為主題的醫(yī)療影像識別大賽。這些成就無不引起了業(yè)界的極大興趣。此外，它的研究小組還涉足元學(xué)習(xí)、數(shù)學(xué)嚴(yán)謹(jǐn)?shù)耐ㄓ肁I，以及在通用問題求解中通過自我學(xué)習(xí)實現(xiàn)遞歸自我改善（1987年起）。在1990年代，他在研究中引入了無監(jiān)督對抗神經(jīng)網(wǎng)絡(luò)，這些神經(jīng)網(wǎng)絡(luò)通過極大極小博弈 (minimax) 的方式相互競爭，以實現(xiàn)人工好奇心等特性。他的創(chuàng)造力，好奇心和樂趣的正式理論解釋了藝術(shù)，科學(xué)，音樂和幽默。他提出的有關(guān)創(chuàng)造力、好奇心和樂趣的形式理論可以為藝術(shù)、科學(xué)、音樂和幽默提出解釋。他還概括了算法信息論和物理學(xué)中的多世界理論，并且引入了「低復(fù)雜度美學(xué)」的概念，也就是信息時代的極簡藝術(shù)形式。他在研究生涯中獲獎無數(shù)，寫作了超過350篇經(jīng)過同行評審的論文，并且頻繁現(xiàn)身大型活動的主題演講。他是NNAISENSE公司的首席科學(xué)家，該公司肩負(fù)著率先實現(xiàn)實用的通用AI的使命。他還向許多政府機構(gòu)提供有關(guān)AI戰(zhàn)略的建議。 |
