|
在經歷了一個多世紀的研究后，人工智能 (AI) 最近變成了一個熱門并且異常重要的領域。尤其值得一提的是，模式識別和機器學習已經發展到深度學習 (DL)，這是一個比較新的名稱，指的是從經驗中學習的人工神經網絡 (NN)。DL目前已廣泛應用到了工業和日常生活中。您智能手機上的圖像和語音識別，以及從一種語言到另一種語言的自動翻譯，就是DL發揮作用的兩個例子。 在講英語的盎格魯文化圈中，許多人以為DL是盎格魯文化圈國家的一項發明創造。但實際上，DL卻是在英語并非官方語言的國家發明的。首先，讓我們把目光投向過去，以整個計算史為背景了解AI的發展進程。 早期的計算先行者 安提基特拉機械 (Antikythera Mechanism) 于公元前一世紀在希臘建造，是最早的機械計算機器之一。該裝置通過37個大小各異的齒輪運轉，用于預測天文現象 (圖1)。 
圖1：公元前1世紀希臘建造的安提基特拉機械 該裝置包含37個大小各異的齒輪，它被用來對天文現象進行預測。(來源：DU ZHI XING/Shutterstock.com) 安提基特拉機械的先進性在其后1600年內一直未被超越，直到紐倫堡的彼得·亨利因 (Peter Henlein) 于1505年開始制造小型懷表。但是，與安提基特拉機械一樣，亨利因的機械也不是針對用戶給出的輸入來計算結果的通用機器。它們只是使用齒輪比來對時間做除法而已。手表將秒數除以60得到分鐘數，將分鐘數除以60得到小時數。 但在1623年，圖賓根的威廉·希卡德 (Wilhelm Schickard) 建造了首臺進行基本算數的自動計算機。緊隨其后的是1640年布萊斯·帕斯卡 (Blaise Pascal) 的Pascaline加法器。隨后在1670年，戈特弗里德·威廉·萊布尼茨 (Gottfried Wilhelm Leibniz) 發明了步進計算器，這是首臺能夠進行加、減、乘、除所有四種基本運算的機器。1703年，萊布尼茨發表了《二進制算術闡釋》(Explanation of Binary Mathematics)，這就是現在幾乎所有現代計算機上都在使用的二進制計算方法。 數學分析和數據科學也在不斷發展。大約在1800年，卡爾·弗里德里希·高斯 (Carl Friedrich Gauss) 和阿德里安-馬里·勒讓德 (Adrien-Marie Legendre) 通過線性回歸（現在有時稱為“淺層學習”）發展出了模式識別的最小二乘法。高斯就是使用了這種算法讓人們再次觀測到小行星谷神星。他分析了先前觀測的數據點，然后使用多種技巧來調整預測算式的參數，從而準確預測了谷神星再次出現的位置，這讓高斯名聲大噪。 差不多在同一個時期，法國出現了第一臺實用的程控機器：由穿孔卡片編程的自動織布機。1800年左右，約瑟夫·瑪麗·雅卡爾 (Joseph Marie Jacquard) 和同事就此成為了第一批事實上的程序員。 1837年，英格蘭的查爾斯·巴貝奇 (Charles Babbage) 設計了被稱為“分析機”的更通用的程控機器。當時沒有人能夠把它造出來，也許是因為它的設計仍然基于繁瑣的十進制而不是萊布尼茲的二進制運算。不過，至少他設計的通用性次之的“差分機2號”在1991年造出的樣機表明能夠運行。 20世紀伊始，智能機器方向上的進步大大加快。以下列出了1900年以來與AI發展相關的主要里程碑： ● 1914年，西班牙人萊昂納多·托雷斯·伊·克維多 (Leonardo Torres y Quevedo) 使用電磁元件建造了第一臺國際象棋自動機。它能從任何位置開始完成王車殘局而無需人工干預。當時，國際象棋被認為是一種高智力水平的活動。 ● 1931年，奧地利人庫爾特·哥德爾 (Kurt Gödel) 提出了第一種基于整數的通用編碼語言，從而成為AI理論以及整個理論計算機科學的奠基者。他用這種編碼語言來描述通用的計算定理證明器，確定數學、運算和AI的基本限制。1960年代和1970年代，AI和專家系統中許多后來的工作都將哥德爾的方法應用于定理證明和推論。 ● 1935年，美國數學家阿隆佐·邱齊 (Alonzo Church) 發表了哥德爾1931年成果的擴展，解決了“可判定性難題”，也就是決策難題，引入了被稱為“λ演算”的替代通用語言。這便是流行編程語言LISP的基礎。英國的艾倫·圖靈 (Alan Turing) 在1936年使用了另一種同樣強大的理論結構重新構造了這項成果，現在這種結構被稱為“圖靈機” (圖2)。他還提出了一種主觀AI測試。
圖2：英國人艾倫·圖靈在1936年使用被稱為圖靈機的理論結構重構了流行編程語言LISP。(來源：EQRoy/Shutterstock.com) ● 1935年至1941年間，康拉德·楚澤 (Konrad Zuse) 建造了第一臺具有實用意義并且可以工作的程序控制計算機Z3。在1940年代，他還設計了第一種高級編程語言，并用它編寫了第一個通用國際象棋程序。1950年，楚澤制造出世界第一臺商用計算機Z4，比第一臺UNIVAC早了幾個月。 ● 盡管“AI”這一名稱是約翰·麥卡錫 (John McCarthy) 在1956年的達特茅斯會議上創造的，但早在五年之前，在巴黎舉辦的著名的計算機與人類思想大會 (“Les Machines à Calculer et la Pensee Humaine”) 上就已討論這個主題。赫伯特·布魯德勒 (Herbert Bruderer) 非常恰當地將其稱為首次關于AI的大會。在那次有數百名世界專家參加的會議上，諾伯特·維納 (Norbert Wiener) 和前面提到的托雷斯·伊·克維多著名的國際象棋機進行了一場對局。 ● 20世紀50年代后期，弗蘭克·羅森布拉特 (Frank Rosenblatt) 開發了用于“淺層神經網絡”的感知機和簡單學習的算法。這些實際上是高斯和勒讓德在1800年左右推出的古老線性回歸器的變形。羅森布拉特后來還考慮過更深度的網絡，但并未取得太多進展。 ● 1965年，兩位烏克蘭人阿列克謝·伊瓦赫年科 (Alexey Ivakhnenko) 和瓦倫丁·拉帕 (Valentin Lapa) 發表了第一篇有關具有任意層數的深層多層感知機學習算法的文章。如果說前饋網絡領域中有一位“深度學習之父”，一定非伊瓦赫年科莫屬。即使按照2000年以后的標準，他的網絡也屬于深層 (達到8層)。和如今的深度神經網絡類似，他的網絡能夠通過學習來創建分層和分布式的傳入數據內部表述。最近幾十年來，深度學習變得非常重要。它是AI的一個專門化分支，在某種程度上與人腦有關；人腦包含大約1000億個神經元，每個神經元都與1萬個其他神經元相連接。其中有些是輸入神經元，可為其他神經元提供數據（聽覺、視覺、觸覺、痛覺、饑餓感）。還有一些神經元是輸出神經元，可以控制肌肉。大多數神經元隱藏于二者之間，思維就在這些神經元中進行。大腦通過改變連接的強度或權重來學習，這些連接決定了神經元相互影響的強度，并對一生中的所有經歷進行編碼。如今的深度學習人工神經網絡正是由此獲得啟發，能夠比之前的方法更好地學習。 ● 1969年，馬文·明斯基 (Marvin Minsky) 和西摩·佩珀特 (Seymour Papert) 的出名著作《Perceptrons: an introduction to computational geometry》(感知機：計算幾何學導論) 介紹了淺層學習的局限性，探討了這個實際上已在4年前由阿列克謝·伊瓦赫年科和瓦倫丁·拉帕解決的問題。有人說明斯基的書延緩了與神經網絡有關的研究，但事實并非如此，或者說在美國之外進行的研究肯定不是這種情況。在隨后的幾十年里，許多研究者 (尤其是在東歐) 以伊瓦赫年科等人的成果為基礎繼續研究。即使是在2000年代，人們仍在使用他被廣泛引用的方法來訓練深層網絡。 1970年之前的歷史就介紹到這里。在AI歷史第二部分，我們將會詳細講述后續發展。 文章來源：貿澤電子 作者簡介：Jürgen Schmidhuber經常被媒體譽為「現代人工智能之父」。他在大約15歲時就希望能開發一種比他自己更聰明、能夠自我完善的人工智能 (AI)，并以此作為退休之前的主攻目標。他的實驗室自1991年起引領了深度學習神經網絡的研究，提出了包括長短期記憶 (LSTM) 在內的多項技術，為機器學習領域帶來了革命性的創新。到2017年，LSTM已經在30億設備上得到運用，每天由全球數家市值最高上市公司的用戶發起的使用請求多達數十億次。LSTM顯著改善了超過20億臺Android手機的語音識別功能（2015年起）；谷歌翻譯使用LSTM大幅改善了機器翻譯的質量（2016年起）；Facebook每天使用LSTM技術執行逾45億次自動翻譯（2017年）；蘋果公司在約10億臺iPhone的Siri和Quicktype功能中采用了LSTM技術（2016年起）；亞馬遜公司的Alexa語音助手也采用LSTM技術來回答問題（2016年起）；還有各種數不勝數的其他應用也采用了LSTM技術。2011年，他的團隊率先借助深度神經網絡技術贏得了一項官方舉辦的計算機視覺識別大賽，并且識別能力超過了人類；2012年，他們又率先借助深度神經網絡技術贏得了一項以檢測癌癥為主題的醫療影像識別大賽。這些成就無不引起了業界的極大興趣。此外，它的研究小組還涉足元學習、數學嚴謹的通用AI，以及在通用問題求解中通過自我學習實現遞歸自我改善（1987年起）。在1990年代，他在研究中引入了無監督對抗神經網絡，這些神經網絡通過極大極小博弈 (minimax) 的方式相互競爭，以實現人工好奇心等特性。他的創造力，好奇心和樂趣的正式理論解釋了藝術，科學，音樂和幽默。他提出的有關創造力、好奇心和樂趣的形式理論可以為藝術、科學、音樂和幽默提出解釋。他還概括了算法信息論和物理學中的多世界理論，并且引入了「低復雜度美學」的概念，也就是信息時代的極簡藝術形式。他在研究生涯中獲獎無數，寫作了超過350篇經過同行評審的論文，并且頻繁現身大型活動的主題演講。他是NNAISENSE公司的首席科學家，該公司肩負著率先實現實用的通用AI的使命。他還向許多政府機構提供有關AI戰略的建議。 |
