超級英雄 DeepMind CEO： 創造比人類大腦更強力的軟件 | 深度專訪

eaoogle_WSN

按：本文來自theguardian，新智元原創翻譯。

通過他的公司DeepMind，倫敦人Demis Hassabis正在領導著谷歌的一個計劃——創造比人類大腦更強力的軟件。但是，這對于人類的未來而言，意味著什么？

Demis Hassabis有著謙遜低調的風度和平易近人的神情，但是當他告訴我他正在為“解開智力的謎團，隨后將之用于解決其他一切問題”的使命而努力時，他看上去無比嚴肅。如果從其他人——幾乎任何一個其他人——口中

聽到這句話，都會讓人發笑，但是從他口中聽到就沒那么讓人想笑了。

39歲的Hassabis曾經是一位圍棋大師和一位視頻游戲策劃，而他的人工智能研究初創公司DeepMind在2014年據傳被谷歌以6.25億美元收購。他的父母都是移民，他在Finchley讀了一所州立綜合學校，又從劍橋大學和倫敦大學學院（UCL）獲得了計算機科學和認知神經科學的學位。一位“空想家”，與他一起工作的人們是這么評價他的，Hassabis也順水推舟地表示，他已經找到了“讓科學研究更高效”的方法，并且在領導著一個“21世紀的阿波羅登月計劃”。他是那種你在街上看到也不會留下印象的樣貌平平的家伙，但是Tim Berners-Lee曾經對我說，他是地球上最聰明的人之一。

人工智能已經來到我們的身邊，這毫無疑問，每當我們詢問Siri或是從安卓上看到推薦信息時，背后都有人工智能的影子。而在短期內，谷歌的產品肯定會從Hassabis的研究中獲益，即使個人化、搜索、YouTube、語音和面部識別從名字上看并沒有“AI”這個詞（“于是這只是軟件，對吧？”他露齒一笑，“這只是某種能派上用場的東西。”）。不過，從長遠來看，他正在研發的技術所具有的意義并不會僅僅止步于有情感的機器人和更智能的手機。它甚至不會止步于谷歌，也不會止步于Facebook、微軟、蘋果、以及其他正在搜刮人工智能博士并往這場最近的科技軍備競賽中砸下數以億計金錢的巨頭們。它關系著我們能想象得到的一切，以及更多我們想象不到的東西。

如果這聽上去極其野心勃勃——就是這樣沒錯。大多數AI系統都是“狹隘”的，訓練事前編寫好程序的代理（agent）來掌握某種特定的任務，它們并沒有太多其他的能力了。所以IBM的“深藍”可以在國際象棋上擊敗Gary Kasparov，卻無法在畫圈圈叉叉的井字棋上和一個三歲小孩對戰。Hassabis站在另一邊：他從人類大腦中獲取靈感，試圖創造第一臺“通用用途的學習機器”，一組靈活的、適應性強的算法，能夠——就像生物系統做的那樣——只利用原始數據來學習如何從頭開始掌握任何一種任務。

這就是人工通用智能（AGI），重點在于“通用”。在他憧憬的未來中，超級智能的機器將會與人類專家共同協作，差不多能解決任何問題。“癌癥、氣候變化、能源、基因組、宏觀經濟、金融系統、物理學，我們想要掌握的系統中有許多都在變得日益復雜，”他說道，“信息太過泛濫，即使是對于最聰明的人類來說，要在有限的生命中掌握這些也正變得越來越艱難。我們要如何篩選這些鋪天蓋地的數據、從中找到正確的洞見？人工通用智能可以被當作某種自動將非結構信息轉化為有行動意義（actionable）的知識的過程。”

獲得這種元解決方案可能仍然有數十年的路要走，但是它似乎正在不可避免地漸漸來臨。2015年2月，全球頂尖的科學雜志《自然》在封面上刊登了像素游戲“太空侵略者”的圖片，配以“自我學習的AI軟件”已經獲得了“人類級別的視頻游戲表現”的概述。翻開這期雜志，這篇來自DeepMind的論文描述了第一個成功的通用“端到端”學習系統，其中他們的人工代理（agent）——圖像處理單元上一個被稱作Deep-Q網絡的算法——學會了如何處理屏幕上的一個輸入，理解這個輸入的意義，然后做出決策來達到希望的結果（在這個例子里，就是成為精通許多經典雅達利2600游戲（包括太空侵略者、拳擊、和Pong）的超人）。這個突破在科技界一石激起千層浪。

隨后，在上個月，DeepMind第二次登上了《自然》雜志封面——在如此短的時間內第二次登上封面本身就是一件值得稱道的事了。這次，它略過70年代和80年代的復古街機游戲，回溯到更久以前選擇游戲。圍棋，這種來自中國的深奧的策略游戲，已經有超過2500年的歷史，連孔子的作品中也提到過圍棋。圍棋的分支因子非常龐大，它可能的行動步數超過了宇宙中的原子數量，并且，與象棋不同，它不能通過暴力計算來破解。它非常棘手，也不可能為它寫出一個評估函數（通過一組規則來告訴你誰在某個位置的輸贏以及輸多少贏多少）。取而代之的是，圍棋需要旗手具備某種類似“直覺”的東西：當被問起為何做出某個落子的決定時，專業旗手們往往說出類似這樣的話：“這樣做感覺比較對。”

很顯然，計算機一直以來在做這種判斷方面都不太在行。因此，對于AI來說，圍棋始終被視為“不同凡響的偉大挑戰”之一，大部分研究者預期至少還需要10年才能看到機器破解圍棋的希望。

但是經過嚴格的同行評審的證據就擺在面前：DeepMind的最新人工智能算法，AlphaGo，已經在去年秋天的一場秘密賽事中以5比0的成績完勝蟬聯三屆歐洲圍棋冠軍的樊麾，并且將在之后的3月于世界圍棋冠軍李世石對戰。“一個讓人震驚的成就”，帝國理工學院認知機器人學教授Murray Shanahan這樣向我描述這件事。“一個重要的里程碑”，超人類主義哲學家Nick Bostrom表示了贊同，他在《超級智能：路線圖，危險性與應對策略》一書中曾寫道，如果能夠完成AGI，這將會是一個無與倫比的事件——也許，借用谷歌工程主管Ray Kurzweil的話來說，甚至稱得上是“撕裂人類固有的歷史結構（a rupture in the fabric of history）”。在Bostrom位于牛津大學人類未來研究所的辦公室中，他告訴我，AlphaGo的出現“讓過去幾年間機器學習領域的進展一下子變得引人注目起來”。

“這相當酷，當然，”Hassabis同意道。當時我們約在他的辦公室見面，討論最近的這場勝利。像往常一樣，他穿著不倫不類的黑色上衣、褲子、以及鞋子：你覺得他是一個實習生也無可厚非，雖然據傳谷歌的收購讓他個人獲益8000萬歐元。“圍棋就是終極：它是所有游戲的頂峰，需要的智力深度（intellectual depth）也最高。它讓人目眩神迷，而令我們感到激動的不只是我們掌握了這個游戲，還有我們在其中使用的神奇有趣的算法。”比起科學，下圍棋更像一種藝術，他堅持道，“而AlphaGo的下棋方法與人類非常像，因為它是像人類一樣學習圍棋、接著通過不斷下棋變得日益強大的，就像你我會做的那樣。”Hassabis可能看上去還像個學生，但是他現在笑得像是為孩子感到自豪的家長。AlphaGo是他在職業生涯中獲得的最讓人興奮的成就。“這個量級超出了任何人的想象，”他對此津津樂道，“不過對于我們來說，最重要的是，這不是一個使用手工打造的規則的專家系統。使用通用用途的機器學習技術，它自己學會并精通了這個游戲。最終，我們希望將這些技術應用于中藥的現實世界的問題上，比如氣候建模或是復雜病癥分析，對吧？所以開始想象它可能下一步會解決什么問題是非常激動人心的。”

“氣候建模，復雜病癥分析——開始想象它可能下一步會解決什么問題是非常激動人心的。”

——Demis Hassabis

我第一次見到Hassabis是在2014年夏天，那是DeepMind被收購之后幾個月。從那時起，我一直觀察著他在各種各樣的環境中工作，在過去的8個月里也曾在不同情況下對他進行了3次正式采訪。這段時間里，我看著他從一個谷歌的AI天才逐漸成長為一個言辭鑿鑿的溝通者，找到了有效的方式向我這種非科學家描述他那極其復雜的工作——他對那些工作熱情洋溢——以及為何他的工作是重要的。他用詞質樸而易懂，非常擅長深入淺出地講解DeepMind使用的方法——也就是結合舊有和全新的AI技術——比如，在圍棋中，使用了傳統的“樹搜索”方法來分析落子效果，以及新穎的“深度學習網絡”（它模擬了大腦中的神經元網絡）——還有他們對不同領域AI研究的方法學“聯姻”。

在DeepQ中，他們將深度神經網絡與“強化學習”相結合，強化學習是所有動物都用到的、通過大腦中多巴胺驅動的獎勵系統進行學習的方法。在AlphaGo中，他們更進一步，增加了另一個更深度的強化學習，用來處理長期規劃。下一步，他們將會整合其他的，比如說記憶能力，以及其他的東西——直到理論上所有的智力里程碑（intelligence milestone）都就位。“我們在這些能力的數量方面有一個想法，”Hassabis說道，“結合所有這些不同的領域會是一把鑰匙，因為我們有興趣的是能夠將在某個領域中學到的東西應用到另一個領域中的算法。”

這聽上去有一點像人類自身。對于他簡歷的第一印象可能是他對一切都一知半解的好奇心，從棋盤游戲到視頻游戲到計算機編程到認知神經科學，更不用說人工智能了。事實上，他能取得今天的地位是因為聚焦于一點：將他強大的、幾十年一遇的智力與他畢生鉆研的那些領域精心結合。（簡要重點回顧：8歲編寫自己的計算機游戲；13歲國際象棋達到大師水平；17歲創造最早的包含AI的游戲之一“主題公園”；20歲從劍橋大學獲得計算機科學雙重一級榮譽學位（double first）；不久之后創辦自己的開創性視頻游戲公司Elixir；在2011年創辦DeepMind之前一直在被譽為“拼圖的最后一塊”的海馬體和情節記憶方面進行開拓性的學術研究）

“我很容易感到厭倦，而這個世界是那么有趣，有那么多很棒的事情可以做，”他承認（他也保持著蟬聯5屆腦力奧林匹克運動會全能腦力王（Pentamind）稱號的紀錄，腦力奧林匹克運動會中，參賽者們通過各種游戲進行比賽）。“如果我是一個體育運動員，我一定會想要成為一個十項全能選手。”

體育運動比賽的榮耀從未垂青于他。雖然Hassabis是利物浦球隊的忠實粉絲，也喜歡觀看所有的體育比賽，他4歲時開始下國際象棋，只有僅僅一年就在國內立于不敗之地，并在不久之后世界無敵。想必這很明顯地預示了他日后的生命將以腦力為重心。

1976年的倫敦北部，他誕生在一個有希臘-塞浦路斯混血的父親和新加坡-中國混血的母親的家庭中，是3個孩子中的老大。他的父母都是教師，曾經開過玩具店。他的妹妹是一位作曲家和鋼琴家；他的弟弟研究的是創造性寫作。對科技的熱情并沒有盤踞在這個家庭中。“在我家，我絕對是一頭奇怪的黑羊，”他開了一個玩笑，回憶起他小時候怎樣把國際象棋比賽的獎金花在當時的個人電腦ZX Spectrum 48K和Commodore Amiga上——買回來以后，他立刻將它們拆開，找出了如何編程的方法。“我的父母都是不喜歡新科技的人。他們不怎么喜歡計算機。他們有一些像波西米亞人。我的妹妹和弟弟也都走了藝術家的路線。他們沒有一個人真的對數學或是科學有興趣，”他聳了聳肩，有些抱歉的意思，“所以，好吧，這有些怪異，我不太確定（我的）這一切是從哪兒來的。”

他的公司在谷歌收購時只有50名員工，現在已經雇傭了接近200人；他們來自超過45個國家，將位于倫敦國王十字地區一角的大樓的6個樓層都占滿了。Hassabis下定決心要讓他的公司接近他的根源，無論受到何種搬遷的壓力（想必也包括搬遷往硅谷山景城）。

“倫敦北部生養了我，”他提醒我，“我絕對熱愛這座城市，這就是為什么我堅持留在這里：我不覺得有什么理由說倫敦不能擁有一個世界頂級AI研究所。而且我對于我們所在的地方感到非常自豪。”所有的房間都以智力上的巨人命名：特斯拉、拉瑪奴江、柏拉圖、費曼、亞里士多德。還有瑪麗·雪萊（他是粉絲嗎？“當然，”他向我保證，“《科學怪人（Frankenstein）》我讀了好幾遍。時刻記得這些東西是很重要的。”）

一樓是一間咖啡屋和裸露著磚塊結構的接待臺，擺著儲存椰子水的冰箱、桌上足球機和沙包，就像你對一家世界上最雄心勃勃的科技公司的期待一樣。上樓以后，在原本的樓頂上是新添的現代開放式結構，放眼望去，滿目都是倫敦的屋頂風光，美麗得讓人難以抗拒。

星期五的晚上，DeepMind的員工就在這里聚會歡飲。一位員工熱情地向我描述這個聚會，說是“醉人地結束一周”的方法。社交是一種內在生活方式：他們告訴我DeepMind內部有跑步俱樂部、足球隊、還有棋盤游戲俱樂部。墻上有一幅帶有可移動照片的位置圖，上面標明了每個人在特定某天會出現在哪張辦公桌上（hot-desking）。這是一種激進的開放式環境。走廊中與我擦肩而過的工程師們——大部分是男性——粉碎了我對于在科學的枯燥角落工作著的人們的刻板印象：這些家伙看上去健康，快樂，又酷炫。不得不說，空氣中散發著一股才智的迷人氣息。盡管有許多谷歌的最大競爭對手們都越來越多地重視起AI，更不用說全球的一流大學了，但是毫無疑問，地球上最聰明的人們都在排著隊想進入這里工作，到現在為止離職率還是漂亮的0%。

“我們真的很幸運，”Hassabis說，他將他的公司與阿波羅計劃和曼哈頓計劃類比，因為他正在以越來越快的速度集結起來的研究人員的質量和DeepMind的野心都讓人驚嘆不已。“每一年，毫不夸張地說，我們都能夠從每個國家獲得最好的科學家。所以我們將會有，比如說，波蘭的奧林匹克物理冠軍，法國的頂尖數學博士。我們已經有的想法比我們已經有的研究人員還要多，不過與此同時，青睞我們的優秀人才數量也比我們能接收的還要多。所以我們正處在一個非常幸運的位置。唯一的局限是，在不傷害公司文化的前提下，我們能吸收的人員數量。”

這種文化不只是沙包、免費的零食和屋頂的啤酒。Hassabis堅持不讓谷歌的收購以任何方式強行影響他自己的研究路徑，他估計自己花費了“至少和思考算法一樣多的時間來思考DeepMind的運轉效率”，并將這家公司描述為“調和了最好的學術圈與最激動人心的初創企業，擁有令人難以置信的能量來為創造力和成就助力。”他好幾次提到“創造力”這個詞，他觀察到，雖然他接受的正式訓練都來自于科學領域，但是他“本能地站在創造力或是直覺的一側”。“我談不上是一個標準的科學家，”他評價道，看上去并無諷刺之意。對于DeepMind的構造來說至關重要的，是被他稱作“膠水大腦（glue minds）”的人才：能夠在相當程度上理解無數科學領域、以此“用某種別具一格的方式找到不同領域間的連接點、隨后迅速鑒別出有前途的交叉領域連接可能是什么”的博學者。符合標準以后，這些像膠水一樣的人才可以每隔幾周在工作中的小組中登記信息，隨后快速靈活地在需要時調用資源和工程師。“所以如果你有一個讓人吃驚的天才研究員，那么幾乎立刻——與學術圈中不同——就會有三四個來自其他領域的人可以接過他的指揮棒、將自己的智慧添加進去，”他這樣描述道，“這會導致令人震驚的結果的產出速度非常迅速。”啟動于僅僅18個月前的AlphaGo項目就是對這一點的完美闡釋。

每天晚上，Hassabis都要登上北線列車，及時回家與家人團聚、享用晚餐。他們居住在海格特，離他長大的地方不遠。他的妻子是一位意大利分子生物學家，研究的是阿茲海默病。他們的兩個兒子一個7歲，一個9歲。Hassabis會與他們一起玩游戲、讀書，或是幫他們一起做作業（“他們都以自己的方式發揮著聰明才智，但是他們幾乎就像我對立的兩面，一面是科學，一面是創造”）。

他會帶他們上床睡覺，就像任何一個普通人家的父親一樣。隨后，大概晚上11點左右，當大部分人可能都合理地預計將要睡覺了的時候，他開始了他自己說的“第二天”。與美國方面的常規Skype通話將會持續到凌晨1點。之后是“純粹思考的時間。直到凌晨3點或是4點之前，那是我用來思考的時間：思考研究，思考我們的下一個挑戰，或是寫一份算法設計文檔”。

并沒有太多真正的AI代碼，他承認，“因為我的數學現在已經不行了。這更像是直覺性的思考。或者可能是對公司的策略性思考：如何擴張它，如何管理好它。或者可能只是我從一篇文章里讀到的東西、或是那一天從新聞里看到的東西，我會思考我們的研究能如何與它相連。”

這讓我想起了AlphaGo，它就在谷歌強大到難以想象的計算云中，不停地下棋、下棋、下棋，每一天的每一分每一秒都在自我提高，因為它學習的唯一方式就是繼續不停地做下去…

“它休息過嗎？”我問。

“沒有。無休無止！它甚至沒有圣誕假期。”

我猶豫了一下。“它需要休息嗎？”

“也許它就喜歡這樣，”他駁回了我的話，眼神閃亮。

懂了。所以Hassabis自己呢？“絕對是超人，”他的一位同事順口告訴過我。他關機休息過嗎？他能夠讓自己關機休息嗎？“這很難，”他承認，“我從來沒有真的感到過工作與生活對立的問題；它們是同一張畫布上的部分。我的確喜歡讀書、看電影、聽音樂，但這些都傾向于和我做的事有所關聯。”（他是一個影迷，與最近執導AI電影《Ex Machina》的Alex Garland是朋友；他也提到了他剛與美國電影制片人Brian Grazer見過面，那是一個“真的很酷的家伙”，而他們的會面討論的是，你猜得到的，就是AI）。“我的大腦就是為它而運轉的。”

那他的孩子、朋友、還有日常生活呢？“當然，我在試圖保持腳踏實地，否則我會變得有點瘋狂。關于孩子，最神奇的一點是，他們是唯一能讓你以類似的方式度過時間的存在。”

“如果存在超越了人類智能的數字智能，那么‘助手’這個詞就不是一個正確的描述了。”

—Elon Musk

他和自己的朋友們保持著親密的關系：他在UCL讀博士的時候遇到了DeepMind的聯合創始人之一Shane Legg，另一位Muatafa Suleyman則是他的發小。他講述了一段令人愉快的經歷：他在劍橋大學時與本科同學Dave Silver成了朋友，隨后在空閑時間教他如何下棋盤游戲，包括某種古老的中國游戲。二十年后，我注意到，David Silver是DeepMind里圍棋項目的主要程序員，而且也是最近這篇《自然》論文的第一作者。“是的，Dave和我認識很久了，”Hassabis笑著說，“我們曾經夢想在未來做這件事情，所以19歲的我們可能對于現在取得的這個成就感到非常欣慰。”

他沉思了一下，補充道：“雖然如此，但我真的沒有多少日常生活。在所有醒著的時刻，我都在思考這些東西，也許在我夢里也是這樣。因為它是如此讓人興奮，如此重要，也是我最有熱情的事情。”

他的眼里有一種神采，我只能用熠熠生輝來描述，就像孩子一樣天真無辜。“我覺得太幸運了。我想不出比我正在研究的更有趣的問題了，而且我也可以每天都思考這些問題。每時每刻，我都在致力于做那些我抱有信心的事。否則的話，生命如此短暫，為何還要做這些（不抱信心的）事呢？”

如果史蒂芬霍金、比爾蓋茨、Elon Musk、Jaan Tllinn、Nick Bostrom和其他一些偉大科學家對于AI的恐懼成真了，那么我們的生命可能會比我們預期的要短很多。對AI的顧慮從未經審查的人工通用智能武裝、到揮散不去的“技術奇點”的陰影，最終是讓機器有能力迭代地自我完善的“智能爆炸”，這會讓機器的智能超越人腦的智能，接著，就是超越人類的控制。如果超級智能之災即將來臨，那么過去的歷史是無法可靠地指示我們預見到這一點、在一切無法挽回前退出AI軍備競賽的。“當你看到某樣東西在技術上很誘人時，”Robert Oppenheimer曾經觀察到，這非常著名，“你會上前研究它；而只有在你取得了技術成果以后，你才會回過頭來討論應該用它來做什么。”“如果有辦法能確保超級智能永遠不會傷害人類，”Bostrom在幾十年后說道，“那么這樣的智能將會被創造出來。如果沒有這樣的保證，可能無論如何它們也會被創造出來。”“成功創造AI，”霍金在最近簡練地總結道，將是“人類歷史上最大的事件。但不幸的是，它可能也是最后一個事件。”

“好吧，我希望不會這樣，”Hassabis面不改色地說。在他看來，公眾對人工通用智能危言聳聽的態度，模糊了它近期巨大的潛力和價值，而且在根本上就錯位了，尤其是在時間上。 “我們距離任何類似人類水平的通用智能的東西都還有幾十年的時間，”他提醒我，“我們還踩在梯子的第一條橫杠上。我們都不過是在玩游戲。”他也認同，有一些“我們應該現在就考慮起來的法律風險”，但是他堅定地認為，這些要考慮的風險不是科幻小說中超級智能機器把它們的人類創造者無情消滅的反烏托邦場景。

此外，他強調，談到減少人工通用智能的潛在危險時，這個領域的領導者是DeepMind。雖然，很明顯，這家公司不像政府領導的阿波羅計劃和曼哈頓計劃那樣需要接受官方審查，但它的運作也相當透明。它傾向于發布自己的代碼，而它接受谷歌收購時的協議也包含了禁止將它的技術應用于軍備或是智能應用的條款。Hassabis和他的同事們在召開2015年波多黎各人工智能大會方面起到了重要的作用，并且簽署了公開信宣誓為“良好的目的”而使用技術，同時“避免潛在的陷阱”。最近他們幫助協辦了另一場在紐約的會議，會議期間他們組建了被大肆報道的內部倫理委員會和咨詢委員會（雖然是私下組建的）。“Hassabis對人工智能的安全性爭議了解得非常透徹，”Murray Shanahan說，“他當然不是幼稚的人，也不會把頭埋在沙子里當鴕鳥。”

“在鼓勵圍繞這些問題展開對話溝通這一方面，DeepMind一直是行業中的佼佼者，”Bostrom對此表示贊同，“并且在致力于進行一些未來可能需要用于解決這些挑戰的研究方面也是如此。”

我讓Hassabis列出他認為的未來主要的長期挑戰。“隨著這些系統變得越來越復雜，我們需要開始思考它們能怎樣做出優化、能對什么做出優化，”他回答道，“技術本身是中性的，但它是一個學習系統，所以，不可避免地，它們會帶有一些設計者的價值體系和文化背景的印記，所以我們對于價值觀的思考必須非常謹慎小心。”

關于超級智能問題，他說：“我們需要確保設定的目標是正確指明的，并且其中沒有任何模棱兩可的東西，隨著時間推移也依舊穩定。但在我們所有的系統中，最高級的目標仍然要由它的設計者們指定。系統可能會得出自己的方法來實現這個目標，但是它自己是不會創造一個自己的目標的。”

他用毫無動搖的語調寬慰我。“看，這些都是既有趣又困難的挑戰。隨著配備上所有新穎強大的技術，人工智能需要被負責地、符合倫理地使用，而這就是為什么我們現在正積極地呼吁對這個問題展開辯論和研究，那么當時候到來時，我們才會準備充足。”

什么時候到來？機器變得超級智能的時候，還是它們超越人類的時候？他笑了起來，“不，不，不，我指的是還要在那些之前！”（我覺得他是在開玩笑，盡管在2011年，他的同事Shane Legg的確說過：“我認為人類滅絕這件事可能會發生，而技術有可能在其中發揮不小的作用。”）Hassabis澄清道：“我的意思是，當這些系統強大到不只是會玩游戲時，我們放任它們處理更現實、更重要的事，比如醫療。然后我們需要確保我們知道它們將會有怎樣的能力。”他對我露齒一笑：“那將會阻止機器掌管世界的情景成真。”

Hassabis經常微笑。他待人友好，言辭讓人信服。他所說的一切似乎都很有道理，并不自以為是，而且誰知道呢：說不定人工通用智能將一直處于在我們的控制之下。但是許多人仍持懷疑的態度。“顯然，如果存在一個任何方面都大大超過人類的數字智能，‘助手’這個詞就不是一個正確的描述了。”Elon Musk反對道，他最近將AI技術的進步描繪成人類“正在召喚一個惡魔”。這位SpaceX的創始人、Tesla和PayPal的聯合創始人，曾經是DeepMind最早的投資者之一，但他投資DeepMind不是為了獲得金錢上的回報。“我的投資并不是為了投資所帶來的經濟利益，”他在加利福尼亞州的辦公室中這樣對我說，“我投資DeepMind的原因僅僅是因為想對AI的進展與威脅有更好的理解。如果我們對AI不夠小心，讓一些不好的事情發生了，到那時銀行存款將變得毫無意義。”

“Elon是這個行業里最聰明的人之一，并且有著驚人的溝通能力，”Hassabis態度中立地回應道，“而且我真的認為，像他這樣的人正在如此關注AI，是一件很酷的事情，因為這恰恰顯示了AI是一件大事。”他保持著外交辭令般的回應，但是來自其他領域的科學家放肆地公開對AI下斷言這樣的事確實激怒了他：畢竟，你沒有聽到過他對粒子物理學指手畫腳。

“總體來說，我發現了那些不真正在AI領域工作的人對于AI的理解都是不完全的。他們通常都沒有與許多AI專家交談過，所以他們腦袋里的思想實驗總是把他們帶偏，因為這些想法都是基于一些我認為即將被證明是錯誤的假設。”他又再一次提到，他組織的內部倫理委員會和咨詢委員會——其中都是來自各個科學和哲學領域的頂尖學者——將會管理未來任何的人工通用智能技術的應用。他毫不動搖地堅持現階段不公開進程的決定。“之前沒有任何人嘗試做過類似的東西，所以在我們對于公眾揣測我們在Twitter或者其他什么東西上做了什么能有額外的審查之前，我們還有許多事情需要探索，從第一天就要開始。”這個初始階段，他說，是關于“給每個人提供最新的消息，這樣下一階段我們才能準備好討論實際的算法和應用。對于許多參與其中的人來說，這不是他們的核心領域。我們需要他們的專業知識，但是他們必須弄清楚將會發生什么事。”

史蒂芬霍金作為一個“得到最新消息”意味著什么的榜樣，被人引以為鑒。Hassabis最近邀請霍金在劍橋大學進行私人會談。“僅僅是見到他對于我來說就顯然是巨大的榮耀了，” Hassabis興奮地說著，拿出手機——無論他的新東家怎么看，Hassabis仍然是霍金的擁躉——向我展示了他和霍金的自拍合照。“我們本來只安排了1個小時的時間，但是他提出了那么多的問題，以至于我們最后談了4個小時。他錯過了午餐，所以他的陪同人員不大喜歡我。”

在他們的會面之后，Hassabis指出，霍金沒有再在媒體報道時提及“任何關于AI的有煽動性的言論”；最令人驚訝的是，在他上個月的BBC Reith講座上，他所列出的他認為將會對人類產生威脅的列表上沒有將AI技術。“可能聽到更多關于實用性、更多關于我們可能建立的真實的系統，以及我們對這些系統能夠有的監察和控制的討論，的確起到了作用。” Hassabis大膽地猜想道。他環顧這間有許多布滿了難以辨認的字跡的白板的屋子。“一旦你理解了工程，這一切看上去就變得好理解多了，也合理得多了。”

很明顯，我沒有希望做到這一點，但是他真的相信霍金轉變了思想嗎？“我想，在談話的最后，是的，他寬慰了不少。他擁有這種好笑的、干巴巴的幽默感，在我離開之前，我對他說，‘所以你怎么想呢？’，然后他把打出了這樣的字，‘我祝你好運’。隨后，他眼里閃爍著的光芒，又補充道，‘但是不要太多。’”Demis Hassabis給了我一個勝利的微笑，說到：“我當時想，‘我會把這當做是勝利的宣告’。”