首頁熱門文章
《連線》專訪神經(jīng)網(wǎng)絡(luò)之父：人工智能不再有冬天
發(fā)布時間：2018-12-18 分類：趨勢研究
據(jù)國外媒體報道，日前《連線》在G7峰會首次人工智能會議上采訪了谷歌高管、神經(jīng)網(wǎng)絡(luò)之父杰夫?辛頓(Geoff Hinton)，談及人工智能技術(shù)面臨的道德挑戰(zhàn)、信任度以及如何開發(fā)更有效人工智能等諸多問題。辛頓強調(diào)，人工智能已經(jīng)走進我們的生活，不會再有冬天。
上世紀70年代初英國研究生杰夫?辛頓(Geoff Hinton)開始建立簡單的數(shù)學模型，來描述人腦神經(jīng)元如何通過視覺理解世界。幾十年來，人們一直認為人工神經(jīng)網(wǎng)絡(luò)是一項不切實際的技術(shù)。但在2012年，辛頓和多倫多大學的兩名研究生利用人工神經(jīng)網(wǎng)絡(luò)有效提升了計算機識別照片中物體的準確度。六個月內(nèi)，谷歌收購了由這三位研究人員創(chuàng)立的一家初創(chuàng)公司。鮮為人知的人工神經(jīng)網(wǎng)絡(luò)開始成為硅谷的熱門話題。現(xiàn)在，所有的大型科技公司都把辛頓和其他初創(chuàng)公司煞費苦心開發(fā)的技術(shù)作為公司發(fā)展的未來技術(shù)，以及推動社會發(fā)展的核心技術(shù)。
上周，在G7峰會首次人工智能會議上，《連線》雜志采訪了辛頓。來自世界主要發(fā)達經(jīng)濟體的代表們在會上討論了如何推廣人工智能的有益之處，同時盡量減少失業(yè)和算法歧視等不利因素。以下是經(jīng)過編輯的采訪記錄：
《連線》:加拿大總理賈斯汀·特魯多（Justin Trudeau）在七國集團會議上表示，應(yīng)對人工智能帶來的道德挑戰(zhàn)還需要更多的工作。您怎么看？
杰夫?辛頓:我一直擔心致命的自動武器可能被濫用。我認為應(yīng)該像日內(nèi)瓦公約禁止使用化學武器一樣禁止它們。即便不是每個人都在上面簽名，其存在也會起到某種道德標桿的作用。你會注意到誰沒有簽名。
《連線》:你在谷歌的4500多名同事聯(lián)名致信，抗議谷歌與五角大樓續(xù)簽一份涉及將機器學習應(yīng)用于無人機圖像的合同。谷歌曾表示這并非用于攻擊性目的。你在信上簽名了嗎?
杰夫?辛頓:作為谷歌的高管，我不認為我應(yīng)該公開投訴，但是我私下抱怨了這一點。我沒有在這封信上簽名，但和谷歌聯(lián)合創(chuàng)始人謝爾蓋?布林(Sergey Brin)談過。他說他也有點不高興。所以他們沒有續(xù)簽。
《連線》:谷歌的領(lǐng)導(dǎo)層決定完成但不再續(xù)簽合同。他們還發(fā)布了一些使用人工智能的指導(dǎo)方針，其中包括承諾不將該技術(shù)用于武器。
杰夫?辛頓：我認為谷歌決定是正確的。會有各種各樣的東西需要云計算，很難知道在哪里畫一條底線，從某種意義上說這是隨意的。我很高興谷歌畫出了這條線。這些原則對我很有意義。
《連線》:人工智能在日常生活中也會引發(fā)倫理問題。比如說相關(guān)軟件被用于社會服務(wù)或衛(wèi)生保健的決策。我們應(yīng)該注意什么?
杰夫?辛頓:我是技術(shù)應(yīng)用方面的專家，而不是社會政策方面的專家。我確實擁有相關(guān)技術(shù)專長的一個地方是監(jiān)管機構(gòu)是否要求解釋人工智能系統(tǒng)是如何工作的。我認為那將是一場徹頭徹尾的災(zāi)難。
對于人類來說，他們無法解釋自己所做的大部分事情。比如說當你雇傭一個人的時候，這個決定是基于各種各樣你可以量化的東西，然后是各種各樣的直覺。人們不知道他們是怎么做到的。如果你讓他們解釋他們的決定，你是在強迫他們編造故事。
神經(jīng)網(wǎng)絡(luò)也存在類似的問題。當你訓(xùn)練一個神經(jīng)網(wǎng)絡(luò)時，它會學習十億的巨量數(shù)據(jù)，從而提取出知識。如果你輸入一個圖像，輸出的是正確的決定，比如說，這是不是一個行人。但如果你問“它為什么這么想?”如果有任何簡單的規(guī)則能決定一幅圖像是否包含行人，這種難題在很久以前就已經(jīng)解決了。
《連線》:那么我們怎么知道什么時候該信任這些系統(tǒng)呢?
杰夫?辛頓：你應(yīng)該根據(jù)他們的表現(xiàn)來進行規(guī)范。你進行實驗，看看這個東西是否有偏見，或者它殺死的人是否比正常人要更少。對于自動駕駛汽車而言，我認為人們現(xiàn)在多少接受了這一點。即使你不太清楚自動駕駛汽車是如何做到這一切的，但如果它的事故率比有人駕駛汽車少得多，那就是一件好事。我認為我們必須像對待人那樣去做:你只需要看看他們表現(xiàn)如何，如果它們一再出現(xiàn)問題，你可以說它們不太好。
《連線》:你曾說過，思考大腦如何工作會激發(fā)你對人工神經(jīng)網(wǎng)絡(luò)的研究。我們的大腦通過突觸連接的神經(jīng)元網(wǎng)絡(luò)從感官中獲取信息。而人工神經(jīng)網(wǎng)絡(luò)則通過數(shù)學神經(jīng)元網(wǎng)絡(luò)提供數(shù)據(jù)，神經(jīng)元之間由所謂的權(quán)值連接起來。在上周發(fā)表的一篇論文中，您和幾位合著者認為，我們應(yīng)該通過更多研究來揭示大腦中正在起作用的學習算法。為什么?
杰夫?辛頓:大腦解決問題的能力與我們大多數(shù)的神經(jīng)網(wǎng)絡(luò)非常不同。我們的大腦大約有100萬億個突觸。一般來說，人工神經(jīng)網(wǎng)絡(luò)的權(quán)值至少要小10000倍。大腦用了很多很多的突觸從幾個片段中集中學到盡可能多的東西。當有很多情景和范例時，深度學習擅長利用神經(jīng)元之間更少的連接來進行學習。我認為大腦并不關(guān)心把大量知識壓縮到幾個連接中，它關(guān)心的是利用大量連接快速提取知識。
《連線》:我們怎樣才能建立起更有效的機器學習系統(tǒng)呢?
杰夫?辛頓:我認為我們需要轉(zhuǎn)向一種不同的計算機。幸運的是，我這里有一個。
（辛頓把手伸進皮夾，拿出一塊閃亮的大硅片。這是英國初創(chuàng)公司Graphcore的一個原型，其致力于開發(fā)為機器學習算法提供動力的新型處理器。）
幾乎所有運行神經(jīng)網(wǎng)絡(luò)的計算機系統(tǒng)，甚至是谷歌的特殊硬件，都使用RAM存儲器。處理器從RAM存儲器讀取數(shù)據(jù)然后加以利用，但從RAM中提取神經(jīng)網(wǎng)絡(luò)的權(quán)重需要耗費大量的能量。所以現(xiàn)有的算法都確保一旦獲取了權(quán)重值，就會反復(fù)使用很多次。由于成本過大，你不能為每一個訓(xùn)練樣例做出改變。
但在Graphcore芯片上，權(quán)重存儲在處理器的緩存中，而不是RAM中，因此它們永遠不需要移動。因此有些東西會變得更容易探索。然后也許我們會得到一個系統(tǒng)，比如說有一萬億的權(quán)重，但是每個樣例只涉及到十億個。這更像是大腦的規(guī)模。
《連線》:最近市場對人工智能和機器學習的興趣和投資激增，意味著用于研究的資金比以往任何時候都要多。該領(lǐng)域的快速發(fā)展是否也帶來了新的挑戰(zhàn)?
杰夫?辛頓:人工智能社區(qū)面臨的一大挑戰(zhàn)是,如果你想要發(fā)表一篇關(guān)于機器學習的論文，其中必須有一個表，首先列出所有不同的數(shù)據(jù)集以及所有不同的方法，然后突出你的方法看起來是最好的。如果不是這樣，論文就很難發(fā)表。我不認為這會鼓勵人們?nèi)ニ伎既碌南敕ā?
如果你提交的論文有一個全新的觀點，它就不可能被接受，因為初級審稿人不見得能夠理解。或者你會遇到一位資深審稿人，他需要回顧太多的論文才能看得懂，但第一次會認為這肯定是胡說八道。任何讓大腦受傷的東西都不會被接受。我認為這很糟糕。
尤其是在基礎(chǔ)科學領(lǐng)域，我們應(yīng)該追求的是全新的理念。因為我們知道，從長遠來看一個全新的想法將比一個微小的改進能夠產(chǎn)生更大的影響。我認為現(xiàn)在需要進行改變。這個領(lǐng)域的資深人士不多，大都是年輕人。
《連線》:會阻礙這一領(lǐng)域的進展嗎?
杰夫?辛頓:需要再等上幾年，這種不平衡就會得到糾正。這是暫時的。公司都在忙于教育人們，大學也在教育人們，大學最終會在這個領(lǐng)域聘用更多的教授，這將是正確的。
《連線》:一些學者警告說，當前的炒作可能會就像上世紀80年代那樣進入“人工智能冬天”，當時就是由于進展沒有達到預(yù)期，興趣和資金都枯竭了。
杰夫?辛頓：不，不會有人工智能的冬天，因為它會推動你手機的技術(shù)進步。在過去的人工智能冬季，人工智能并不是你日常生活的一部分。現(xiàn)在它是。
