首頁熱門文章
人工智能不能缺少因果推斷
發布時間：2019-08-05 分類：趨勢研究
早在兩千多年前，亞里士多德等西方哲學家就已經提出了因果的概念，并開始思考事件之間的“導致”關系。
可以說，因果思維是科學技術的基礎。圖靈獎獲得者朱迪·珀爾在《為什么》一書中給出了很多因果推斷的應用實例，它們來自社會各個領域的方方面面。既然因果論這么重要，為何它的數學形式化研究一直滯后，直到最近才初見雛形？主要原因就在于研究因果關系的必備工具之一的統計學在20世紀后才真正成為一門嚴謹的學問。
在書中，珀爾把因果論分為三個層面，他稱之為“因果關系之梯”：第一層級研究“關聯”，第二層級研究“干預”，第三層級研究“反事實推理”。珀爾特別指出，我們當前的AI（人工智能）和機器學習只處于最低的第一層級，只是被動地接受觀測結果，考慮的是“如果我看到……會怎樣”這類問題。
理論上可以證明，人工智能即便在因果關系之梯的最低層級做到極致，也無法躍升到干預層面，更不可能進入反事實的世界。這本書所討論的幾個悖論（伯克森悖論、辛普森悖論、伯克利大學招生悖論等）就曾長期困擾著統計學家，因為這些問題離開了因果論是不可能得到徹底解決的。珀爾也看出了這一問題的癥結：缺少因果推斷的AI只能是“人工智障”，是永遠不可能透過數據看到世界的因果本質的。
作為處在因果關系之梯最低層級的機器學習技術，大數據分析和深度學習并不神秘，說得通俗一些，大數據分析就是多變量統計分析，深度學習就是隱層多了一些的神經網絡而已，理論上沒有太多新意。借助算力的提升，這輪AI的火爆主要表現在工程實踐比以往更豐富了，應用層面的創新要遠遠超過基礎理論的創新。珀爾教授認為大數據分析和深度學習（甚至多數傳統的機器學習）都處于因果關系之梯的第一層級，因為它們的研究對象還是相關關系而非因果關系。
眾所周知，這輪AI的爆發在很大程度上得益于算力的提升，例如，深度學習就是人工神經網絡借助算力的“卷土重來”，把數據驅動的方法推向了一個巔峰。人們甚至產生了一個幻覺——“所有科學問題的答案都藏于數據之中，有待巧妙的數據挖掘技巧來揭示。”珀爾批判了這種思潮，他將因果模型置于更高的位置，把數學或統計建模的榮耀重新歸還給了相應領域的專家。
人們喜歡從“數據”、“算法”、“算力”和“場景”四個角度談論AI。珀爾試圖告訴我們，數據固然重要，但它并不是推斷的唯一來源，那些承載著知識或經驗的“因果”模型，才是幫助機器從“人工智障”走向人工智能的關鍵所在。在珀爾看來，大數據分析和數據驅動的方法僅僅處在因果關系之梯的第一層，強人工智能還需要干預和反事實推理，如此讓機器具備自由意志才可能實現，二者分屬因果關系之梯的第二層級和第三層級。
我們不應該把AI技術對立起來，而應該相互取長補短。拿強化學習來說，它不同于有監督學習和無監督學習，是基于馬爾科夫決策過程發展起來的第三類機器學習方法——智能體通過與環境互動變得越來越“聰明”。強化學習和因果推斷都尋求策略，其中，行動之間是有因果關系的，但因果推斷更開放一些，它可以利用數據之外的知識來推斷策略的效果。強化學習允許推斷干預的結果，因此能攀上因果關系之梯的第二層級。通過模擬環境，強化學習無須從現實世界獲取觀測數據來訓練模型，所以也有可能產生反事實從而登上因果關系之梯的第三層級。
學術界對“強AI”一直持謹慎態度，多數學者傾向于“弱人工智能”，即思維機器可以在一些具體應用（如棋類游戲、人臉識別、信息檢索等）上表現得十分出色，但本質上不可能達到人類的智能，譬如，像科學家一樣思考，理解人類的語言并無障礙地與人類交流，創造具有真正美感的藝術，擁有人類的情感……大家沒敢對強AI抱有太多的期望，主要原因是我們對如何形式化人類自身的因果推斷能力了解甚少。
因果的形式化理論，不僅解決了困擾統計學家很多年的一些悖論，更重要的是，利用“干預”讓人類和機器擺脫了被動觀察，從而轉向主動地去探索因果關系，以便做出更好的決策；利用“反事實推理”擴展了想象的空間，從而擺脫了現實世界的束縛。這兩點突破實現了因果革命，并分別構成了因果關系之梯的第二層級和第三層級的內容。沿著因果關系之梯，機器便有望擁有強人工智能。
作者：【美】朱迪·珀爾
