首頁熱門文章
人工智能革命：從AGI到ASI的道路
發(fā)布時間：2019-05-29 分類：趨勢研究
在某種程度上，我們將獲得具有人類一般智能的AGI計算機后。只是一群人和計算機平等地生活在一起。
哦，實際上并不會。
問題是，AGI具有與人類相同的智能和計算能力水平，但仍然具有優(yōu)于人類的優(yōu)勢。如：
硬件
速度。大腦的神經元最大頻率大約為200赫茲，而今天的微處理器（比我們達到AGI時慢得多）運行頻率為2 GHz，比我們的神經元快1000萬倍。大腦的內部通信速度可以達到120米/秒，但與計算機以光速進行光學通信的能力相比還是要慢得多。尺寸和存儲。大腦被我們頭骨的形狀限制住了它的大小，而且無論如何它都不會變大，或者120米/秒的內部通信需要很長時間才能從一個大腦結構到另一個大腦結構。計算機可以擴展到任何物理尺寸，允許更多的硬件投入工作，更大的工作內存（RAM）和長期內存（硬盤存儲），它具有比我們自己更大的容量和精度。可靠性和耐用性。不僅是計算機的記憶更精確。計算機晶體管比生物神經元更準確，并且它們不太可能惡化（并且如果它們退化了還可以被修復或替換）。人類的大腦也很容易疲勞，而計算機可以不間斷運行，性能達到最佳狀態(tài)的情況下可以每周7天每天24小時運行。軟件
可編輯性，可升級性和更廣泛的可能性。與人腦不同，計算機軟件可以接收更新和修復，并且可以輕松地進行實驗。升級也可能擴展人類大腦薄弱的領域。人類視覺軟件非常先進，但其復雜的工程能力相當低。計算機可以在視覺軟件匹配人類視覺，但也可以在工程和任何其他領域同樣進行優(yōu)化。集體能力。人類在建立一個龐大的集體智慧時壓倒了其他所有物種。從語言的發(fā)展和大型密集社區(qū)的形成開始，通過寫作和印刷的發(fā)明，到現在通過互聯網等工具得到加強，人類的集體智慧是我們能夠遠遠超過所有其他物種的主要原因之一。計算機將比我們做的更好。運行特定程序的全球人工智能網絡可以定期與自身同步，以便任何一臺計算機學到的任何東西都可以立即上傳到所有其他計算機。這個群體還可以作為一個單元來實現一個目標，因為沒有不會像我們人類那樣，存在不同的意見、動機和私利。人工智能很可能通過編程進行自我提高而達到AGI，它不會將“人類水平的智能”視為一個重要的里程碑 - 從我們的角度講，它只是一個相關標記 - 并且沒有任何理由在達到我們的智力水平后“停止”。而且鑒于AGI相對于人類的優(yōu)勢，及時是與人類智力相當的AGI也會有優(yōu)勢，很明顯它只能在短暫的時間內攻擊人類智能，然后才能加速進入優(yōu)于人類智能的領域。
當它發(fā)生時，可能會嚇得我們屁滾尿流。原因在于，從我們的角度來看，A）雖然不同種類的動物的智力各不相同，但我們對任何動物的智力所了解的主要特征是它遠低于我們的智力，B）我們認為最聰明的人比最笨的人聰明的多。有點像這樣：
因此，當人工智能向我們的智能向上逼近時，我們會將其視為動物而言，它只是變得更聰明了。然后，當它達到人類最低的能力時 - 尼克博斯特羅姆使用“村里的白癡”了這一詞 - 我們會說，“哇哦，這就像一個愚蠢的人類。真可愛！“唯一的事情是，在大范圍的智能中，所有人類，從村里的白癡到愛因斯坦，都在一個非常小的范圍內 - 所以剛剛擊敗村里的白癡水平并被宣布為AGI后，它會突然比愛因斯坦更聰明，并且我們不知道是什么擊敗了我們:
那會發(fā)生什么。。。。。。之后呢？
我希望你享受正常的時間，因為這是當這個話題變得不正常和可怕的時候，它會從這里繼續(xù)前進。我想在這里暫停并提醒你，我要說的每一件事都是真實的科學，都是對未來的真實預測，這些預測來自一大批最受尊敬的思想家和科學家，請記住這一點。
無論如何，正如我上面所說，我們目前大多數的AGI的模型都是通過人工智能的自我改進來實現目標。一旦進入AGI時代，即使一些通過不涉及自我改進的方法形成和發(fā)展的系統現在也足夠智能，如果他們愿意，就可以開始自我改進了。
在這里我們得到了一個強烈的概念：遞歸的自我改善。它的工作原理如下 -
在一定水平上的人工智能系統 - 比方說人類村莊的白癡 - 被編程的目標是提高自身的智能。一旦它做到了，它就會變得更聰明了 -也許在這一點上它已經處于愛因斯坦的水平 - 所以現在當它用愛因斯坦級別的智力改善自身智力時，會變得更加容易，它可以實現更大的飛躍。這些飛躍使它比任何人類都聰明得多，并允許它實現更大的飛躍。隨著飛躍變得越來越高并且發(fā)生得越來越快，AGI在智能上飆升并很快達到ASI系統的超級智能水平。這被稱為智力爆炸，并且它是加速回歸法的最終例證。
關于人工智能將在多長時間內達到人類一般智能的問題還存在爭議。對數百名科學家進行的一項調查顯示，他們認為我們更有可能達到AGI的時候是2040年- 那是25年后，這聽起來并不那么近，直到你認為很多在這一領域的思想家認為這很可能是真的，并且從AGI到ASI的進展情況非常迅速。這可能真的會發(fā)生：
第一個人工智能系統需要幾十年才能達到低水平的一般智能，但它最終實現了。計算機能夠像四歲的人類一樣開始理解周圍的世界。突然間，在達到這個里程碑的一個小時內，該系統推出了統一廣義相對論和量子力學的宏觀物理理論，這是人類無法確定到的事情。在那之后的90分鐘，人工智能變成了ASI，比人類智能高出17萬倍。
這種規(guī)模的超級智能遠不是我們可以掌握的，不僅僅是一只大黃蜂無法理解凱恩斯主義經濟學一樣。在我們的世界中，聰明意味著智商為130，而愚蠢意味著智商為85 - 我們沒有一個詞形容12，952的智商。
我們所知道的是，人類在這個地球上的全面統治表明了一個明確的規(guī)則：智慧帶來了力量。這意味著我們創(chuàng)造了一個ASI的時候，它將成為地球上生命歷史中最強大的存在，包括人類在內的所有生物都將完全聽從他的意愿 - 這很可能會在未來幾十年內發(fā)生。
如果我們的大腦能夠發(fā)明wifi，那么比我們聰明100倍或1000倍或10億倍的東西應該沒有任何問題在任何時候以任何方式控制世界上任何一個原子的位置 - 我們所有的一切考慮就像魔法，我們想象的這種力量是至高無上的神，對于我們來說，翻轉燈開關對于ASI來說是一項平凡的活動。創(chuàng)造技術以扭轉人類衰老，治愈疾病和饑餓甚至死亡，重新編程天氣以保護地球上的生命的未來 - 所有這些問題都都突然變得可能實現。也有可能是地球上所有生命的直接結束。就我們而言，如果ASI成為現實，那么現在地球上就會有一位無所不能的上帝 - 對我們來說，最重要的問題是：
它會是一個好神么？
