首頁熱門文章
人工智能發(fā)展的不同方面的開放性
發(fā)布時間：2018-09-30 分類：交通百科
人工智能研究的哪些方面應該是開放的，哪些方面應該是封閉的，以保證人工智能系統(tǒng)的安全和有益于人類?
在過去的一年里，關于ai人工智能研究的開放程度已經(jīng)有了很多的討論，在這個問題上，無論是在人工智能安全團體內(nèi)部還是外部，都存在分歧。許多人有理由害怕集中力量創(chuàng)建AGI并決定它的價值的權利在一個公司或組織手中。許多其他人擔心開源AGI的信息危害以及由此產(chǎn)生的誤用的可能性。我認為在公開和保密之間做出某種妥協(xié)是必要的，因為完全保密和完全公開的兩個極端似乎都是非常糟糕的，沒有單一的開放和保密軸心，我們可以對AGI開發(fā)的不同方面做出單獨的判斷，并制定一套指導方針。
有關人工智能開發(fā)的信息可以大致分為兩類，技術和戰(zhàn)略。技術信息包括研究論文、數(shù)據(jù)、源代碼(用于算法、目標函數(shù))等。戰(zhàn)略信息包括目標、預測和時限、道德操守委員會的組成等。對戰(zhàn)略信息的開放無論在短期還是長期影響上都可能是有益的，而技術信息的開放在短期內(nèi)是好的，但從長期來看可能是不好的，這是由于種族狀況的加劇。我們需要進一步考慮發(fā)布不同類型技術信息的權衡。
共享論文和數(shù)據(jù)對研究過程更為重要，也比共享代碼更具有潛在的危險性，因為僅從這些信息中很難重構代碼。例如，考慮到調(diào)整超參數(shù)的困難和計算體系結構之間的差異，基于研究論文的神經(jīng)網(wǎng)絡算法的結果很難重現(xiàn)。
發(fā)布運行AGI所需的所有代碼，特別是在它被廣泛調(diào)試、測試和防范壞角色之前，將是極其不安全的。任何有足夠計算能力的人都可以運行代碼，并且很難關閉程序或防止它在互聯(lián)網(wǎng)上復制自己。
然而，不發(fā)布任何源代碼也是一個壞主意，這在目前是不切實際的，因為人工智能研究人員有很強的動機分享至少部分代碼，以獲得認可和可復制性。它也將是次優(yōu)的，因為共享代碼的某些部分可能有助于安全。例如，在不使用優(yōu)化代碼的情況下，將目標函數(shù)代碼開源是有意義的，因為優(yōu)化代碼可以揭示出優(yōu)化的目的是什么，而不是如何優(yōu)化。這樣就有可能核實這一目標是否充分代表了社會的價值觀，無論如何，這個制度中對公眾來說是最可以理解和最重要的部分。
要核實一家公司或組織在多大程度上共享有關人工智能開發(fā)的技術信息，并強制實行完全公開或保密，是相當困難的。對于期望共享的內(nèi)容和不共享的內(nèi)容，指定指導方針并沒有多大的壞處。對于當今領先的人工智能公司來說，制定一套短期和長期的聯(lián)合開放指導方針將是一項有價值的努力。
