首頁熱門文章
有益的人工智能研究
發布時間：2018-09-13 分類：交通百科
研究目標：人工智能研究的目標應該是創造有益的智能，而不是無方向的智能。從表面上看，研究目標原則可能不像其他一些更直接涉及我們如何與ai人工智能互動以及超級智能的影響的原則那樣，顯得那么迷人或令人興奮，但其他所有的都是從這個第一原理衍生出來的。
簡單地說，如果沒有人工智能系統的研究和研究人員的特定目標，人工智能就無法發展。然而，在不考慮研究可能的長期影響的情況下，參與研究并努力實現廣泛的人工智能目標，可能對社會有害。
在“侏羅紀公園”中有這樣一個場景，杰夫·戈德布拉姆扮演的角色哀嘆說，“創造恐龍的科學家們，正全神貫注于他們能否做到這一點，以至于他們沒有停下來思考是否應該這樣做。”直到最近，人工智能研究人員還主要集中在找出他們可以完成什么，沒有更長遠的考慮，而且是有充分理由的：科學家們只是試圖讓他們的人工智能程序發揮作用，結果太有限。
但是在過去的幾年里，科學家們在人工智能方面取得了很大的進展，人工智能對社會的影響已經被感受到了，正如我們所看到的，偏見和歧視的一些問題已經出現了，這并不總是好的。
姿態偏移
不幸的是，在人工智能研究中仍然存在一種文化，這種文化太過接受這樣一種觀點，即開發人員不必對他們的產品的使用方式負責。這種我只是制造工具，讓別人來決定它們是好的還是壞的態度是不對的。如果你參與了制作這些功能強大的工具的過程，你就有責任盡你所能確保這些工具朝著一個總體上有益的方向發展。有了人工智能，每個參與其中的人都有責任把它推向一個積極的方向，把權力交給已經強大的人，讓他們變得更強大，讓自己受益。
什么是“有益的”?
與我交談過的其他人工智能專家也同意這一原則的一般想法，但對該原則的措辭并不完全一致。考慮到人工智能可能被誤用或濫用，最重要的是要有一個明確的積極目標。它可能會被掛在什么是這個詞的“有益”的意思。如果我們把它指向有益的智力，我們必須定義我們的術語;我們必須定義什么是有益的含義，而這對我來說是不清楚的。這對不同的人來說意味著不同的事情，你能讓每個人都受益是罕見的。
長期研究
路易斯維爾大學人工智能研究員羅曼·亞波斯基將討論帶回到最關心的問題上：就體系結構和目標而言，可能的智能代理的宇宙是無限的。僅僅試圖設計一種有能力的智力是不夠的，重要的是要明確地以一種符合人類目標的智力為目標。在浩瀚的可能目標的海洋中，這是一個非常狹窄的目標，因此大多數智能代理不會為我們的價值觀做一個很好的優化器，從而導致惡意的或至少是冷漠的人工智能(這也是非常危險的)。只有將未來的超級智慧與我們的真正目標結合起來，我們才能從我們的智力繼承者那里獲得巨大的利益，并避免存在的災難。
