首頁熱門文章
我們如何將人工智能與人類價值觀結合起來?
發布時間：2018-09-27 分類：交通百科
社會組成的每一部分都會在一個未知的時間發生重大的改變，這一過渡中發揮作用的人有責任和機會來塑造最好的它。什么會引發這種變化?當然只有人工智能。
最近，人工智能和相關領域的一些頂尖人物聚在一起討論如何確保人工智能在整個過渡過程中仍然是有益的，其結果是Asilomar AI原則文檔。這23條原則的目的是提供一個框架，幫助人工智能造福盡可能多的人。
這些原則代表著對話的開始，現在對話正在進行中，我們需要對每一個單獨的原則進行廣泛的討論。這些原則對不同的人意味著不同的事情，為了使社會盡可能多地受益，我們需要逐條考慮每一項原則。
價值比對
價值調整：高度自治的人工智能系統的設計應該確保它們的目標和行為能夠在整個運行過程中與人類的價值保持一致。
在人工智能領域，我們面臨著類似的情況：我們如何確保一個人工智能會做我們真正想做的事，同時又不會在錯誤的嘗試中傷害人類，去做它的設計者所要求的事情?“機器人不會試圖反抗人類，”加州大學伯克利分校羅素大學的助理教授、同事安卡·德拉甘解釋說，“他們只會嘗試優化我們讓他們做的任何事情。”因此，我們需要確保告訴他們，為我們真正想要的世界進行優化。
我們想要什么?
了解我們想要什么是人工智能研究人員面臨的最大挑戰之一。當然，問題是要定義這些價值觀到底是什么，因為人們可能有不同的文化，來自世界不同的地方，有不同的社會經濟背景-我認為人們對這些價值觀會有非常不同的看法，所以這才是真正的挑戰。
在編程語言中編碼人類價值觀是非常困難的，但這一問題更難解決，因為我們人類在共同價值觀上不一致，甚至我們在某些部分上達成一致意見也會隨著時間的推移而改變。雖然有些價值觀很難達成共識，但也有很多價值觀是我們都默示認同的。任何人類都能理解與他們交往過的情感和情感價值，但很難保證機器人也能以同樣的理解被編程。
我們可以進行科學研究，以真正了解如何從我們都認同的這些價值觀轉變為將其嵌入到與人類共同工作的人工智能系統中。研究人員從另一個角度來研究這個問題的，沒有試著去理解人，而是試圖訓練機器人或人工智能在與人互動時，能夠靈活地實現自己的目標。對于代理人來說，重要的是對他們的目標有不確定性，而不是假設他們是完全指定的，并且把人類的投入當作對真正潛在的期望目標的有價值的觀察。
改寫原則?
雖然大多數研究人員同意價值對齊原則的基本思想，但并不是每個人都同意它的措辭，更不用說如何實現它了。人工智能先驅、蒙特利爾大學教授YoshuaBengio認為，這不可能是完全一致的。有很多東西是與生俱來的，我們無法通過機器學習來獲得，也可能很難通過哲學或內省來獲得，所以還不完全清楚我們是否能夠完美地對齊。
盡管價值匹配通常被認為是一個未來會出現的問題，但這是需要盡早解決的問題，我們今天必須擔心如何執行這一原則。隨著系統變得更加復雜，這將有助于解決更具挑戰性的價值調整問題。這是幫助ai人工智能找出它應該做什么的一個步驟，不斷地細化目標應該是人類和人工智能之間的一個持續的過程。
你怎么看?
人工智能與你自己的生活目標和愿望相一致對你來說意味著什么?它怎么能在同一時間與你和世界上的其他人保持一致呢?我們如何確保一個人的理想人工智能版本不會讓你的生活更困難?我們如何就人類價值觀達成一致?我們如何確保人工智能理解這些價值觀?如果你有一個個人人工智能助手，它應該如何被編程來表現?如果我們讓人工智能更多地參與到醫學、警務或教育等領域，那會是什么樣子呢?作為一個社會，我們還應該問些什么呢?
