首頁熱門文章
人工智能企業要組建道德委員會，該怎么做？
發布時間：2019-07-26 分類：趨勢研究 來源：新京報
編者按：
2019年7月24日下午，中央深改委召開第九次會議，審議通過《國家科技倫理委員會組建方案》。這表明國家對構建科技倫理治理體系前所未有的高度重視，而人工智能倫理是科技倫理中重要的內容。
在此背景下，我國人工智能企業成立倫理委員會正當其時。但人工智能企業怎么組建倫理委員會也成為一大現實難題。昨天我們發文討論了組建國家科技倫理委員會釋放了什么信號？今天，新京報智慧城市研究院特別刊登中國人民大學法學院副教授，未來法治研究院社會責任和治理研究中心主任郭銳、中國人民大學法學碩士李依及劉雅潔的深度長文，為企業和大眾進一步解答人工智能企業的倫理委員會應當如何組成。
文 |郭銳、李依、劉雅潔
人工智能技術的開發和應用深刻地改變著人類的生活，滲透交通出行、金融科技、教育培訓、資訊平臺等方方面面。日益廣闊的應用場景，讓一個共識逐漸明晰：人工智能對倫理秩序沖擊的深度和廣度，可能是任何現代科技都難以比擬的。而掌握最前沿技術、擔負著技術落地執行者角色的科技公司們，尤其應該有明確的倫理意識，并將對倫理的考量貫穿始終。這其中尤為重要的方式之一便是設立倫理委員會。
AI倫理委員會在實踐中有多種稱謂，常見的有“倫理道德委員會”“倫理審查委員會”“倫理風險委員會”等。而設置倫理委員會的目的，從這些大同小異的名稱中也可見一斑：一是讓AI倫理“成為問題”：讓合倫理性在AI產品開發的諸多考量因素中占據一席之地；二是讓AI倫理的審查盡可能專業、獨立：與其讓一線研發人員在技術和倫理的不同標準中無所適從，不如將倫理部分剝離出來，交由專門機構集中應對。
許多科技公司面臨的一個困境是，盡管算法歧視等AI倫理風險普遍存在，但程序員缺乏對倫理進行準確判斷的專業知識，也難以承擔諸如“自動駕駛汽車應優先保護車內乘客還是車外行人”等關鍵倫理選擇的責任。因此，相對獨立集中且成員具備多元背景的倫理委員會，更適于對這些倫理問題進行判斷。
其實，這一嘗試在國外早已有之。目前、Google、Lucid AI、微軟等多家大型科技公司已經設立了倫理審查委員會。審查委員會一般由具有不同知識背景和經驗的專家組成，在審查時參考一定的行業標準，并最大限度地考慮安全和倫理問題。如微軟成立了“倫理道德委員會”，由產品開發、研究員、法律事務、人力資源等部門的負責人組成。
倫理委員會應當具備哪些職能？
從機構定位上看，倫理風險管理委員會應當作為倫理風險管理的領導機構，組成人員可以包括主要人工智能研發部門的負責人、企業法務和/或合規部負責人以及處理倫理風險問題的協調專員。主要職能可以包括制定企業內部倫理風險管理政策、對倫理風險管理的相關問題做出決策、進行算法審計及質量審查工作以及協調企業內部各部門的倫理風險應對工作。
尤應注意的是，倫理委員會并不是企業在構建AI倫理風險治理機制時唯一依賴的機構，企業不能奢望將所有倫理問題委由倫理委員會一攬子解決，而不提供配套的執行機制。從委員會的性質上看，成員將主要負責評估和風險決策的制定，但難以作為執行機構將具體決定落到實處。
因此，倫理委員會可領導整個風險管理流程的實施及監督，并交由各業務部門的具體倫理風險管理小組具體實施相關決策，并定期將成果匯報至倫理委員會。
一般意義上的AI風險管理流程（白底框）和人工智能倫理委員會職能（藍底框）的對應關系大致如下圖所示：
具體而言，企業內部設立的人工智能倫理委員會應當具備如下職能：
1. 領導AI倫理風險控制流程的實施及監督。此外，為管理人工智能可能產生的倫理風險，委員會可以建立相應的內部制度對風險進行識別、評估、處理、監控及匯報，以管理相關風險。對于倫理風險的管理應從人工智能產品或服務的設計階段開始，并貫穿于產品或服務的整個生命周期。
2. 參與AI的倫理風險評估。委員會可以定期進行倫理風險評估，對企業總體可能涉及的倫理風險進行識別，評估一段時間內相關倫理風險應對措施是否適當且有效。委員會可以根據相關法律法規以及政府及行業標準的規定，具體評估本企業所面臨的風險，并記錄評估內容及結果。還可以視情況聘請外部專家參與評估，確保評估的有效性。
3. 審查倫理評價結果。對于某項具體的人工智能產品或服務而言，企業可采用相關手段識別可能涉及的倫理風險，對該倫理風險的性質和特征進行分析并進行風險評價，記錄評價結果并交由倫理風險管理委員會進行審查。風險分析的目的是理解包括風險水平在內的風險性質和特征。
此外，一項AI產品的倫理風險不是不變的。在基于算法的深度學習過程中，算法模型會根據數據庫的樣本不斷更新，并可能帶來新的倫理問題或逐漸消除原有的倫理風險。因此，常態化的委員會可以定期對以往的倫理評價進行二次審查，確保倫理評價結果的適時性。
4. 定期審查決策執行情況。如前所述，在倫理委員會之下，還有承接決定執行的倫理風險管理小組。小組對委員會決策的執行情況，自然也需要定期的審查和監督。
有專家指出，對人工智能的倫理審查存在一個悖論：如何為自己尚未完全理解的問題設計解決方案？因此，委員會起初作出的決策并不一定實際可行，具體效果要通過實踐檢驗。而風險管理小組便可承擔向委員會匯報并反饋實踐結果的職能。
谷歌倫理委員會的火速解散，留下了什么啟示？
繼2018年公布谷歌人工智能原則后，3月26日，Google全球事務高級副總裁Kent Walker在Google博客中發文宣布，為了貫徹落實Google AI七原則，完善相關的內部治理結構和流程，成立先進技術外部咨詢委員會（Advanced Technology External Advisory Council , ATEAC）。
谷歌成立的這個人工智能委員會旨在檢查公司的決策，定期開會并制作有關該領域和谷歌技術進展的報告。Kent在博客中寫道：“該委員會不具有否決權，但意在為我們的工作提供多樣化視角。”
該委員會是幫助解決谷歌在其公布的引導其研究和產品的發展和使用的人工智能原則中出現的一些挑戰。比如像人臉識別，機器學習中一些令人不安的因素。一個值得注意的點是，委員會的設立是為了從多個角度分析與人工智能倫理相關的問題，而委員會的成員是非Google員工的具有多樣化背景的外部人員：
Alessandro Acquisti，行為經濟學家，隱私問題研究者，卡耐基梅隆大學信息技術與公共政策教授。
Bubacarr Bah，應用和計算數學家，高級研究員，南非非洲數學科學研究所（AIMS）數據科學專業的德國研究主席。
吳德愷，音樂技術和機器學習專家，港科大計算機科學與工程教授，伯克利國際計算機科學研究所杰出研究者。
Dyan Gibbens，工業工程和無人系統專家，Trumbull Unmanned公司CEO，該公司專注于自動化、數據、能源和防御的環境恢復能力。
Joanna Bryson，心理學和人工智能倫理學專家，巴斯大學計算機系副教授，多家人工智能公司的顧問。
Kay Coles James，美國傳統基金會主席，曾在美國各級政府擔任公共政策專家。
Luciano Floridi，哲學家，數字倫理專家，牛津大學哲學和信息倫理教授，指導牛津互聯網研究所的數字倫理實驗室，艾倫圖靈研究院數字倫理小組主席。
William Joseph Burns，外交政策專家，美國前副國務卿，卡內基國際和平基金會主席。
委員會的組成人員來自學界、企業、和政界的不同背景。谷歌原本的計劃是，第一屆的8位成員從4月開始舉行四次會議，直到2019年年底屆滿。但是早在2019年3月31日，Alessandro Acquisti在Twitter上公開表示退出ATEAC，認為討論AI倫理這種重大事項，這個機構不合適。2019年4月4日，該委員會宣布解散。
谷歌成立倫理委員會到解散倫理委員會的經歷雖然時間不長，但是其中仍然有幾點值得我們思考。首先，倫理委員會是否應當由企業外部人員構成？第二，倫理委員會的組成應當怎樣選擇？第三，有哪些議題需要倫理委員會來討論？第四，倫理委員會做出的決定效力如何，企業是應當直接落實還是加以借鑒？第五，如何保證倫理委員會討論的透明性？
谷歌倫理委員會的火速解散，也給后來者一個思考，企業成立這樣的倫理委員會是否能夠真的實現其設立的初衷？其將怎樣改變企業的行為模式？
從用戶到企業，倫理委員會意義幾何？
考慮到人工智能倫理問題的復雜性，中國人工智能企業，尤其是一些掌握大量個人數據的企業，可以考慮設置專門的人工智能倫理委員會，以協助企業在面對倫理問題時做出更加正確的選擇。設置人工智能企業的倫理委員會能夠更好地規范相關企業，促進良性發展。
目前，世界上確實很多企業和機構都在著手制定相關的人工智能倫理政策，但從效果來看，很多政策操之過急，大部分的人工智能倫理原則都是宣誓性或者紙上談兵，缺乏在企業相應制度框架下的思考，無法實際解決企業發展中遇到的問題，或是缺乏前瞻性的考慮，無法排除將來發展中可能遇到的障礙。
而設置人工智能倫理委員會，系統地從企業發展的角度對于倫理問題作出分析和安排，可以從制度的層面幫助相應的人工智能倫理政策更好的落實，并幫助確定未來的發展方向。
從實踐的角度看，不僅是谷歌，很多國外企業都建立了相應的人工智能委員會。谷歌旗下的人工智能公司Deep,ind設立了倫理和安全委員會，但是DeepMind沒有向外界透露委員會的組成成員、討論的議題，甚至是他們是否有過正式的見面等問題。
微軟有自己的人工智能原則，并在2018年成立了人工智能倫理委員會Microsoft’sAI and Ethics in Engineering and Research (AETHER) Committee，該委員會由公司內部的高管組成，積極制定內部政策，并決定怎樣負責任地處理出現的問題。亞馬遜資助了美國國家科學基金會“人工智能中的公平”的研究，Facebook則與慕尼黑工業大學共同組建了人工智能倫理的研究中心。
人工智能倫理委員會應當包括科學家、企業領袖和倫理/法律界人士。實踐中與此最相近的做法是，今日頭條于2018年成立的“技術戰略委員會”，這一委員會實質上也包括了上述部分倫理委員會承擔的職能，其目的是“更好地讓今日頭條的人工智能技術最終造福人類，同時應對人工智能技術發展帶來的挑戰”，首批委員包括，圖靈獎得主JohnE.Hopcroft教授，中國工程院院士、國家自然科學基金委員會副主任高文教授和中國科學院院士張鈸教授等。
從企業的角度來說，設置企業人工智能倫理委員會，可以協助企業對數據的收集、處理和使用作出規制，以此保護用戶權益，并降低合規風險、保護企業利益。具體而言，對于信息從用戶傳輸到系統的過程中，應當規范對于信息的收集，包括可以收集哪些信息，怎樣進行收集等。
對于在此過程中的對用戶權利義務的告知、同意以及是否能再次轉讓等問題。組成企業人工智能倫理委員會可以幫助改進隱私政策，包括規范彈窗及授權內容，資助相應研究，推出相應的隱私保護白皮書等。
從用戶的角度來說，企業設置專門的人工智能倫理委員會，也是為了更好地保護用戶對于個人數據的知情權和自決權。用戶有理由擔心企業如何處理用戶數據，尤其是敏感信息與隱私數據。
而人工智能倫理委員會的設立能夠幫助企業進行人工智能倫理決策時多進行道德上的考慮，并符合與時俱進的法律法規，通過規范和約束企業的行為，加強個人數據的保護。
郭銳（中國人民大學法學院副教授，未來法治研究院社會責任和治理研究中心主任）；李依（中國人民大學法學碩士）；劉雅潔（中國人民大學法學碩士）
