首頁熱門文章
人工智能“進化”重塑未來全球治理格局
發布時間：2019-08-12 分類：趨勢研究 來源：中國社會科學網
《第四次工業革命》的作者克勞斯施瓦布認為，科技革命和產業變革中顛覆性技術的出現，會帶來社會的巨大變化。這也會導致全球原有力量對比發生改變，舊的治理體系將重新洗牌，最后達成新的力量和治理平衡，出現全球治理新秩序。歷史經驗充分地證明了這一觀點。從最近一輪科技革命和產業變革的歷程來看，美國占據了以互聯網為代表的信息技術制高點，引領經濟革命新浪潮，綜合實力領先世界。在新一輪科技革命和產業變革中，人工智能顛覆了人類的認知。這是一門研究開發用于模擬、延伸和擴展人的智能的理論、方法及應用系統的技術。人工智能的出現意味著人類認識和改變客觀世界的工具有了重大突破，其迅速發展將深刻改變人類社會并改變世界。
人工智能發展已滲入社會經濟生活多個方面
現用兩個例子簡單加以說明，在2018年，一家高科技公司的AI Lab曾參加由荷蘭瓦赫寧根大學（WUR）主辦的國際人工智能溫室種植大賽，通過人工智能和遙感技術，采集農作物的生長情況，最終在50平米的溫室里種出了3000公斤以上的黃瓜，農業產出是高效人工種植的五倍以上。這說明在農業領域人工智能具有巨大的發展潛力。未來，人工智能將有效減少農業生產對勞動力、土地等要素的消耗，提升勞動生產率，緩解困擾我國農業發展的資源“緊箍咒”，推進農業現代化。
除此之外，人工智能與新一代信息技術結合，能有效解決地區發展的不均衡。2019年4月3日，廣東高州市人民醫院和廣東省人民醫院共同完成了全國首臺“5G+AI微創心臟手術”。本次手術中，廣東省人民醫院利用5G技術為遠在400公里外的高州市人民醫院進行遠程指導。現場畫面時延低于30微秒，幾乎是同步進行，整體網速比4G提升10倍。未來一個主治醫生在手術上只需做10—15分鐘的關鍵環節，借助遠程智慧醫療方式，可讓一個醫生同時做十臺手術。人工智能技術將極大地提升效率，讓優質的醫療資源惠及更多的老百姓。
人工智能在未來的應用不局限于以上的農業和醫療領域，在無人駕駛、智能制造、智慧城市、智慧政務系統、教育、通訊、社會治理和軍事等方面，也將拓展出新的空間。
人工智能：從國家計劃到國家戰略
人工智能是引領未來的戰略性技術，世界主要國家把發展人工智能作為提升國家競爭力、維護國家安全的重大戰略，加緊出臺規劃和政策，圍繞核心技術、頂尖人才、標準規范等強化部署，力圖在新一輪國際科技競爭中掌握主導權。
加拿大是全球首個發布AI全國戰略的國家。2017年發布了《泛加拿大人工智能戰略》（Pan-Canadian Artificial Intelligence Strategy），政府計劃撥款1.25 億加元支持AI研究及人才培養，目標是將加拿大建立為人工智能研究的全球領先者。該戰略包含四個目標：增加人工智能研究者和畢業生數量；建立三個世界頂尖科研集群；培養理解人工智能經濟、道德、政策和法律含義的思想領袖；支持專注于人工智能的國家研究團體。
日本是第二個發展AI戰略的國家，其《人工智能技術戰略》在2017年3月發布。日本成立了人工智能技術戰略委員會以發展《研究和發展目標以及人工智能產業化的路線圖》。該委員會有11名成員，分別來自學術界、業界和政府，包括日本科學促進會主席、東京大學校長和豐田董事長。戰略制定的政策包括在研究與開發、人才、公共數據和創業公司上的新投資。
英國政府于2018年4月發布了《人工智能行業新政》（AI Sector Deal）。這是該國政府工業戰略的一部分，旨在推動英國成為全球AI領導者。包含推動政府和公司研發、STEM 教育投資、提升數字基礎設施、增加AI人才和領導全球數字道德交流等方面。
2018年4月25日，歐盟委員會向歐洲議會、歐盟理事會、歐洲理事會、歐洲經濟與社會委員會及地區委員會提交了題為《歐盟人工智能》報告，描述了歐盟在國際人工智能競爭中的地位，并制定了歐盟AI行動計劃，提出了發展目標。2019年4月8日，歐盟委員會發布了一份人工智能道德準則，提出了“值得信賴”的人工智能應當滿足的7個條件，并將啟動AI道德準則的試行，邀請工業界、研究機構和政府機構對該準則進行測試和補充。
韓國政府大力發展人工智能計劃起源于2016年，由于人工智能技術 AlphaGo 打敗韓國圍棋世界冠軍李世石，給了韓國很大的觸動，比賽結束兩天之后，韓國政府就公布要在未來五年投資1萬億韓元支持AI研究。兩年之后，韓國政府又公布了一個新的五年計劃，計劃投資2.2萬億韓元加強該國的AI研發。
2018年5月，印度政府發布《國家人工智能戰略》，該戰略將人工智能應用重點放在健康護理、農業、教育、智慧城市和基礎建設與智能交通五大領域上，重點關注印度如何利用AI促進經濟增長和社會包容。以“AI卓越研究中心”(CORE)與“國際AI轉型中心”(ICTAI)兩級綜合戰略為基礎，投資科學研究，鼓勵技能培訓，加快人工智能在整個產業鏈中的應用，最終實現將印度打造為人工智能發展模本的宏偉藍圖。
2018年7月，德國聯邦政府內閣通過了名為《聯邦政府人工智能戰略要點》的文件。文件提出，當前急需采取的措施包括：為人工智能相關重點領域的研發和創新轉化提供資助；優先為德國人工智能領域專家提高經濟收益；同法國合作建設人工智能競爭力中心要盡快完成并實現互聯互通；設置專業門類的競爭力中心；加強人工智能基礎設施建設等。
2018年美國成立了“人工智能特別委員會”，成員包括白宮科學和技術政策辦公室、國家科學基金會和國防部高級研究項目局等政府機構的官員。2019年2月美國總統特朗普簽署了行政令，啟動“美國人工智能倡議”。盡管相比日本、中國、英國和法國等國家，美國的人工智能發展規劃姍姍來遲，但“維持美國人工智能領導力”的主題讓這一規劃與眾不同，主要體現出“頂層推動”“美國領導”和“注重基礎”三大特點。自特朗普政府執政以來，聯邦政府在引領科技發展中的角色日益明顯，從太空探索到量子技術，到下一代芯片技術，再到人工智能領域。此前，美國人工智能技術的主力軍一直是谷歌等企業部門。美國總統技術政策副助理邁克爾·克拉齊奧斯則宣稱，這個倡議的重點就是集中聯邦政府的資源來發展人工智能。
2017年7月，中國政府印發《新一代人工智能發展規劃》，明確指出新一代人工智能發展分三步走的戰略目標，到2030年使中國人工智能理論、技術與應用總體達到世界領先水平，成為世界主要人工智能創新中心。
在各國戰略規劃描繪的美好愿景之下，對于人工智能技術迅速發展帶來的安全問題同樣受到了高度關注。例如我國的《新一代人工智能發展規劃》中就明確提出，要開展與人工智能應用相關的民事與刑事責任確認、隱私和產權保護、信息安全利用等法律問題研究，建立追溯和問責制度，明確人工智能法律主體以及相關權利、義務和責任等。英國科學和技術委員會則于2016年相繼發布《機器人和人工智能》和《人工智能對未來決策的機會和影響》兩份報告，呼吁政府介入監管，建立透明、可追責機制。歐盟更是在2018年頒布實行了“史上最嚴”的一般數據保護條例（General Data Protection Regulation），賦予了歐盟居民對個人數據更多的控制權，并界定了在線服務商在收集、利用歐洲用戶個人數據的規則和責任。在探討WTO改革的議程中，各國對于數據基于信任的跨境流動和數據貿易等問題也是高度重視，積極探索適合各國共同發展的新模式、新辦法，并商議如何更好地解決由于各國發展不平衡造成的數字鴻溝等問題。
人工智能“進化”背景下全球治理的新挑戰
人工智能是影響面廣的顛覆性技術，將對政府管理、經濟安全、社會穩定乃至全球治理產生深遠影響。在這一過程中，非國家行為體的作用前所未有地上升，就業結構、法律與社會倫理、個人隱私、國際關系準則等領域同時受到沖擊與挑戰。
與原來核軍控等談判機制主體不同的是，人工智能的技術基本掌握在非國家行為體中，如美國的谷歌、蘋果、微軟、亞馬遜、IBM、Facebook等私營機構，在中國，則是阿里、騰訊、百度、華為、京東、小米、商湯科技、科大訊飛等私營機構。私營機構甚至在如何使用人工智能技術的原則上就會與國家存在很大分歧，這就導致與洽談核軍控等治理規則時完全不同的背景和條件，給人工智能全球治理規則的洽談帶來很大的挑戰。
在商業公司日常運營過程中，對于公司決策者與技術開發人員來說，到底由誰來決定技術的使用方向？傳統公司，一般是由公司高層管理人員來決定公司產品和技術的應用方向。而現在的高科技互聯網公司，尤其是人工智能公司，一些技術開發人員的價值觀也在某種程度上開始影響相關決策。這也導致價值觀認可和公司追求利益目標之間矛盾的增加。技術是一把雙刃劍，沒有人比參與創造技術的員工更接近科技增長的破壞力，也更接近它的道德困境。谷歌前首席執行官Lokman Tsui就曾提出這樣的問題：“誰來定義谷歌，誰來決定谷歌的靈魂是什么？是領導還是員工？現在，這家公司的靈魂正面臨一場真正的斗爭。”谷歌現任首席執行官Pichai則試圖淡化來自公司內部壓力的影響，他強調“我們不會通過公投來管理公司”，并表示是實際構建AI技術的人在做決定。
對于每個掌握人工智能技術的私營機構，以及使用這些技術的機構（政府部門或軍方等）來說，還存在一個很大的問題。那就是挑選誰來參與制定技術使用規則，也就是通常所說的人工智能倫理委員會人選。人們對于這些人員的選擇充滿警惕，由于每個人自身的價值觀、情感、宗教等因素偏好不同，通常候選人能獲得大多數人的認可并不容易。比如，2019年3月，紐約市警察局（NYPD）透露，他們自2016年底開始，使用人工智能（Patternizr）追蹤罪犯，這是美國第一個通過算法機器學習軟件，篩選警察局數據，找到同類案件并鎖定嫌疑人的工具，研究這項技術的目的是為了識別犯罪模式，幫助警察盡快逮捕嫌疑人。NYPD使用Patternizr被披露后，一些公民自由倡導者表示擔心基于機器的工具可能無意中加強了警務方面的偏見。紐約公民自由聯盟法律總監Christopher Dunn認為，對有色人種的過度監管，會使任何預測性警務平臺都存在風險。為了確保公平，NYPD應該對其部署的技術保持透明，并允許獨立研究人員對這些系統進行審核。NYPD則宣稱Patternizr將種族和性別排除在算法之外，在搜索過程中不會將嫌疑人的種族考慮在內，以作為對種族偏見的預防措施。2016年，布倫南司法中心對NYPD使用Patternizr采取了法律行動。2018年12月，紐約州最高法院下令NYPD發布有關其測試開發和使用預測性警務軟件的記錄。
除此之外，谷歌在宣布成立人工智能倫理小組一周后，取消了其討論人工智能問題的小組。谷歌于2019年3月26日任命了其高級技術外部咨詢委員會的成員。谷歌負責全球事務的高級副總裁肯特·沃克(Kent Walker)在一份報告中表示：“這個小組將考慮谷歌在人工智能原則下出現的一些最復雜的挑戰，比如面部識別和機器學習的公平性，為我們的工作提供不同的視角。”員工和外部人士很快對委員會的組成提出了質疑。有些人想知道為什么傳統基金會的主席凱·科爾斯·詹姆斯(Kay Coles James)會被納入理事會。2300多名谷歌員工簽約請愿書呼吁谷歌把柯爾斯·詹姆斯清理出小組，請愿書中的理由是其價值觀中包含有“反變性人、反LGBTQ和反移民”等主張。3月30日，卡內基梅隆大學(Carnegie Mellon University)信息技術和公共政策教授、谷歌(Google)選定的專家之一阿奎斯特(Alessandro Acquisti)則宣布他選擇不參加。周三，牛津大學(University Of Oxford)信息哲學與倫理教授盧西亞諾·弗洛里迪(Lucano Floridi)表示，盡管他不同意科爾斯·詹姆斯(Coles James)和傳統基金會的觀點，但他還是覺得自己應該參與進來。周四晚上，谷歌取消了整個項目。“很明顯，在目前的環境下，ATEAC不能按我們的意愿發揮作用。所以我們要結束會議，回到畫板上”，谷歌周四在公告頂部貼上的一份聲明中寫道。“我們將繼續對人工智能提出的重要問題負責，并將找到不同的方法來獲取外界對這些問題的意見。”
以上案例說明，人工智能相關的倫理問題難以在缺乏國家政府主導和國際合作的情況下得到解決，人們對于算法歧視、不透明等問題存有擔憂，將來也可能會對人工智能技術的發展產生阻礙。
未來人工智能全球治理需要新框架
當前，世界各國政府以及聯合國在內的國際組織都開始思考如何建立起有效的治理體系，以推動新技術對生產力發展的促進和人民生活水平的提高。中國《新一代人工智能發展規劃》提出，必須放眼全球，把人工智能發展放在國家戰略層面系統布局、主動謀劃。從全球格局來看，人工智能技術發展本身也需要一定的國際合作，這對大變局下的國際治理體系提出了新的要求。我們應該搭建涵蓋政府、企業、學界、公共部門和私營部門的平臺，形成合力，推動新技術為人類文明的進步服務。
正如聯合國副秘書長劉振民在2019年博鰲亞洲論壇年會對話環節時所說“關于人工智能，就應當進行溝通制定規則”，“需要建立一個平臺，來解決人工智能規范性使用的問題”。
隨著人工智能不斷“進化”，未來全球治理格局將會得到重塑，人工智能必將為人類創造更美好的未來。
（本研究得到清華大學戰略與安全研究中心“人工智能與安全”項目研究資助）
（作者系清華大學社科學院中美關系研究中心副主任）
來源：中國社會科學網 作者：魯俊群
