首頁熱門文章
周鴻祎：人工智能是數據智能，要防止“數據投毒”
發布時間：2018-11-09 分類：趨勢研究
“人工智能在給我們帶來賦能的同時，自身的安全問題被忽視了，當前人工智能系統本質上是數據智能，要防止數據投毒。”11月8日，周鴻祎在烏鎮互聯網大會上重申了對未來網絡安全的謹慎態度。
AI人工智能在此次大會上依然是熱詞，有專家預測稱，2030年之前全球會有萬億計的智能設備連到互聯網上。隨著人工智能技術的發展，軟件定義一切，萬物皆要互聯，網絡安全也將產生巨大的威脅。
周鴻祎表示，人工智能是大數據訓練出來的，訓練的數據可以被污染，也叫“數據投毒”。比如，通過給智能汽車輸入“污染”過的訓練樣本，就可以把“禁止通行”的交通標志牌識別為“可以通行”，從而造成交通事故和人員傷亡。與此同時，人工智能識別數據的傳感器也可以被干擾。同樣是智能汽車，用激光筆對著無人駕駛車的激光雷達晃一晃，車就可能瞬間停下來，被后車追尾。另外，周鴻祎還表示，人工智能內部復雜的計算邏輯和決策過程還不透明，可以被欺騙或繞過，通過這種方式，家里的智能音響甚至可以變成竊聽器。
未來的世界是一個被軟件吞噬，充滿漏洞的世界，沒有固若金湯的防線。對網絡安全而言，同樣需要借助人工智能、大數據和云計算這些新技術的力量。在昨天的領先成果發布會上，360推出的“安全大腦”獲得世界互聯網領先科技成果獎。360“安全大腦”就是借助人工智能技術，依靠大數據偵測，從浩如煙海的數據中尋找蛛絲馬跡，識別異常的訪問和行為，然后進行溯源，最后交給安全專家進行決策。
另外，周鴻祎進一步解釋說，習主席提出沒有網絡安全就沒有國家安全，未來的軍事網絡、工業網絡，國防工業、政府網絡和個人網絡的安全實際是一個整體。這要求我們要用國家級的視野看待網絡安全，每個國家都要建自己國家級的網絡安全大數據系統，擁有國家級的視野，國家級的數據，最后才能真正抵御國家級的攻擊。
我們推出的360安全大腦嚴格來說，并不是市場行為，而是國家行為。我們愿意把自己的經驗、數據、技術、能力開放出來，與安全公司一起合作，把安全大腦本身的核心技術和大數據打造好，成為很多安全公司背后的賦能者，在國內真正把一個大的生態做起來，大家合作把安全大腦打造成國之重器。
在此次大會上，沈南鵬也發表了相同的觀點。他介紹，中國的風險投資過去20年投的最多是電子商務，但過去45年，美國紅杉投資最多的是安全領域。他還建議需要把更多的資源和產業重心放在安全領域中，未來的智能產品越來越豐富和復雜的時候，相應的安全產品也要能夠跟上去。
