人工智能已經到了大規模落地應用的階段，近日剛剛結束的第三屆世界人工智能大會上，《中國新一代人工智能科技產業發展報告(2019)》公布的一組數據揭示了這一現狀：745家中國人工智能企業中，應用層企業占比高達75.2%，包括智能制造、科技金融、新零售和智能安防等18個應用領域。

“阿里在新零售安全領域應用進行了很多探索，比如電商治理中營商環境的安全，我們還把防火以及食品安全也納入到這個范疇中來，讓安全有了新的定義，”阿里安全圖靈實驗室奧創在大會上指出，隨著人工智能技術的不斷應用，安全問題也不斷浮現，“既懂安全又懂AI的人才，在未來無疑是最寶貴的。”

圖說：阿里安全圖靈實驗室奧創在第三屆世界智能大會上談安全AI及人才培養問題

放眼全球，人工智能近年來發展勢頭迅猛。5月16日，兩場以人工智能為主題的國際盛會，在天津、北京開幕，中國國家主席習近平也向兩場國際盛會發出賀信：推動新一代人工智能健康發展，更好造福世界各國人民。

奧創參與的世界智能大會專門開設了人工智能與安全的分論壇，來自政府、高校、企業等多方角色共同探討人工能智能帶來的安全風險以及解決之道。“計算機的優勢就在于速度和影響規模上，擁有比人類更強大的能力，伴隨著人工智能的發展，這一優勢會被進一步放大，有可能會出現令人無法察覺或無法防范的攻擊，”奧創在討論中指出，不過，人工智能在輔助安全方面對防御的提升，也會大于對攻擊的提升，最終將攻防拉到同一水位上，甚至可能會扭轉防守方一直以來的劣勢。

近期，“AI換臉”頻頻登上熱搜，引發外界關于技術倫理的爭論。“很多技術的出發點是好的，但很多人較少關注技術被濫用的可能性，”奧創表示，對于政府來說，完善法律法規和加強道德規范的建設，而工程師對于技術開發和開放的態度一定程度上需要改變，“對于學界來說，要加強在AI防御的研究，不僅是生成，也包括鑒偽，也要增加在AI交叉學科的投入，比如法學、心理學、道德倫理學等。”

據悉，阿里于今年年初提出安全AI概念，即安全場景中進化出的AI，擁有更強、更多元化的能力，目前阿里安全圖靈實驗室的安全AI技術應用于知識產權保護、內容安全、新零售安全、智能核身等多個領域，僅人臉識別技術已應用在100多個場景，實現刷臉就醫、刷臉進景區、大型活動刷臉入場、配送員認證、刷臉取快遞等。

“在安全AI的應用中我們發現，感知類的問題比如圖像識別、語音識別等，可以通過信息驅動，但一些認知類的任務，比如電商風險問題中就很依賴于知識圖譜等技術，”奧創表示，網絡安全的發展歷史悠久，大量的專業知識沉淀在少數專家腦海中，所以安全人才的缺口是個大問題，“尤其AI帶來更多的安全問題，無論是AI輔助解決安全問題，還是其他方式，既懂安全又懂AI的人才無疑是最寶貴的。”

附發言全文：

我是來自阿里巴巴安全部的薛暉（花名：奧創），也是阿里安全圖靈實驗室的負責人。該實驗室主要負責圖像視頻、自然語言處理以及語音等技術在安全場景的應用，也包括一部分AI技術自身的安全性研究。

第一個問題是，人工智能發展下是否有可能發生白帽子無法察覺或無法防范的攻擊？

我認為存在這樣的可能。我們知道，原本計算機的優勢就在于速度和影響規模上，擁有比人類更強大的能力；伴隨著人工智能的發展，計算機與人類在創造性和認知理解能力上的差距被進一步縮小，而原本就占優的速度和影響規模優勢被進一步放大，是有可能會出現令人無法察覺或無法防范的攻擊的。

但不要忘了，人工智能不僅可以放大攻擊方的能力，防守方也同樣可以借助人工智能技術來加固自己的堡壘。當前網絡攻擊實際是攻防不對等的；相對于攻擊方來說，防守方所需要覆蓋的面要大得多，受限于人力的因素其實是很吃虧的；比如現在我們有機會能從海量的日志中去發現蛛絲馬跡，這在過去靠人力的時代是基本不用想的。我認為人工智能在輔助安全方面，對防御的提升會大于對攻擊的提升，最終將攻防拉到同一水位上，甚至可能會讓扭轉防守方一直以來的劣勢。

第二個問題，很多人在問，學術界和工業界研發的差異是什么？

之前顏教授有過總結，我覺得很精辟：學術界是追求極限，工業界則是在商言商。

如果從今天深度學習的幾個要素，數據、算力、算法來細說，還是有一些值得討論的，比如從信息角度，這可能是今天企業最大的優勢之一。但有點是肯定的，天下沒有免費的午餐。現在很多信息的合規和隱私問題越來越重要，很難能夠持續保證收集到足夠高質量的信息，更不要說今天的深度學習模型還可能會遭遇到數據污染等攻擊；從另一方面來說，今天數據的重要性其實更多證明了人工智能的不成熟：我們的模型沒有能夠做到足夠好的遷移性，或者像人類一樣基于小樣本學習；但我們越來越依賴信息量，當信息成為我們的核心競爭力之后，我們也越來越不愿意分享自己的信息，這可能是對整體發展不利的。在學術界其實只需要關注固定的開源數據集，沒有這樣的煩惱。

從算力角度來說，這也算是大公司的優勢吧，特別是像阿里這樣做云計算的公司。今天我們的確可以在實驗環境中調用大量的計算資源來訓練模型；但是在實際運用時，我們必須保證模型能夠在用戶的手機或設備上流暢運轉，要考慮前一代甚至前幾代機型的兼容性，這是一件非常繁瑣的事情。相比來說，在學術界，我們往往較少考慮時間性能等因素（雖然最近一些比賽也設置了這一條件），比如可以為了提升極限采用多模型融合的方式。

從算法角度看，學術界擁有更靈活和開放的思路，能夠帶給工業界持續的驚喜，高校相比企業擁有更大的試錯空間，因為即使項目失敗了，至少也把人培養起來了，這才是高校最核心的任務。

還有很多人問，是否需要安全領域的專門AI研究的人才?

我的答案是需要。廣義的安全包含的領域很多，包括系統安全、金融風控、公共安全，電商治理也有營商環境的安全；這兩年阿里也一直在推進新零售安全，新零售時代下的安全有了新的定義，比如我們會把防盜、防火以及食品衛生安全也納入到這個范疇進來。

我們在做很多感知類問題，比如圖像識別、語音識別時，往往采用數據驅動的方式；因為這類任務的樣本很多，不斷被產生；即使某個特定領域沒有現成的標記樣本，因為這類任務對于人來說很簡單，不需要專業知識，所以標記的成本也不高。

但對于一些認知類的任務，比如系統安全或者金融風控來說，由于專業知識的門檻以及實時的對抗變異和博弈，穩定和長期的數據難以獲得，直接使用深度學習會遇到天花板；譬如今天我們在解決電商風險問題大量依賴于知識圖譜等技術。網絡安全的發展已經經歷了相當長一段的時間了，大量的專業知識沉淀在少數專家的腦海里，但安全人才的缺口仍然是一個大問題。無論是AI輔助人工去解決安全問題、或是采用基于知識工程的方式，既懂安全又懂AI的人才無疑是最寶貴的。

最后，對于GAN所引起的真實性問題，學界和政府如何應對的問題，我認為，AI 研究員經常會想如何去挑戰一個難題，但他們很少考慮“我們應該這樣做嗎？”很多技術出發點是好的，但他們較少關注技術被濫用的潛在可能性。對于政府來說，完善法律法規和加強道德規范的建設。鑒于技術未來可能會引發不可預計的社會問題，可能過去工程師對于技術開發和開放的態度需要得到一定程度的改變。對于學界來說，加強在這一領域防御的研究，不僅是生成，也包括鑒偽。另外也同樣重要的是，在AI交叉學科的增加投入，比如法學、心理學、道德倫理學等。

【來源：通信世界全媒體】