大屏幕上顯示了兩個(gè)與真人無(wú)異的俊男美女的臉，隨后，一個(gè)身著紅衣的虛擬女模特在視頻中緩緩走來(lái)……12月5日，在阿里安全與清華大學(xué)聯(lián)合舉辦的AI與安全研討會(huì)上，近日正式在阿里平臺(tái)上線的首款A(yù)I模特塔璣首次以視頻形態(tài)在清華、中科院、西安電子科技大學(xué)、北京交通大學(xué)、西安交通大學(xué)等一眾國(guó)內(nèi)頂尖AI安全專(zhuān)家面前現(xiàn)“真容”。
圖示：AI模特塔璣實(shí)拍圖生成技術(shù)
塔璣中包含的阿里新一代安全架構(gòu)核心算法技術(shù)由阿里自主研發(fā)，可形成全世界獨(dú)一無(wú)二的虛擬人臉，該算法將服裝平鋪圖轉(zhuǎn)化成3D模型“穿”在模特身上，一天之內(nèi)商家就能拿到圖上新，給服飾商家提供了模特靜態(tài)圖、短視頻和直播解決方案，為商家降低成本，從而降低盜圖風(fēng)險(xiǎn)，真正實(shí)現(xiàn)用技術(shù)幫助中小商家，顛覆了知識(shí)產(chǎn)權(quán)保護(hù)的傳統(tǒng)模式。
據(jù)悉，阿里安全與北京服裝學(xué)院正在就AI模特項(xiàng)目中模特設(shè)計(jì)和行為動(dòng)作建模等課題進(jìn)行合作，而這僅僅只是AI技術(shù)從研究走向安全風(fēng)控實(shí)際應(yīng)用的項(xiàng)目之一。在本次AI與安全研討會(huì)上，國(guó)內(nèi)頂尖AI專(zhuān)家對(duì)AI在多媒體智能、自動(dòng)駕駛、復(fù)雜電商環(huán)境治理等多個(gè)領(lǐng)域的前沿技術(shù)與優(yōu)秀應(yīng)用進(jìn)行了分享。
阿里巴巴集團(tuán)首席風(fēng)險(xiǎn)官鄭俊芳判斷：“安全成為數(shù)字經(jīng)濟(jì)時(shí)代的基建，安全基建又必須靠AI來(lái)實(shí)現(xiàn)。”在繁多數(shù)據(jù)類(lèi)型帶來(lái)快速識(shí)別的巨大挑戰(zhàn)下，如何對(duì)復(fù)雜內(nèi)容和細(xì)微差別進(jìn)行精準(zhǔn)識(shí)別？如何依靠少量樣本進(jìn)行識(shí)別？如何及時(shí)應(yīng)對(duì)不斷使用新技術(shù)的專(zhuān)業(yè)黑灰產(chǎn)攻擊？鄭俊芳指出，為解決這些技術(shù)難題，阿里愿和學(xué)術(shù)界合作共贏，探索更智能的安全，打造更安全的AI。
圖示：阿里巴巴集團(tuán)首席風(fēng)險(xiǎn)官鄭俊芳
AI面臨安全問(wèn)題是共識(shí)
中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸認(rèn)為，人工智能將先在交通、醫(yī)療、金融、智能制造等領(lǐng)域產(chǎn)生革命性的變化。從長(zhǎng)遠(yuǎn)來(lái)看，AI會(huì)根本性改變這些領(lǐng)域，從現(xiàn)實(shí)來(lái)看，還有許多困難要克服。
圖示：中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸
現(xiàn)在，已有廠商在國(guó)內(nèi)部分地區(qū)試點(diǎn)自動(dòng)駕駛出租車(chē)服務(wù)，不過(guò)整體來(lái)看，現(xiàn)在所有的自動(dòng)駕駛產(chǎn)品或者即將上市的產(chǎn)品都處于L4及以下。西安交通大學(xué)人工智能與機(jī)器人研究所教授薛建儒認(rèn)為，無(wú)人駕駛的安全可信面臨的挑戰(zhàn)性在于，無(wú)人駕駛面臨動(dòng)態(tài)決策，它固有的復(fù)雜性、不確定性和歧義性都是一些開(kāi)放式問(wèn)題。
薛建儒說(shuō)：“當(dāng)前我們的無(wú)人駕駛在應(yīng)對(duì)復(fù)雜場(chǎng)景和人類(lèi)駕駛員相比在適應(yīng)性上存在很大差距。在如何引入人類(lèi)的駕駛知識(shí)，把人類(lèi)的直覺(jué)推理和演繹推理這樣的認(rèn)知機(jī)理放到駕駛模型里，提高當(dāng)前模型表征能力，我們還有所欠缺。”
張鈸表示，AI面臨著算法安全的根本原因在于，神經(jīng)網(wǎng)絡(luò)只是進(jìn)行函數(shù)映射，缺乏對(duì)任務(wù)的理解，算法的魯棒性差，具體表現(xiàn)在“一是測(cè)試集的魯棒性差，當(dāng)測(cè)試集和訓(xùn)練數(shù)據(jù)有差別，推廣能力就會(huì)變差。二是對(duì)噪聲的魯棒性很差，導(dǎo)致AI算法容易被濫用、攻擊、誤用。”
應(yīng)用成效顯著 安全能力提升需開(kāi)放合作
不過(guò)，正如鄭俊芳所說(shuō)，安全基建必須靠AI來(lái)實(shí)現(xiàn)，安全的AI正在給多個(gè)領(lǐng)域帶來(lái)變化。
清華大學(xué)計(jì)算機(jī)系副主任朱文武介紹了其在多媒體與AI上的研究，希望人工智能給多媒體提供研究的新思想和范式，比如原來(lái)的語(yǔ)義處理通過(guò)特征提取進(jìn)行分析，語(yǔ)義學(xué)習(xí)給多媒體提供了語(yǔ)義和多模態(tài)信息，這能幫助機(jī)器學(xué)習(xí)做得更好。多媒體和AI呈互相促進(jìn)，互相幫助、互相指導(dǎo)的態(tài)勢(shì)發(fā)展。
據(jù)公開(kāi)報(bào)道，12月5日，財(cái)政部原副部長(zhǎng)朱光耀表示，在2020年的新年伊始突如其來(lái)的新冠病毒疫情對(duì)世界經(jīng)濟(jì)造成了巨大的沖擊。新經(jīng)濟(jì)、數(shù)字經(jīng)濟(jì)的發(fā)展，在這種特殊危機(jī)的情況下得到了突出的運(yùn)用，而且危機(jī)也使數(shù)字經(jīng)濟(jì)有了進(jìn)一步發(fā)展上升的空間。
數(shù)字經(jīng)濟(jì)對(duì)疫情后經(jīng)濟(jì)恢復(fù)發(fā)展的重要性不言而喻。
阿里安全資深算法專(zhuān)家薛暉介紹，現(xiàn)在淘寶的GMV已恢復(fù)到疫情前的水平，甚至比2019年同期還增長(zhǎng)了20%。一邊是不斷增長(zhǎng)的體量，一邊是與日俱增的電商平臺(tái)復(fù)雜性，這對(duì)阿里的治理水平提出了更高的要求。
薛暉給出了兩個(gè)極具震撼力的數(shù)字。近五年來(lái)，每萬(wàn)筆交易的一次侵權(quán)商品量下降將近2/3。近三年來(lái)，阿里平臺(tái)通過(guò)輸出線索協(xié)助公安打擊線下制售假窩點(diǎn)，拘捕嫌疑人近萬(wàn)名，累計(jì)涉案金額超過(guò)200億元。
這兩個(gè)數(shù)字背后，是阿里建立的一套基于人工智能的復(fù)雜電商環(huán)境治理體系在發(fā)揮巨大作用。這套治理體系對(duì)于商品內(nèi)容非結(jié)構(gòu)化數(shù)據(jù)的理解和分析能力，包含了大量自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、各種多模態(tài)、跨模態(tài)感知類(lèi)技術(shù)；這套體系能精準(zhǔn)地對(duì)電商平臺(tái)上的各種非法和異常行為做推理和認(rèn)知。
同時(shí)，電商環(huán)境又是充滿利益的，算法專(zhuān)家不僅要保障上述體系的兩大能力高速發(fā)揮其作用，還要十分關(guān)注電商關(guān)鍵節(jié)點(diǎn)模型自身的安全性，以保證模型不會(huì)出現(xiàn)漏洞，不被黑產(chǎn)所利用，保證模型的魯棒性。
阿里在安全領(lǐng)域投入非常大，技術(shù)人員在安全團(tuán)隊(duì)中占比超過(guò)50%。鄭俊芳表示：“這幾年我們大踏步往前走，和頂級(jí)的團(tuán)隊(duì)在不同領(lǐng)域進(jìn)行合作，合作背后就是因?yàn)槲覀冇龅搅撕芏嗵魬?zhàn)，所以說(shuō)，安全必須要靠堅(jiān)定的投入和更開(kāi)放的合作，才能解決今天面臨的復(fù)雜挑戰(zhàn)。”
圖示：阿里安全首席架構(gòu)師錢(qián)磊（右一）與清華大學(xué)教授朱軍（左一）為安全AI挑戰(zhàn)者計(jì)劃獲獎(jiǎng)?wù)哳C獎(jiǎng)
在AI與安全研討會(huì)上，阿里安全與清華大學(xué)還為其合作的安全AI挑戰(zhàn)者計(jì)劃三期獲獎(jiǎng)選手進(jìn)行了頒獎(jiǎng)，再次力證校企聯(lián)合，培養(yǎng)真正有安全實(shí)戰(zhàn)能力的安全基建人才，抵御AI業(yè)態(tài)未來(lái)安全風(fēng)險(xiǎn)的決心。
圖示：由阿里安全與清華大學(xué)聯(lián)合舉辦的AI與安全研討會(huì)
