大屏幕上顯示了兩個與真人無異的俊男美女的臉，隨后，一個身著紅衣的虛擬女模特在視頻中緩緩走來……12月5日，在阿里安全與清華大學聯合舉辦的AI與安全研討會上，近日正式在阿里平臺上線的首款AI模特塔璣首次以視頻形態在清華、中科院、西安電子科技大學、北京交通大學、西安交通大學等一眾國內頂尖AI安全專家面前現“真容”。

圖示：AI模特塔璣實拍圖生成技術

塔璣中包含的阿里新一代安全架構核心算法技術由阿里自主研發，可形成全世界獨一無二的虛擬人臉，該算法將服裝平鋪圖轉化成3D模型“穿”在模特身上，一天之內商家就能拿到圖上新，給服飾商家提供了模特靜態圖、短視頻和直播解決方案，為商家降低成本，從而降低盜圖風險，真正實現用技術幫助中小商家，顛覆了知識產權保護的傳統模式。

據悉，阿里安全與北京服裝學院正在就AI模特項目中模特設計和行為動作建模等課題進行合作，而這僅僅只是AI技術從研究走向安全風控實際應用的項目之一。在本次AI與安全研討會上，國內頂尖AI專家對AI在多媒體智能、自動駕駛、復雜電商環境治理等多個領域的前沿技術與優秀應用進行了分享。

阿里巴巴集團首席風險官鄭俊芳判斷：“安全成為數字經濟時代的基建，安全基建又必須靠AI來實現。”在繁多數據類型帶來快速識別的巨大挑戰下，如何對復雜內容和細微差別進行精準識別？如何依靠少量樣本進行識別？如何及時應對不斷使用新技術的專業黑灰產攻擊？鄭俊芳指出，為解決這些技術難題，阿里愿和學術界合作共贏，探索更智能的安全，打造更安全的AI。

圖示：阿里巴巴集團首席風險官鄭俊芳

AI面臨安全問題是共識

中國科學院院士、清華大學人工智能研究院院長張鈸認為，人工智能將先在交通、醫療、金融、智能制造等領域產生革命性的變化。從長遠來看，AI會根本性改變這些領域，從現實來看，還有許多困難要克服。

圖示：中國科學院院士、清華大學人工智能研究院院長張鈸

現在，已有廠商在國內部分地區試點自動駕駛出租車服務，不過整體來看，現在所有的自動駕駛產品或者即將上市的產品都處于L4及以下。西安交通大學人工智能與機器人研究所教授薛建儒認為，無人駕駛的安全可信面臨的挑戰性在于，無人駕駛面臨動態決策，它固有的復雜性、不確定性和歧義性都是一些開放式問題。

薛建儒說：“當前我們的無人駕駛在應對復雜場景和人類駕駛員相比在適應性上存在很大差距。在如何引入人類的駕駛知識，把人類的直覺推理和演繹推理這樣的認知機理放到駕駛模型里，提高當前模型表征能力，我們還有所欠缺。”

張鈸表示，AI面臨著算法安全的根本原因在于，神經網絡只是進行函數映射，缺乏對任務的理解，算法的魯棒性差，具體表現在“一是測試集的魯棒性差，當測試集和訓練數據有差別，推廣能力就會變差。二是對噪聲的魯棒性很差，導致AI算法容易被濫用、攻擊、誤用。”

應用成效顯著 安全能力提升需開放合作

不過，正如鄭俊芳所說，安全基建必須靠AI來實現，安全的AI正在給多個領域帶來變化。

清華大學計算機系副主任朱文武介紹了其在多媒體與AI上的研究，希望人工智能給多媒體提供研究的新思想和范式，比如原來的語義處理通過特征提取進行分析，語義學習給多媒體提供了語義和多模態信息，這能幫助機器學習做得更好。多媒體和AI呈互相促進，互相幫助、互相指導的態勢發展。

據公開報道，12月5日，財政部原副部長朱光耀表示，在2020年的新年伊始突如其來的新冠病毒疫情對世界經濟造成了巨大的沖擊。新經濟、數字經濟的發展，在這種特殊危機的情況下得到了突出的運用，而且危機也使數字經濟有了進一步發展上升的空間。

數字經濟對疫情后經濟恢復發展的重要性不言而喻。

阿里安全資深算法專家薛暉介紹，現在淘寶的GMV已恢復到疫情前的水平，甚至比2019年同期還增長了20%。一邊是不斷增長的體量，一邊是與日俱增的電商平臺復雜性，這對阿里的治理水平提出了更高的要求。

薛暉給出了兩個極具震撼力的數字。近五年來，每萬筆交易的一次侵權商品量下降將近2/3。近三年來，阿里平臺通過輸出線索協助公安打擊線下制售假窩點，拘捕嫌疑人近萬名，累計涉案金額超過200億元。

這兩個數字背后，是阿里建立的一套基于人工智能的復雜電商環境治理體系在發揮巨大作用。這套治理體系對于商品內容非結構化數據的理解和分析能力，包含了大量自然語言處理、計算機視覺、各種多模態、跨模態感知類技術；這套體系能精準地對電商平臺上的各種非法和異常行為做推理和認知。

同時，電商環境又是充滿利益的，算法專家不僅要保障上述體系的兩大能力高速發揮其作用，還要十分關注電商關鍵節點模型自身的安全性，以保證模型不會出現漏洞，不被黑產所利用，保證模型的魯棒性。

阿里在安全領域投入非常大，技術人員在安全團隊中占比超過50%。鄭俊芳表示：“這幾年我們大踏步往前走，和頂級的團隊在不同領域進行合作，合作背后就是因為我們遇到了很多挑戰，所以說，安全必須要靠堅定的投入和更開放的合作，才能解決今天面臨的復雜挑戰。”

圖示：阿里安全首席架構師錢磊（右一）與清華大學教授朱軍（左一）為安全AI挑戰者計劃獲獎者頒獎

在AI與安全研討會上，阿里安全與清華大學還為其合作的安全AI挑戰者計劃三期獲獎選手進行了頒獎，再次力證校企聯合，培養真正有安全實戰能力的安全基建人才，抵御AI業態未來安全風險的決心。

圖示：由阿里安全與清華大學聯合舉辦的AI與安全研討會