(資料圖片僅供參考)

格隆匯4月18日丨有投資者向亞信安全(688225.SH)提問：大家比較關注國外ChatGPT等AI新技術在安全的一些應用，請問兩個方面的問題，第一是從技術發展上可能會帶來什么樣的安全問題？另外就是前段時間微軟、谷歌要把AI能力植入到整個安全技術體系內，公司怎么去看技術發展趨勢以及是否會有相應的布局？

亞信安全回復：這個問題其實是兩個方面，先回答AI對安全的影響。原來我們一直在談公司的平臺化戰略是云化、智能和聯動，其中的“智能”實際上從那時候開始一直在做相應的布局，只不過最近ChatGPT的推出讓大家突然發現AI的很多算法和模型超出了大家的預期，實際上整個AI構架與網絡安全行業極其契合。在大模型中一方面要有相應的海量數據(603138)，另一方面要有相應的模型或者規則，最后是相應的反饋，甚至把反饋輸出給機器人(300024)、虛擬人等完成行動處置。這與網絡安全行業基于威脅情報以及安全事件告警記錄等海量信息采集、訓練形成模型是類似的路徑，不管是在做APT防護還是各種各樣的防御，威脅發現能力的規則要有相應的模型，只不過原來這些規則絕大部分要基于專家、基于攻防研究去設置，然后才會進行相應的處置和響應。從這個鏈條來看，我們可以看到AI的應用在于取代專家的判斷或者加強規則的設立。AI底層技術在云網邊端相應的產品、威脅情報、核心技術引擎等方面都得到了很快的發展與應用。不管是XDR還是我們講到的態勢感知等產品，都會應用AI技術，未來我們給客戶提供的運營能力以及應急處置能力都可以用AI進行部分替代和取代，甚至比訓練有素的安全專家會更加強大。從這個維度講，AI的注入和賦能對整個產業會產生深刻的影響，帶來巨大的幫助。第二，AI本身的挑戰。AI大模型基于海量數據和相應的訓練，在模型中大家可以發現提問的技巧特別關鍵，提問人有沒有解構的能力、把問題設計好是比較重要的。一方面，訓練的數據是不是存在毒藥、提問和處置在應用的時候是否出現問題等等會對數字化系統帶來巨大的挑戰，也就是說可以數據投毒，甚至黑客組織、APT組織也可以利用模型能力來高效地發起攻擊。所以在這個過程中怎么防范在數據訓練和提問的過程中避免出現安全風險是很大的挑戰，也是一個很大的問題。其實安全行業和各國政府高度重視ChatGPT帶來的安全問題，不僅是我們所看到的狹義的網絡安全和數據安全，甚至于上升到了社會意識、輿論操作的問題，所以這里面我們認為會有很多的挑戰，網安行業會在相關技術應用如同態加密等密碼技術以及很多技術層面對其進行相應的防御。

關鍵詞：