8 月 19 日，第 19 屆 XCon 安全焦點信息安全技術峰會于北京舉行，騰訊朱雀實驗室首度亮相公眾視野。該實驗室由騰訊安全平臺部孵化，專注于實戰(zhàn)攻擊技術研究和 AI 安全技術研究，以攻促防，守護騰訊業(yè)務及用戶安全。

　　會上，騰訊朱雀實驗室高級安全研究員 nEINEI 分享了一項 AI 安全創(chuàng)新研究：模擬實戰(zhàn)中的黑客攻擊路徑，通過對 AI 模型文件的逆向分析，跳過傳統(tǒng)利用“樣本投毒”的攻擊環(huán)節(jié)，直接控制 AI 模型的神經(jīng)元，為模型“植入后門”。甚至在保留正常功能的前提下，直接在 AI 模型文件中插入二進制攻擊代碼，將模型文件改造為攻擊載體來執(zhí)行惡意代碼，在幾乎無感的情況下，實現(xiàn)對神經(jīng)網(wǎng)絡的深層次攻擊。

　　這也是國內首個利用 AI 模型文件直接產生后門效果的攻擊研究。

　　騰訊安全平臺部負責人楊勇表示，當前 AI 已融入各行各業(yè)，安全從業(yè)者面臨著更復雜、更多變的網(wǎng)絡環(huán)境。我們已經(jīng)看到了網(wǎng)絡攻擊武器 AI 化的趨勢，除了框架這樣的 AI 基礎設施，數(shù)據(jù)、模型、算法，任何一個環(huán)節(jié)都是攻防的前線。作為安全工作者，必須走在業(yè)務之前，做到技術的與時俱進。

　　針對新型攻擊手法，騰訊朱雀實驗室也對 AI 研究和從業(yè)人員提出了應對建議：從第三方渠道下載的模型，要保證渠道的安全性，避免直接加載不確定來源的模型文件。對模型文件的加載使用也要做到心中有數(shù)，通過“模型可信加載”，每次加載模型進行交叉對比、數(shù)據(jù)校驗，進行充分的代碼檢測，可有效應對這種新型攻擊手法。
　　（邯鄲網(wǎng)站建設）