全國政協(xié)委員、全國安天集團(tuán)創(chuàng)始人肖新光常年奮戰(zhàn)在網(wǎng)絡(luò)安全對抗的政協(xié)助力一線，安天科技的肖新反病毒引擎累計覆蓋了超過四十億部手機(jī)終端、PC終端、模型網(wǎng)絡(luò)設(shè)備和網(wǎng)絡(luò)安全設(shè)備，既帶對于新一輪人工智能帶來的風(fēng)險安全威脅，肖新光有著最切身的也帶感受。
他觀察到了一些新的安全威脅，比如利用AI生成的全國釣魚郵件，有將深度偽造運用于金融詐騙，政協(xié)助力甚至還有很多惡意軟件偽裝成DeepSeek的肖新安裝包。那么，模型針對這些威脅，既帶到底有哪些破解辦法，風(fēng)險肖新光接受了南方周末記者的也帶專訪。
全國政協(xié)委員、安天集團(tuán)創(chuàng)始人肖新光。圖片來源：受訪者提供。
南方周末：生成式人工智能給國家網(wǎng)絡(luò)安全帶來哪些新的情況？
肖新光：人工智能對安全威脅的加速作用已經(jīng)產(chǎn)生。過去幾年，我們捕獲和關(guān)注到的APT攻擊的釣魚郵件中，已經(jīng)出現(xiàn)了AI生成內(nèi)容，金融詐騙中出現(xiàn)了深度偽造的案例。
同時，大模型平臺成為新的攻擊目標(biāo)，例如DeepSeek在年初遭遇的大規(guī)模DDoS攻擊，我們也快速跟進(jìn)和提供了相關(guān)的樣本分析，發(fā)布了樣本分析報告。
由于人工智能熱度很高，惡意軟件偽裝成人工智能App，在部署包中捆綁木馬的案例很多，我們此前就依托國家計算機(jī)病毒協(xié)同分析平臺，發(fā)現(xiàn)了冒充DeepSeek客戶端的木馬樣本，并進(jìn)行了分析響應(yīng)。
南方周末：Sora為代表的生成式視頻大模型，為深度偽造創(chuàng)造了條件。技術(shù)上是否可以識別出哪些是人工智能生成的內(nèi)容？我們普通人應(yīng)該如何去甄別深度偽造的信息？
肖新光：識別深度偽造目前來看有一些方法，包括基于生理信號比對、基于物理規(guī)律分析、基于元數(shù)據(jù)指紋等，但每種技術(shù)方法都有其適用場景和相關(guān)前提條件。
如基于生理信號分析，主要是驗證微表情等和本人是否一致，前提是需要存儲可對比的樣本；基于物理規(guī)律捕捉分析光影效果是否一致等等，需要相關(guān)的算力、元數(shù)據(jù)指紋等。更多只適用于版權(quán)保護(hù)等相關(guān)場景，而且需要非常完善的配套治理體系。
相關(guān)攻擊之所以稱為深度偽造，就是它已經(jīng)超出普通人