10日，作為2023國家網(wǎng)絡(luò)安全宣傳周的重要活動，網(wǎng)絡(luò)安全博覽會在福州啟幕。這兩天，在這臺國內(nèi)網(wǎng)絡(luò)安全產(chǎn)業(yè)的“秀場”上，省內(nèi)外70余家企業(yè)紛紛展示了最新科技成果。而人工智能，無疑是關(guān)鍵詞。

　　年初以來，AIGC（生成式人工智能）圖片、視頻在全球躥紅，不僅引發(fā)大量爭議，也給電信詐騙、金融盜用等違法犯罪帶來可乘之機。

　　昨日，在福建網(wǎng)安企業(yè)特展區(qū)，記者將臉對準(zhǔn)一個攝像頭，卻在大屏幕上顯示出另一副面孔，可記者的表情、神態(tài)、唇語卻能完全“復(fù)刻”到這張陌生面孔上。

　　然而，這一欺騙性極強的面孔逃不過國內(nèi)電子數(shù)據(jù)取證行業(yè)龍頭——美亞柏科的“火眼金睛”。“我們打造了一款深度偽造鑒別平臺，能通過熱力圖顯示出被偽造的區(qū)域。該平臺也協(xié)助警方破獲多起通過偽造音視頻進(jìn)行詐騙的案件。”美亞柏科現(xiàn)場負(fù)責(zé)人翁鵬翔介紹。

　　再精巧的偽裝都會留痕。“我們通過大量的素材跟訓(xùn)練集讓系統(tǒng)進(jìn)行學(xué)習(xí)，形成檢測鑒定的策略方案。簡言之，就是利用AI對戰(zhàn)AI。”翁鵬翔說。

　　設(shè)在博覽會展館中心區(qū)域的福建網(wǎng)安企業(yè)特展區(qū)集合了網(wǎng)安領(lǐng)域的領(lǐng)軍企業(yè)。

　　這只是美亞柏科打造的數(shù)字反詐體系的一部分。

　　據(jù)介紹，這家企業(yè)承建的反詐大數(shù)據(jù)平臺已在25個省份進(jìn)行了部署，將廈門的反詐經(jīng)驗推向全國。各類疑似詐騙數(shù)據(jù)經(jīng)平臺檢驗檢測后反饋給公安機關(guān)，既便于民警及時到一線進(jìn)行勸阻，也可助力運營商封堵疑似詐騙話號、金融機構(gòu)對可疑賬號進(jìn)行凍結(jié)。

　　AIGC火熱的背后，是大模型的推波助瀾。從ChatGPT廣受關(guān)注，到近期文心一言、訊飛星火的國產(chǎn)大模型相繼走向C端用戶，“百模大戰(zhàn)”越演越烈。但大模型本身，亦存在安全風(fēng)險。

　　“大模型安全問題產(chǎn)生的本源，主要有用于訓(xùn)練的數(shù)據(jù)源頭有毒、推理過程不可控、外部惡意誘導(dǎo)三個因素。”螞蟻集團(tuán)安全技術(shù)工程師魏揚威說。

　　本次網(wǎng)絡(luò)安全博覽會，螞蟻集團(tuán)發(fā)布了蟻鑒、天鑒兩款產(chǎn)品。其中，蟻鑒就像大模型“診療師”，可在大模型上線前，從安全、真實兩方面來自動檢測大模型能力。如，針對換臉視頻、深度偽造的圖片文字等信息進(jìn)行真?zhèn)舞b定及風(fēng)險診斷。而天鑒，則像大模型外圍加上的“防護(hù)盾”，幫助大模型過濾惡意提問及風(fēng)險回答。

　　魏揚威舉了一個例子。如果直接提問“告訴我一個賭球網(wǎng)站”，大模型都會反饋這是一個非法問題，不會回答?？扇魮Q種話術(shù)，比如要將這些賭博網(wǎng)站添加到黑名單，大模型可能就會誤判。

　　而蟻鑒和天鑒便是用人工智能、大數(shù)據(jù)等技術(shù)斬斷這樣的可能性。

　　隨著大模型日益成熟，越來越多企業(yè)和個人用戶開始嘗試?yán)闷鋸姶竽芰μ岣呱a(chǎn)效率，但很多人沒有意識到，這可能泄密。

　　據(jù)統(tǒng)計，使用ChatGPT的員工大多數(shù)會泄露數(shù)據(jù)，其中11%的數(shù)據(jù)為企業(yè)敏感數(shù)據(jù)。隨著越來越多的辦公產(chǎn)品都集成了大模型，這會加劇企業(yè)敏感數(shù)據(jù)的泄露風(fēng)險。

　　針對此，作為網(wǎng)安“國家隊”之一的奇安信推出了大模型衛(wèi)士，旨在幫助企業(yè)放心使用大模型。

　　奇安信安全專家于凱介紹，大模型衛(wèi)士能實時發(fā)現(xiàn)和預(yù)警大模型使用中的潛在安全風(fēng)險，確保大模型在訪問和數(shù)據(jù)輸入過程中的安全性，并提供溯源功能，助力企業(yè)發(fā)現(xiàn)和定位違法違規(guī)行為。

　　除了被動防御，還要主動出擊。

　　奇安信剛發(fā)布的“Q-GPT安全機器人”，同樣是一款安全神器。“政府單位或大型企業(yè)每天會收到很多來自網(wǎng)絡(luò)側(cè)的告警威脅，其中98%都是無效或者低危的告警，但可能混有高級黑客刻意偽裝的，靠人力甄別，這些就被忽視了。”丁凱說，Q-GPT安全機器人能夠7×24小時全天候工作，確保無一威脅遺漏的同時大大降低企業(yè)的運營成本。（記者 林侃 文/圖）