以下內(nèi)容，摘編自頂象防御云業(yè)務(wù)安全情報(bào)中心正在制作的《“深度偽造”視頻識別與防御白皮書》，對“深度偽造”感興趣的網(wǎng)友，可前往頂象留言，在該白皮書完成后，會為您免費(fèi)寄送一份電子版。

?

“深度偽造”就是創(chuàng)建高度逼真的虛假視頻或虛假錄音，然后就可以盜用身份、傳播錯(cuò)誤信息、制作虛假數(shù)字內(nèi)容。

2024年1月，香港一家跨國公司員工遭遇釣魚詐騙損失2億港元；2023年12月，一名留學(xué)生在境外被“綁架”，父母遭“綁匪”索要500萬元贖金；兩個(gè)案件均為“深度偽造”欺詐。

?

?

畢馬威一份報(bào)告顯示，在線提供的“深度偽造”視頻同比增長了900%。另據(jù) bandeepfakes的一項(xiàng)數(shù)據(jù)顯示，“深度偽造”色情內(nèi)容就占所有在線“深度偽造”視頻的 98%，幾乎都是針對女性的。

?

“深度偽造”視頻的產(chǎn)業(yè)鏈

生物識別公司iProov的一份新報(bào)告顯示，利用“深度偽造”制作虛假圖像和視頻的詐騙分子最常 SwapFace、DeepFaceLive 和 Swapstream等工具進(jìn)行創(chuàng)建虛假的圖像和視頻。

?

?

這些工具與模擬器（能夠改變所在位置的經(jīng)緯度，實(shí)現(xiàn)任何地方的瞬間“穿越”）、改機(jī)軟件（詐騙分子利用改機(jī)工具能夠偽造出來設(shè)備的屬性信息）、IP秒撥（能夠快速無縫切換國內(nèi)國外不同區(qū)域的 IP 地址）等工具相結(jié)合，就能夠繞過安全體系的檢測，讓這些“深度偽造”視頻能夠進(jìn)入遠(yuǎn)程會議、工作網(wǎng)絡(luò)、社交平臺等不同渠道，然后就可以進(jìn)行各類欺詐行動。

隨著網(wǎng)絡(luò)犯罪即服務(wù)（Cybercrime as-a-Service）的出現(xiàn)，由此導(dǎo)致普通人也可以輕松訪問地購買到“深度偽造”的服務(wù)或技術(shù)。調(diào)查發(fā)現(xiàn)， GitHub（軟件項(xiàng)目托管平臺，用于托管和管理開發(fā)項(xiàng)目的代碼存儲庫、協(xié)作和版本控制的最大基于 Web 的平臺）上，有超過 3000 個(gè)與 “深度偽造”技術(shù)相關(guān)的存儲庫，表明其廣泛的開發(fā)和分發(fā)潛力。

在國外某個(gè)暗網(wǎng)工具上，擁有近千個(gè)提供“深度偽造”的頻道或群組。從虛假視頻自助制作到個(gè)性化定制，應(yīng)有盡有。這些“深度偽造”服務(wù)的定價(jià)各不相同，價(jià)格最低的“深度偽造”視頻只需要2 美元，而需求復(fù)雜的一個(gè)“深度偽造”視頻要100美元起，易用性使得犯罪分子更容易進(jìn)行“深度偽造”欺詐。

?

“深度偽造”視頻的制作步驟

“深度偽造”涉及 AI 算法和深度學(xué)習(xí)?？傮w來看，創(chuàng)建一個(gè)“深度偽造”視頻涉及如下過程。

1、收集數(shù)據(jù)。收集目標(biāo)任務(wù)的大量數(shù)據(jù)，包含多角度的人臉照片、工作信息、生活信息等，其中在公開的社交媒體采集到大量圖片、信息和視頻。

2、特征提取。利用深度學(xué)習(xí)算法，精準(zhǔn)地識別并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。

?

?

3、人像合成。將目人臉覆蓋、融合到需要偽造視頻中的任務(wù)的臉上，對齊面部特征，以確保它們在源和目標(biāo)之間匹配、替換。

4、聲音處理。用機(jī)器學(xué)習(xí)和人工智能以驚人的準(zhǔn)確性復(fù)制一個(gè)人的聲音，例如音高、語氣和說話風(fēng)格，并將視頻中的嘴唇動作與合成語音相匹配。

5、環(huán)境渲染。使用照明和顏色工具，進(jìn)一步完善視頻中人物、語音、動作與環(huán)境、服飾的協(xié)調(diào)匹配。

6、視頻合成導(dǎo)出，然后就可以用于在線播放、實(shí)時(shí)直播、視頻會議等等詐騙行為。

?

?

防范“深度偽造”的難點(diǎn)

識別難。已經(jīng)發(fā)展到可以令人信服地生成逼真的個(gè)人模擬的地步，這使得區(qū)分真假內(nèi)容變得越來越困難，除非接受過專門培訓(xùn)，否則很難被人識別出來，意識到這種威脅是防御它的第一步。

檢測難?！吧疃葌卧臁辟|(zhì)量的提高，檢測是一大難題。不僅肉眼無法有效識別，一些常規(guī)的檢測工具也不能及時(shí)發(fā)現(xiàn)。

追蹤難。沒有數(shù)字指紋，沒有明確的數(shù)字線索可循，沒有IP地址可以列入黑名單，甚至沒有直接的惡意軟件簽名可以檢測時(shí)，傳統(tǒng)的網(wǎng)絡(luò)安全措施無法有效防護(hù)。

?

?

更可怕的是，“深度偽造”的危險(xiǎn)不僅在于技術(shù)，還在于其所促成的整個(gè)詐騙生態(tài)系統(tǒng)?！吧疃葌卧臁钡钠墼p生態(tài)通過一個(gè)由機(jī)器人、虛假賬戶和匿名服務(wù)組成的錯(cuò)綜復(fù)雜的網(wǎng)絡(luò)運(yùn)作，所有這些都旨在制作、放大和分發(fā)捏造的信息和內(nèi)容。這是數(shù)字時(shí)代的一種游擊戰(zhàn)形式，在這個(gè)威脅體系中，攻擊者看不見且難以捉摸。他們不僅制作信息，還操縱每個(gè)參與者感知的現(xiàn)實(shí)結(jié)構(gòu)。所以，打擊“深度偽造”欺詐需，不僅需要技術(shù)對策，更需要復(fù)雜的心理戰(zhàn)和公眾安全意識。

?

防御“深度偽造”欺詐的四重措施

隨著技術(shù)的進(jìn)步，檢測識別“深度偽造”騙局的方法也在不斷發(fā)展，企業(yè)和個(gè)人需要通過多種渠道驗(yàn)證身份，采用多重策略來識別與防御“深度偽造”欺詐。

1、行為與生物識別

（1）在視頻對話的時(shí)候，可以要求對方摁鼻子、摁臉觀察其面部變化，如果是真人的鼻子，按下去是會變形的。也可以要求對方吃食物、喝水，觀察臉部變化。或者，要求做一些奇怪的動作或表情，比如，要求對方揮手、做某個(gè)難做的手勢等，以辨別真假。在揮手的過程中，會造成面部的數(shù)據(jù)的干擾，會產(chǎn)生一定的抖動或者是一些閃爍，或者是一些異常的情況。在一對一的溝通中可以問一些只有對方知道的問題，驗(yàn)證對方的真實(shí)性。同時(shí)，當(dāng)有人在視頻或錄音中提出匯款要求時(shí)，必須致電或從其他渠道一再核實(shí)。

（2）在點(diǎn)對點(diǎn)的溝通中可以問一些只有對方才知道的問題，以驗(yàn)證對方的真實(shí)性。

（3）“深度偽造”可以復(fù)制聲音，但也可能包含不自然的語調(diào)、節(jié)奏或微妙的失真，仔細(xì)聆聽后會顯得格外突出。同時(shí)，語音分析軟件可以幫助識別語音異常。

（4）在涉及文件的情況下，自動文檔驗(yàn)證系統(tǒng)可以分析文檔是否存在不一致之處，例如字體更改或布局差異。

?

?

2、設(shè)備和賬號識別

（1）數(shù)字簽名和區(qū)塊鏈賬本具有唯一性，可以對行為來源跟蹤，并對其進(jìn)行標(biāo)記以供審查。

（2）對設(shè)備信息、地理位置以及行為操作進(jìn)行比對識別，能夠發(fā)現(xiàn)并防范異常操作。頂象設(shè)備指紋通過對設(shè)備指紋的記錄和比對，可以辨別合法用戶和潛在的欺詐行為。其對每個(gè)設(shè)備進(jìn)行唯一標(biāo)識和識別的技術(shù)，識別出虛擬機(jī)、代理服務(wù)器、模擬器等被惡意操控的設(shè)備，分析設(shè)備是否存在多賬號登錄、是否頻繁更換IP地址、頻繁更換設(shè)備屬性等出現(xiàn)異?；虿环嫌脩袅?xí)慣的行為，幫助追蹤和識別欺詐者的活動。

（3）賬號異地登錄、更換設(shè)備、更換手機(jī)號、休眠賬戶突然活躍等等，需要加強(qiáng)頻繁驗(yàn)證；此外，會話期間的持續(xù)身份驗(yàn)證至關(guān)重要，保持持久性檢查以確保用戶的身份在使用期間保持一致。頂象無感驗(yàn)證可以快速準(zhǔn)確地區(qū)分操作者是人還是機(jī)器，精準(zhǔn)識別欺詐行為，實(shí)時(shí)監(jiān)控并攔截異常行為。此外，基于最小權(quán)限原則限制對敏感系統(tǒng)和賬戶的訪問，確保訪問其角色所需的資源，從而減少賬戶被盜用的潛在影響。

（4）基于人工審查與AI技術(shù)相結(jié)合的人臉反欺詐系統(tǒng)，防范“深度偽造”的虛假視頻。頂象全鏈路全景式人臉安全威脅感知方案，能夠有效檢測發(fā)現(xiàn)虛假視頻。它通過人臉環(huán)境監(jiān)測信息、活體識別、圖像鑒偽、智能核實(shí)等多維度信息對用戶人臉圖像進(jìn)行智能風(fēng)險(xiǎn)評估、風(fēng)險(xiǎn)評級，迅速識別虛假認(rèn)證風(fēng)險(xiǎn)。頂象全鏈路全景式人臉安全威脅感知方案，針對人臉識別場景及關(guān)鍵操作的實(shí)時(shí)風(fēng)險(xiǎn)監(jiān)測，針對性地監(jiān)測如攝像頭遭劫持、設(shè)備偽造、屏幕共享等行為，并觸發(fā)主動防御機(jī)制進(jìn)行處置。在發(fā)現(xiàn)偽造視頻或異常人臉信息后，該方案系統(tǒng)支持自動執(zhí)行防御策略，設(shè)備執(zhí)行命中防御策略之后對應(yīng)的防御處置，可以有效阻斷風(fēng)險(xiǎn)操作。

?

?

3、AI識別與取證

（1）基于深度學(xué)習(xí)的生成對抗網(wǎng)絡(luò)（GAN）能夠訓(xùn)練一種稱之為“鑒別器”神經(jīng)網(wǎng)絡(luò)模型，可識別真實(shí)版本和創(chuàng)建版本之間的任何差異。大數(shù)據(jù)模型可以快速分析大量視頻和音頻數(shù)據(jù)，以超出人類能力的速度識別異常。并且，機(jī)器學(xué)習(xí)模型可以識別“深度偽造”生產(chǎn)算法的特征模式，從而識別“深度偽造”的內(nèi)容。而且機(jī)器學(xué)習(xí)模型可以重新訓(xùn)練和調(diào)整，保持實(shí)時(shí)的迭代進(jìn)化。

（2）AI取證工具在調(diào)查和歸因“深度偽造”內(nèi)容方面發(fā)揮著至關(guān)重要的作用，這些工具分析數(shù)字足跡、元數(shù)據(jù)和創(chuàng)建過程中留下的其他痕跡，幫助識別攻擊者的來源并協(xié)助法律調(diào)查。

?

4、社交防范與公眾教育

（1）減少或者杜絕在社交媒體上分享賬戶、家庭家人、交通出行、工作崗位等敏感信息，防范欺詐分子盜用下載后，進(jìn)行圖片和聲音的“深度偽造”，而后進(jìn)行身份偽造。

（2）持續(xù)對公眾進(jìn)行“深度偽造”技術(shù)及其相關(guān)風(fēng)險(xiǎn)的教育至關(guān)重要，鼓勵(lì)公眾保持警惕并快速報(bào)告異常情況，也可以顯著提高組織檢測和響應(yīng)“深度偽造”威脅的能力。

技術(shù)在不斷發(fā)展，新的欺詐也在不斷涌現(xiàn)。盡可能隨時(shí)了解AI和“深度偽造”技術(shù)的最新發(fā)展，以相應(yīng)地調(diào)整保障措施。對 AI 模型的持續(xù)研究、開發(fā)和更新對于在日益復(fù)雜的“深度偽造”技術(shù)中保持領(lǐng)先地位至關(guān)重要。

業(yè)務(wù)安全產(chǎn)品：免費(fèi)試用

業(yè)務(wù)安全交流群：加入暢聊文章來源地址http://www.zghlxwxcb.cn/news/detail-837690.html

到了這里，關(guān)于AI安全白皮書 | “深度偽造”產(chǎn)業(yè)鏈調(diào)查以及四類防御措施的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！