人工智能的進(jìn)步使得聽起來真實的語音合成成為可能，以至于一個人無法再區(qū)分自己是在與另一個人交談還是與一個合成的聲音交談。如果一個人自己的聲音在未經(jīng)其同意的情況下被第三方“克隆”，惡意行為者就可以利用它來發(fā)送他們想要的任何消息。

這是可用于創(chuàng)建數(shù)字個人助理或化身技術(shù)的另一面。使用深度語音軟件克隆真實語音時，濫用的可能性是顯而易見的：合成語音很容易被濫用來誤導(dǎo)他人。只需幾秒鐘的錄音就可以令人信服地克隆一個人的聲音。任何偶爾發(fā)送語音消息或在答錄機(jī)上講話的人都已經(jīng)為世界提供了足夠的克隆材料。

圣路易斯華盛頓大學(xué)麥凱維工程學(xué)院的計算機(jī)科學(xué)家兼工程師Ning Zhang開發(fā)了一種名為AntiFake的工具，可以在未經(jīng)授權(quán)的語音合成發(fā)生之前阻止其發(fā)生。

檢測贗品的傳統(tǒng)方法只有在損害造成后才會生效。另一方面，AntiFake可以防止將語音數(shù)據(jù)合成為音頻深度偽造。該工具旨在在他們自己的游戲中擊敗數(shù)字造假者：它使用類似于網(wǎng)絡(luò)犯罪分子用于語音克隆的技術(shù)來真正保護(hù)聲音免遭盜版和冒充。

反深度偽造軟件旨在使網(wǎng)絡(luò)犯罪分子更難獲取語音數(shù)據(jù)并提取對語音合成很重要的錄音特征?！霸摴ぞ呤褂昧艘环N對抗性人工智能技術(shù)，該技術(shù)最初是網(wǎng)絡(luò)犯罪分子工具箱的一部分，但現(xiàn)在我們用它來防御他們，”Zhang說。“我們稍微弄亂了錄制的音頻信號，對其進(jìn)行扭曲或擾動，使其對聽眾來說仍然聽起來正確”，同時使其無法用于訓(xùn)練語音克隆。

類似的方法已經(jīng)存在于互聯(lián)網(wǎng)上作品的復(fù)制保護(hù)中。例如，人眼看起來仍然自然的圖像可能包含機(jī)器無法讀取的信息，因為圖像文件受到不可見的破壞。

例如，名為Glaze的軟件旨在使圖像無法用于大型人工智能模型的機(jī)器學(xué)習(xí)，并且某些技巧可以防止照片中的面部識別。“AntiFake確保當(dāng)我們將語音數(shù)據(jù)放在那里時，犯罪分子很難利用這些信息來合成我們的聲音并冒充我們，”Zhang說。

攻擊方法正在不斷改進(jìn)并變得更加復(fù)雜，從目前全球范圍內(nèi)針對公司、基礎(chǔ)設(shè)施和政府的自動網(wǎng)絡(luò)攻擊的增加就可以看出這一點。為了確保AntiFake能夠盡可能長時間地跟上圍繞深度偽造品不斷變化的環(huán)境，Zhang和他的博士生Zhiyuan Yu開發(fā)了他們的工具，經(jīng)過訓(xùn)練可以防止各種可能的威脅。

Zhang的實驗室針對五種現(xiàn)代語音合成器測試了該工具。據(jù)研究人員稱，AntiFake的防護(hù)率達(dá)到95%，甚至針對非專門設(shè)計的未知商業(yè)合成器也是如此。Zhang和Yu還對來自不同人群的24名人體測試參與者測試了他們的工具的可用性。

未參與AntiFake開發(fā)的芝加哥大學(xué)計算機(jī)科學(xué)教授Ben Zhao表示，該軟件與所有數(shù)字安全系統(tǒng)一樣，永遠(yuǎn)無法提供完整的保護(hù)，并將受到欺詐者持續(xù)不斷的獨創(chuàng)性的威脅。但是，他補(bǔ)充說，它可以“提高門檻，并將攻擊限制在一小群擁有大量資源、積極性高的個人身上。”

“攻擊越困難、越具有挑戰(zhàn)性，我們聽到的模仿語音詐騙或在學(xué)校中用作欺凌策略的深度偽造音頻片段的實例就越少。這是這項研究的一個偉大成果?！盳hao說。

AntiFake已經(jīng)可以保護(hù)較短的錄音免遭冒充，這是網(wǎng)絡(luò)犯罪偽造的最常見手段。該工具的創(chuàng)建者相信它可以擴(kuò)展以保護(hù)更大的音頻文檔或音樂免遭濫用。目前，用戶必須自己完成此操作，這需要編程技能。

Zhao如果這成為現(xiàn)實，我們將能夠利用人工智能在安全關(guān)鍵型應(yīng)用中的一個重大缺陷來對抗深度造假。但所開發(fā)的方法和工具必須不斷調(diào)整。

信息源于：scientificamerican文章來源地址http://www.zghlxwxcb.cn/news/detail-820920.html

到了這里，關(guān)于如何防止人工智能竊取你的聲音的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！