AI對(duì)抗攻擊算法劃分
目前主流對(duì)抗 攻擊算法的總體分支與邏輯：
?文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-440283.html
????????其中，當(dāng)算法模型參數(shù)和訓(xùn)練數(shù)據(jù)等信息被攻擊者所掌握，并且攻擊者在此基礎(chǔ)上進(jìn)行的針對(duì)性攻擊稱為白盒攻擊。白盒攻擊主要分為基于梯度的攻擊，基于優(yōu)化的攻擊以及基于GAN的攻擊。而在對(duì)算 法模型的結(jié)構(gòu)和參數(shù)一無(wú)所知，甚至相關(guān)訓(xùn)練數(shù)據(jù)也一無(wú)所知的情況下，進(jìn)行攻擊的過(guò)程稱為黑盒攻擊。 黑盒攻擊主要分為基于遷移的攻擊和基于查詢的攻擊兩大類。
基于遷移的攻擊邏輯由白盒攻擊延伸而來(lái)，一般會(huì)有一個(gè)白盒模型作為替身模型（surrogate）進(jìn)行攻 擊，而生成的對(duì)抗樣本一般也會(huì)對(duì)其他模型有一定的遷移攻擊性。 基于查詢的攻擊其主要是通過(guò)查詢黑盒模型的輸出信息，對(duì)黑盒模型進(jìn)行直接的攻擊，但完成整個(gè)攻擊流程往往需要大量的查詢，容易被模型所有者檢測(cè)到異常。再者，基于此我們?cè)俳榻B兩個(gè)有趣的攻擊策略有目標(biāo)攻擊（targeted attack）：通過(guò)攻擊使得模型將特定數(shù)據(jù)錯(cuò)誤輸出到指定的label上。 無(wú)目標(biāo)攻擊：通過(guò)攻擊使得模型將特定數(shù)據(jù)錯(cuò)誤輸出到除真實(shí)label外的其他任何label上。類模型，針對(duì)有目標(biāo)攻擊，我們通過(guò)生成對(duì)抗樣本，想讓分類模型將貓的類別錯(cuò)判成狗。而無(wú)目標(biāo)攻 擊，并不限定特定類別，只要模型發(fā)生錯(cuò)判即可。
（一）白盒攻擊
????????基于遷移的攻擊，我們先介紹最經(jīng)典的FGSM算法，YOLOv4使用的SAT（self adversarial training技術(shù)就是基于FGSM開(kāi)展。
FGSM(Fast Gradient Sign Method) 是第一個(gè)使用模型梯度信息來(lái)進(jìn)行對(duì)抗攻擊的算法。
為什么使用梯度信息進(jìn)行攻擊會(huì)有效果呢？
直觀地來(lái)說(shuō)，我們想要模型輸出錯(cuò)誤預(yù)測(cè)，那就要增大模型對(duì)輸入數(shù)據(jù)的loss，而這正好與模型訓(xùn)練時(shí)往梯度下降，loss減少的方向相反。 由于模型的參數(shù)與結(jié)構(gòu)保持不變，那么我們只有通過(guò)原圖+梯度信息->更新圖像的步驟來(lái)實(shí)現(xiàn)這個(gè)邏輯。
?
????????PGD（Projected Gradient descent）是FGSM算法的一個(gè)優(yōu)化版本。其在FGSM基礎(chǔ)上引入了迭代攻擊的思想，將多次攻擊后的數(shù)據(jù)作為最終的對(duì)抗樣本。
而基于優(yōu)化的攻擊算法的基本邏輯是將攻擊流程轉(zhuǎn)換為一個(gè)優(yōu)化問(wèn)題，以更小的擾動(dòng)來(lái)生成更加高效的對(duì)抗樣本。
???????其中Deepfool攻擊算法是基于超平面分類的攻擊方法，其通過(guò)迭代計(jì)算的方法生成最小規(guī)范對(duì)抗擾動(dòng)，將位于分類邊界內(nèi)的圖像逐步推到邊界外，直到出現(xiàn)錯(cuò)誤預(yù)測(cè)。
?
????????基于GAN的攻擊。AdvGAN將GAN思想引對(duì)抗攻擊，通過(guò)生成器生成對(duì)抗擾動(dòng)，添加到干凈樣本中。而判別器主要負(fù)責(zé)判別輸入的是對(duì)抗樣本還是干凈樣本。整個(gè)對(duì)抗訓(xùn)練過(guò)程轉(zhuǎn)化成GAN經(jīng)典博弈過(guò)程。
?
?
（二）黑盒攻擊
????????黑盒攻擊主要有基于遷移的攻擊和基于查詢的攻擊?；谶w移的攻擊主要由白盒攻擊擴(kuò)展，一般來(lái)說(shuō)，通過(guò)白盒攻擊生成的對(duì)抗樣本，一般對(duì)不同的算法模型具備一定的遷移攻擊性。 而基于查詢的對(duì)抗攻擊首先設(shè)定一個(gè)搜索空間，并通過(guò)不斷的查詢模型的輸出來(lái)優(yōu)化對(duì)抗擾動(dòng)。
?https://zhuanlan.zhihu.com/p/493333024
源碼鏈接：https://pan.baidu.com/s/1RIduv6ngpCM3jx63D3PQGA? 提取碼：aid6
import os
import torch
import torch.nn as nn
from torchvision.models import mobilenet_v2
from advertorch.utils import predict_from_logits
from advertorch.utils import NormalizeByChannelMeanStd
from advertorch.attacks import LinfPGDAttack
from advertorch_examples.utils import ImageNetClassNameLookup
from advertorch_examples.utils import bhwc2bchw
from advertorch_examples.utils import bchw2bhwc
device = "cuda" if torch.cuda.is_available() else "cpu"
### 讀取圖片
def get_image():
img_path = os.path.join("./images", "school_bus.png")
def _load_image():
from skimage.io import imread
return imread(img_path) / 255.
if os.path.exists(img_path):
return _load_image()
def tensor2npimg(tensor):
return bchw2bhwc(tensor[0].cpu().numpy())
### 展示攻擊結(jié)果
def show_images(model, img, advimg, enhance=127):
np_advimg = tensor2npimg(advimg)
np_perturb = tensor2npimg(advimg - img)
pred = imagenet_label2classname(predict_from_logits(model(img)))
advpred = imagenet_label2classname(predict_from_logits(model(advimg)))
import matplotlib.pyplot as plt
plt.figure(figsize=(10, 5))
plt.subplot(1, 3, 1)
plt.imshow(np_img)
plt.axis("off")
plt.title("original image\n prediction: {}".format(pred))
plt.subplot(1, 3, 2)
plt.imshow(np_perturb * enhance + 0.5)
plt.axis("off")
plt.title("the perturbation,\n enhanced {} times".format(enhance))
plt.subplot(1, 3, 3)
plt.imshow(np_advimg)
plt.axis("off")
plt.title("perturbed image\n prediction: {}".format(advpred))
plt.show()
normalize = NormalizeByChannelMeanStd(
mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225])
### 常規(guī)模型加載
model = mobilenet_v2(pretrained=True)
model.eval()
model = nn.Sequential(normalize, model)
model = model.to(device)
### 數(shù)據(jù)預(yù)處理
np_img = get_image()
img = torch.tensor(bhwc2bchw(np_img))[None, :, :, :].float().to(device)
imagenet_label2classname = ImageNetClassNameLookup()
### 測(cè)試模型輸出結(jié)果
pred = imagenet_label2classname(predict_from_logits(model(img)))
print("test output:", pred)
### 輸出原label
pred_label = predict_from_logits(model(img))
### 對(duì)抗攻擊：PGD攻擊算法
adversary = LinfPGDAttack(
model, eps=8 / 255, eps_iter=2 / 255, nb_iter=80,
rand_init=True)
### 完成攻擊，輸出對(duì)抗樣本
advimg = adversary.perturb(img, pred_label)
### 展示源圖片，對(duì)抗擾動(dòng)，對(duì)抗樣本以及模型的輸出結(jié)果
show_images(model, img, advimg)輸出結(jié)果：校車誤判為縫紉機(jī)
文章來(lái)源：http://www.zghlxwxcb.cn/news/detail-440283.html
?
到了這里，關(guān)于AidLux智慧交通AI安全之對(duì)抗攻擊算法的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
