【深度学习】深入浅出对抗机器学习(AI攻防)
文章目录
1 Attack ML Model概述
2 基本概念
3 攻击分类
4 经典的对抗性样本生成算法
5 经典的对抗防御方法
6 人工智能安全现状概析
1 Attack ML Model概述
随着AI时代机器学习模型在实际业务系统中愈发无处不在，模型的安全性也变得日渐重要。机器学习模型很可以会遭到恶意攻击，比较直接就能想到的如：人脸识别模型的攻击。训练出具有对抗性的机器学习模型，在业务系统存在着越来越重要的实际意义。
机器学习模型攻击要做的事情如下图所示：
假设我们有一个Network用来做动物的图像识别。我们输入一张如图所示的图片， Network预测为“Tiger Cat”。机器学习模型攻击是在图片上加上一个微小的噪音Δ x，使得图片看起来还是一只“Tiger Cat”&
