娱乐盘点准时播MindSpore是怎么做的？，对抗样本攻击与防御
对抗样本攻击与防御 ， MindSpore是怎么做的？
机器之心Pro2020-05-0818:17:09
文章图片
5月7日 ， 机器之心联合华为昇腾学院开设的线上公开课《轻松上手开源框架MindSpore》第5课完成 ， 刘志丹讲师为大家带来了主题分享《MindSpore模型健壮性评估工具》 。
第五课精选问答
在第五课的QA环节中 ， 有一些问题被大家广泛提到 ， 刘志丹讲师再次做了精选与编辑 ， 供大家参考 。
Q1：为什么要用sign函数？
文章图片
文章图片
Q2：增加防御算法后精度会降低？
不一定 。 防御算法用了对抗训练的方式 ， 生成对抗样本加入原始数据集中 ， 一起训练模型 ， 得到的模型参数和单纯用原始数据集的模型参数是有一点差异 ， 这个差异 ， 可能使得在测试集上的精度发生变化 ， 可能减少 ， 也可能增加 。
Q3：增加防御算法对训练时间的影响？
用不用对抗训练的差别是 ， 对抗训练在正常的模型训练过程中增加了生成对抗样本的步骤 ， 所以训练时增加的计算开销在于生成对抗样本 ， 用不同的攻击算法 ， 时间开销不同 ， 如果用FGSM这种简单的攻击算法 ， 增加的时间是很少的 ， 如果用CW这种比较强的攻击方法 ， 时间开销就会大一些 。 具体选用哪种攻击算法 ， 需要用户根据自己的需求 ， 综合时间开销和安全性需求 ， 选择一个合适的攻击算法 。
Q4：增加对抗训练过程 ， 对推理时间会造成什么影响？
对推理没有影响 ， 模型训练完了之后 ， 跟正常的模型是一样的 ， 所以推理时间和原来的模型推理时间是一样的 。
Q5：对抗训练时使用的对抗样本和防御后测试时使用的对抗样本一样吗？
不一样 。 训练、测试时用的对抗样本生成方法可以一样 ， 也可以不一样 。
Q6：与cleverhans有什么区别?
MindArmour和Cleverhans的出发点是一致 ， 都是要做模型的对抗样本安全的研究 。 从提供的特性来讲 ， MindArmour做的更全面一些 ， 包括了对抗样本的生成、检测、模型的防御、对抗攻防的评估模块 ， 还有通过fuzzing方式对模型进行鲁棒性测试的模块 。
大家后续如有更多问题 ， 欢迎关注MindSpore的gitee和github ， 随时提issue ， 官方人员将及时为大家解答：
Gitee：https://gitee.com/mindspore
GitHub：https://github.com/mindspore-ai
第五课PPT如下：
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
推荐阅读
- 娱乐小小始终未见微粒贷，看完后惊了，小伙使用微信5年
- 盘点科技11 Pro Max快速上手：万元的价值体现在哪里？，iPhone
- 一萌娱乐未来会怎样？我们每个人都需要做视频号吗，微信视频号来了
- 娱乐小小你碰了几个？，花呗借呗大面积被关？支付宝3条红线不可碰
- 娱乐小小微信微粒贷正确打开姿势，网友：没花呗借呗的有福了。，一夜之间
- 文化资讯观2020无线蓝牙耳机排行榜：重磅盘点二十大知名度最高的品牌
- 爱生活系感恩性能足够颜值高，购买绝对不会亏！，盘点5款最香“百元机”
- 阿佳说娱乐为什么懂点手机的人都看不上vivo、OPPO？他们很烂吗？
- 娱乐夫夫酱若有以下三种行为，花呗借呗将永久封停！，支付宝突然宣布
- 依小姐的娱乐强悍功能解析，魅族16沦为百元机创历史，魅族17正式发布