3G中国-优质的移动商务平台 手机入口 | 行业平台查询 |设为首页 | 加入收藏
  首页 行业讯息 行业平台 供求信息 关于3G中国
当前位置:首页 > 行业讯息 > 3G动态 > 这张图是狗是猫?人类都分不清
这张图是狗是猫?人类都分不清

    发表日期:2018/3/12 9:32:21    

机器学习模型容易受到对抗样本的影响,这已不是什么新鲜事。相信下面大家对下面这幅图(Goodfellow et al., 2014)都不陌生:Goodfellow 凭借这张图让我们知道,即使对样本微小的改变也能欺骗学习模型,让模型做出南辕北辙的判断...

机器学习模型容易受到对抗样本的影响,这已不是什么新鲜事。相信下面大家对下面这幅图(Goodfellow et al., 2014)都不陌生:

Goodfellow最新对抗样本 连人类都分不清是狗是猫

Goodfellow 凭借这张图让我们知道,即使对样本微小的改变也能欺骗学习模型,让模型做出南辕北辙的判断。这项工作充分说明了目前 AI 系统的脆弱性。

雷锋网注意到,近期 Goodfellow 等人在「欺骗」上又更上一层楼,不光是欺骗机器,连人类也被欺骗了。

Goodfellow最新对抗样本 连人类都分不清是狗是猫

如上图所示,机器模型和人类都会判断左侧是猫,而右侧是狗,即使你仔细观察可能也会得出相同的结论。而事实上右侧图像只是左侧图像一个简单地对抗扰动。相关的工作发表在《Adversarial Examples that Fool both Human and Computer Vision》。

意义

这篇文章的重要意义不言而喻。如论文摘要中所说:「机器学习模型易受对抗样本的攻击这点大家已经非常清楚;人类是否也有相同的弱点还是一个开放性问题;而这篇文章提出了第一个能够欺骗人类的对抗样本。

论文中还说到它对机器学习安全研究的影响。从机器学习安全的角度来考虑,如果我们知道人脑可以抵御某些类型的对抗样本,那么这就说明在机器学习安全中存在类似的机制,这为我们寻找它们提供了信心和线索;反过来,如果我们知道存在对抗样本能够欺骗我们的大脑,那么这就告诉我们,机器学习安全的重心不应该是研究如何设计鲁棒性极高的模型,而应是研究如何保证系统即使包含非鲁棒性的 ML 组件,仍然是安全的。

另一方面,如果针对计算机视觉开发的对抗样本对人脑也有影响,这将为我们了解人脑的工作机理提供某些线索。

思路

在 Goodfellow et al.(2014) 的文章之后,计算机视觉领域相继出现很多构建对抗样本的流行算法,这些算法的一个共同点就是依赖模型的架构和参数来对输入进行梯度优化。但是,我们好像没办法获取大脑这个模型的「架构」以及「参数」。那么如何才能构建针对人类的对抗样本呢?

这就需要考虑一个比较有意思的现象了——对抗样本通常可以在模型之间进行迁移;也即是说,我们可以通过迁移的方法来攻击哪些不知道其「架构」和「参数」的模型。这就使得构建针对人类的对抗样本成为可能。

当然事情并不是这么简单。作为人类,我们有很多认知偏差或者视觉错觉,但是这些偏差或错觉并不等同于之前研究中对图像的微小扰动。此外,我们可以通过学习损失函数来优化机器模型的对抗样本,但是对于人类,这种方法显然是无效的(或者需要花费极大的劳动)。所以到目前为止并没有看到有将迁移性对抗样本应用于人类视觉感知领域的研究。

这篇文章的作者针对这些问题,采取了三个关键的思想来解决:

之一,作者使用近期的黑箱对抗样本构建技术为一个目标模型(不需要知道模型的架构和参数)创建对抗样本;

之二,作者对机器学习模型做了一番调整来模仿人类前期视觉处理过程,也即让模型更像人,使对抗模型更容易从学习模型迁移到人类;

之三,由于人类在分类任务中的准确率太高,实验性能的微小改变可能达不到可观测的效果。于是作者在评估人类观察者的分类决策时,限制他们必须在一定的时间范围内做出决定,这样一来对抗样本对人的影响就更容易被检测出来了。

藉此三条, Goodfellow 等人构建出了能够同时欺骗机器学习模型和人类的对抗样本。

模型

作者构建了 k(k=10)个在 ImageNet 上训练的 CNN 模型,每个模型都是以下这些架构之一的实例 (Szegedy et al., 2015; 2016; He et al., 2016):

Inception V3,     Inception V4,     Inception ResNet V2

ResNet V2 50,     ResNet V2 101,     ResNet V2 152

如前面提到的思想之二,作者为每个模型输入前置了一个视网膜层,该视网膜层包含了一些人眼的视觉变换;甚至,作者还在这个视网膜层中添加了偏心依赖的模糊化,以更符合人类通过视网膜格子(注:人类视网膜不是密集排布的)输入的机理。

结果

让我们回到开头的那张图片。不得不说,这是一张极具代表性的例子,即使我们再多看几遍也仍然会认为右侧的那张图片是狗。

Goodfellow最新对抗样本 连人类都分不清是狗是猫

下面这张是更多的结果:

Goodfellow最新对抗样本 连人类都分不清是狗是猫

上面一列从左到右,是攻击不同个数(1,5,10)的模型生成的对抗样本,随后用两个测试模型(其中一个是人类模型)进行分类。可以看出攻击的目标模型数量越多,生成的图像对人类来说越像狗。

下面一列则是针对 10 个模型的攻击生成的对抗样本,从左到右为不同的攻击程度。文中介绍说 eps=8 时,人类受试者已经认为这是狗了。


上一篇:如何彻底销毁电子产品?美国军方方案
下一篇:月球的水不是普通水 可喝可用火箭燃料
行业动态more
·红包已经烂大街 营销效果被夸大
·日本家电卖场沦为网店体验店
·金佰利联合中华英才网网罗校园人才
企业要闻more
·国内航空燃油附加费明再降:油价达到2009年
·航空燃油附加费迎5连降 创近10年新低
·专家解析农业投资热:体制松动创机遇
·生物质热电联产获政策鼓励 严禁掺烧化石能源
·航空燃油附加费迎五连降 创近十年来新低
·人民日报:粮食价格国际国内倒挂 拼消耗不可持
·2014年红木量价齐跌 圈内老板称行情靠房子
行业资讯more
·电信资源仍稀缺,“无限流量”套餐美梦短期难成
·红包已经烂大街 营销效果被夸大
·麦家:习总书记直言不少谍战影视剧不尊重历史
·装备工业转型升级亮点纷呈
·1月70大中城市超7成房价同比上涨 涨幅扩大
·杭州奥体城设计图被调侃酷似“比基尼”(图)
·手机支付时代到来 能不能保证资金安全?
行业报告more
·结合行驶公里巧妙保养汽车
·工业经济结构调整机会窗口即将到来
·深圳工业设计周即将举行
·我省11月工业营收同比增10.5%
·通用电气启动工业互联网挑战赛
·合肥工业10月份产值首超600亿元
·湖南省10月份规模以上工业增加值同比增长14
·欧工业品产出较大幅度下滑
·第17届中国国际石材工业展览会在莱州开幕
·东共体发布旅游产业可持续发展报告
行业政策more
·韩国政府下令苹果更改App Store退款政
·欧洲央行诺亚:宽松货币政策难阻欧元区通胀低迷
·住建部调研棚户区建设 棚改料获得更多政策扶持
·天猫新政策“品牌时尚化”的解读
·货币政策持续微调 “定向标准”范围扩容
·再生资源:政策发力,推动行业快速发展
·“不降准+控利率”或担纲货币政策
·楼市回归理性 调控政策"淡定"不过激
·中国乳业变革大幕拉开 政策助力翻身关键一年
·多机构下调一季度GDP增长率预测 房地产政策
企业资讯more
·内地企业以H股全流通方式赴港上市或卷土重来
·智能家居行业标准未定 众多企业欲抢先进入
·行走光亚展:LED照明企业的七大“吸金”大法
·火电企业脱硝改造再提速 脱硝电费须及时兑现
·电信业纳入营改增试点 预计年底将为企业减税1
·贵州促建筑企业转型发展
·橡果国际企业利用Genesys客服方案 实现
·中国轻工集团:复杂外部环境中保持增长势头
·知识产权日临近 橱柜企业要及早跳出抄袭泥沼
·品牌效应蔓延至市场 橱柜企业打造竞争利器
行业推广 - 企业推广 - 广告服务 - 服务支持
中国互联网协会 网站备案信息 不良信息举报中心 无线互联网业自律同盟
客服热线:400-611-1280 客服Email:support@3GChina.org
©2009 3G中国 版权所有 不得以任何形式侵犯3G中国所有权,否则追究其法律责任 津B2-20090061-1号 公安机关备案号:12010302001018