文/超脑智能
在2018年人工智能最受资本、行业追捧的时候，我们就提出一定要注意人工智能带来的伦理问题，比如机器人学习不良行为、自动驾驶故意违规等，此外也可能会出现欺骗、抑郁、怨恨、神经错乱等，为此特别写过两篇内容，分别是： 人工智能出现伦理新问题：机器人学习不良行为 无人驾驶故意违规，全球第一个精神病变的人工智能已被美国科学家研制出来，当时读者的评论认为这都是危言耸听，甚至觉得是扯淡，但经过两年发展，我们的担忧正在成为现实。
今天将向大家介绍人工智能的欺骗案例，其实在2018时还没有，但在2020年，已经有实际案例显示出人工智能可以进行欺骗。
可对人脸识别进行检测的安全平台
近日清华大学推出了首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台——RealSafe人工智能安全平台。
据了解，该平台内置领先的AI对抗攻防算法，提供从安全测评到防御加固整体解决方案，目前可用于发现包括人脸比对等在内的常用AI算法可能出错的极端情形，也能预防潜在的对抗攻击。
这段晦涩的专业描述如果转化为人话就是，清华大学推出了一套能够检测人工智能算法出错的工具，属于一个安全工具，比如通过技术手段做换脸，从而欺骗系统检测，这时候用清华大学RealSafe就能够检测出来。
网络安全时代，网络攻击的大规模渗透诞生出杀毒软件，发现计算机潜在病毒威胁，提供一键系统优化、清理垃圾跟漏洞修复等功能，RealAI团队希望通过RealSafe平台打造出人工智能时代的“杀毒软件”，为构建人工智能系统防火墙提供支持，帮助企业有效应对人工智能时代下算法漏洞孕育出的“新型病毒”。
RealSafe平台目前主要支持两大功能模块：模型安全测评、防御解决方案。
其中，模型安全评测主要为用户提供AI模型安全性评测服务。用户只需接入所需测评模型的SDK或API接口，选择平台内置或者自行上传的数据集，平台将基于多种算法生成对抗样本模拟攻击，并综合在不同算法、迭代次数、扰动量大小的攻击下模型效果的变化，给出模型安全评分及详细的测评报告（如下图）。目前已支持黑盒查询攻击方法与黑盒迁移攻击方法。
目前RealSafe平台支持五种去除对抗噪声的通用防御方法，可实现对输入数据的自动去噪处理，破坏攻击者恶意添加的对抗噪声。根据上述的模型安全评测结果，用户可自行选择合适的防御方案，一键提升模型安全性。另外防御效果上，根据实测来看，部分第三方的人脸比对API通过使用RealSafe平台的防御方案加固后，安全性可提高40%以上。
张一山秒变张帅 亚马逊、微软相继被欺骗成功
为了验证该平台的安全性和技术先进程度，清华大学团队在AWS和Azure两个平台上做了实验，实验方式是：选取一组不同的人脸图片（张帅和张一山），通过RealSafe平台对张一山的图片生成对抗样本（在表面增加类似褶皱的水印），但不影响肉眼判断，添加“对抗样本”前后分别输入到微软、亚马逊云服务的人脸比对演示平台中查看相似度。
左：张帅 中：张一山 右：增加噪音后的张一山
最终结果显示，添加“噪音”扰动前，两张图片相似度低，Azure、AWS演示平台判定为“不相同”（两张照片不是同一个人），但添加扰动后，均错误识别为“相同”（两张照片为同一个人），甚至Azure平台前后相似度的变化幅度高达70%以上。
也就是说在人脸识别上，清华大学对张一山的脸部增加了一些类似褶皱的样式，但微软Azure和亚马逊AWS这两家企业的图像识别技术却认为和左边穿白色衬衫的张帅是一个人。
另外一个人物实验
简直笑掉大牙，号称云计算全球第一和第二的亚马逊和微软都被骗过了，那国内情况怎么样，比如旷世、阿里云等能识别出对张一山头像的改动吗？
为了探究结果的普适性，RealAI团队又选取了国内三家主流人脸比对平台进行测试，结果同样显示，添加扰动之后，原本判定为“不同人脸”的图片均被错误识别为“相同人脸”。
结果依然让我们失望，国内3家企业的图像识别算法同样被骗，没能分辨出是两个人。
国内三家主流人脸比对平台进行测试
据了解，目前市面上很多中小型企业在落地人脸识别应用时大多会选择采用上文测试的这几家互联网公司开放的人脸比对SDK或者API接口，如果他们人脸比对技术存在明显的安全漏洞，意味着更广泛的应用场景将存在安全隐患。
目前，RealAI团队已经将这种潜在风险以及相关防御方法反馈给上述企业，以帮助企业及时修补漏洞。
说到人脸识别，大众接触最多的应该就是手机刷脸解锁，刷脸支付、刷脸入住酒店、刷脸开房门等，比如支付宝付款密码解锁，微信支付密码解锁，和百姓切身利益相关。
随着人工智能技术和黑客强化对人工智能技术的研究使用，“对抗样本”已经演变成一种新型攻击手段，并开始从数字世界蔓延到物理世界。如何防止别人盗用图像进行刷脸解锁，一直是网络安全机构重点在做的事情。
清华大学RealAI团队表示，他们已经实现了世界首个通过“对抗样本”技术实现破解商用手机刷脸解锁，让手机将佩戴“特制眼镜”的黑客误识为机主。也就是说清华大学创造了能够冒充本人真实头像的技术，进而可以解开手机，当然用户也不要为此担心，因为在网络安全攻防对抗上，如果能找到进攻的方法，才能更好的找到如何防御的方法。
图：世界唯一通过AI对抗样本技术攻破商用手机人脸解锁案例
相关阅读
人工智能出现伦理新问题：机器人学习不良行为 无人驾驶故意违规
全球第一个精神病变的人工智能已被美国科学家研制出来
关键词：人工智能、刷脸支付、刷脸识别、AI、机器视觉、图像识别、算法、机器学习
本文来自投稿，不代表本人立场，如若转载，请注明出处：http://www.souzhinan.com/kj/361579.html