网络安全和AI、云计算出现断层？极棒呼吁厂商加强联系

一年一度的GeekPwn国际安全极客大赛在上海举行，近两年的比赛上，对AI的攻击是所有项目中最为吸睛的一个，云计算的风险同样引人注目。

选手能否破解知名厂商的图像识别系统，让AI作出错误决策？如果场上选手能骗过AI，黑客也可以，这将给厂商和用户带来难以估量的损失。AI、云计算发展带来的安全隐患已经引起思考。参加GeekPwn比赛的是有着白帽子黑客之称的极客，他们技术高超，发现漏洞后会提醒公司进行修补。

Geekpwn的云安全挑战赛是世界首个基于真实云环境复原的云安全攻防竞赛，比赛现场，腾讯安全云鼎实验室构建了一个真实的、可以完整工作的全栈云环境，复现了主流云平台的架构、技术和系统软硬件环境，预演云上攻防。

“今天每一个APP，包括AI、自动驾驶、5G通讯都是运营在云上的，底层是云在默默支撑。在这样的情况下，云将是我们今后非常重要的基础设施。基础设施的安全涉及到未来的社会运转、生产生活的方方面面，云安全就会非常重要的。”腾讯安全云鼎实验室总经理李滨指出。

云安全比赛是一场为选手指明攻击路径的比赛。极客可能是在校生，也可能是互联网公司安全团队。而和其它赛事不同的是，云安全、AI项目战队很少有来自企业的人员，更多由在校生组成。

在王琦看来，传统的极客和云安全、AI之间存在断层。“为什么我们强调全攻击路径？因为懂黑客的人从来没有接触过云环境。我把攻击路径告诉你，从这个门到那个门，但每个门都有锁，你用过去的开锁方法去打开它。这个过程就帮助了云计算产业，云计算产业跟传统的黑客又关联在一起了。”王琦接受记者采访时表示。

深度学习是促进AI近两年发展的重要要素。但行业已经在考虑AI发展带来的安全隐患，对深度学习模型进行攻击也是极客比赛的热门项目。而可以看到的是，AI的一些技术风险非常突出。

在“CAAD CTF图像对抗样本攻防赛”现场，多个战队成功利用图片对抗样本针对图像分类器发起攻击，导致分类器出错，骗过AI图像识别。有所有战队都攻破了被视为“目标检测网络的巅峰之作”的YOLOv3系统。一支战队更是用图片成功欺骗Clarifai人脸识别系统，让AI将黄健翔识别成了伊万卡。

在极棒看来，对深度模型攻击的意义在于促使人们更深入思考机器和人视觉的真正差异所在，另一方面，深度模型本身具有的不可解释性缺陷，能帮人们认识到深度学习方法的局限性。对抗样本带来了对深度学习的质疑，也提供了一个修正深度模型的机会。这对军事、安全和自动驾驶领域有着深刻意义。