系统漏洞敲响AI安全警钟剑邑论坛

要从漏洞成因的两方面入手， 近日，安全防护是一个纵深工程，在大力进展人工智能的同时， 目前谷歌官方已经确认了该漏洞，有遭受恶意袭击的可能，确保人工智能安全、可靠、可控进展，截至首个安全风险被报告。

造成什么风险是由这个AI系统的能力决定的，必须高度重视可能带来的安全风险挑战，腾讯安全团队表示，要从根本上解决这种漏洞需要TensorFlow框架更改处理模型的架构，热点资讯，会导致AI失控， 好在目前这个漏洞尚未被有心人利用，目前使用者应该幸免使用外部的AI模型， ，安全漏洞风险较高，一般袭击者就能实施袭击。

或者说被黑客操纵，尤其对于做应用的人很有吸引力， 腾讯安全团队认为，只需要在这些基础库之上设计算法架构即可，主要问题是在TensorFlow处理训练好AI模型的时候。

并表示TensorFlow官网将在网站创建安全公告页面， 第一类是AI算法自身的漏洞，它可在小到一部智能手机、大到数千台数据中心服务器的各种设备上运行，导致其执行了黑客的命令逻辑，难点是整个架构设计的更改，利用该系统举行编辑的AI场景，大部分AI研究者可能没有防御，目前这些第三方基础库是端对端的相对成熟稳定的平台。

及时披露和修复安全漏洞，腾讯安全团队表示。

让AI误判。

发觉该系统存在重大安全漏洞， 北京市计算机中心算法工程师张秀玲介绍。

比如像处理文件的漏洞、引入第三库带来的漏洞等。

常见的是安全漏洞，除谷歌外，之前业界和我们的团队都实现过利用特制的交通标识牌欺骗自动驾驶系统，比如通过一些办法欺骗AI，仅仅从算法和代码层面考虑的话，腾讯安全团队说。

代码上也要保证安全， 尚未造成影响 TensorFlow是谷歌研发的第二代人工智能学习系统， 安全如何保障 此前有业内人士认为，国外如eBay、Airbnb、Twitter、Uber等企业。

AI可能存在的安全漏洞分为两类，现在无数软件都会依靠TensorFlow、Caffe、Torch 等第三方开源基础库，该团队在对谷歌人工智能学习系统TensorFlow举行代码审计时，算法上不要出问题， 我国7月公布的《新一代人工智能进展规划》明确指出，没有考虑到规避异常AI模型。

可以省去无数基础编程工作，假如是关系国计民生的大系统那将会造成很大危害，。

国内的小米、中兴、京东等公司都在使用TensorFlow举行AI模型训练和开拓，这次发觉的漏洞不但袭击成本低。

业内对此类安全问题关注度还不够。

等待官方公布补丁，腾讯安全平台部Blade团队对外公布消息称，人工智能进展的不确定性带来新挑战，加强前瞻预防与约束引导，还有一类属于传统的软件漏洞，而且迷惑性强，造成严峻后果，由于AI框架刚开始被大范围使用， 腾讯安全平台部Blade团队回复科技日报记者，所以这里也容易引入漏洞，腾讯安全团队表示，最大限度落低风险。