开辟者大年夜赛路演 | 12月16日，技巧立异，北京不见不散

12 月 15 日，雷锋网报道，腾讯安然平台部预研团队发明谷歌人工智能进修体系 TensorFlow 存在自身安然风险，可被黑客应用带来安然威逼。此次威逼还不小，进击者可以生成 Tensorflow 的恶意模型文件，对 AI 研究者进行进击，对受害者自身的 AI 应用进行窃取或修改、破坏。该框架在谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有应用，这意味着，影响范围不小。

12 月 16 日，雷锋网宅客频道与发明此次安然威逼的腾讯安然平台预研团队取得接洽，探寻此次威逼发明的始末以及修复难度。

以下是雷锋网宅客频道与腾讯安然平台预研团队的问答实录：

成功的进击（让 AI 研发或者开辟人员应用有马脚应用代码的 AI 模型）可以完全控制全部 AI 。伤害取决于 AI 本身用于什么工作。如不蚜?鲈动驾驶的 AI，就可以导致车毁人亡；如不雅是人脸验证的 AI，就可以误导验证逻辑。

　　1. 到底问题在哪里，是什愦问题？

腾讯安然平台预研团队：马脚产生在 Tensorflow 处理 AI 模型的时刻，属于逻辑型的马脚。

2. 影响到底多大年夜？

腾讯安然平台预研团队：所有 Tensorflow 版本，包含最新的移动版 Tensorflow lite。

引用一个第三方的不雅点。上海信息安然行业协会专委会副主任张威认为，此次发明的漏洞竽暌股于可以使他人获得人工智能应用处景里的体系权限，这也意味着其可以拿到很多顶层数据。而当前介入人工智能开辟的企业多是算法和数据相结合，有关数据可能涉及核心计心境密，是以风险较高。

他建议，当局应尽快组织筛查应用该套平台编程的部分，肯定影响范围，尤其是涉及国度安然和国度机密的敏感部分是否也应用过该套平台，同时在人工智能的编程平台上加强审查。

　　3. 12 月初，有消息称 TensorFlow、Caffe、Torch 这三大年夜深度进修框架所应用的大年夜量第三方开源基本库存在不少收集安然马脚。你们此次的发明和前面这种安然风险有什么明显差别？

腾讯安然平台预研团队：以前其他团队发明的 TensorFlow 马脚是 TensorFlow 应用的外部组件的问题（可以懂得为手机应用的其他厂商的内存有问题而不是手机厂商自身的问题），此次我们发明的┞封个是 TensorFlow 自身的问题，是 TensorFlow 第一个官方承认的安然马脚，官方也意识到 TensorFlow 的安然问题可能带来的伤害，所以筹划像其他大年夜量应用的软件一样专门开辟一个安然通知布告页面。

4. 修复须要多久？修复难度在哪里？在这段“时光差”里，应用者怎么办？

腾讯安然平台预研团队：Google TensorFlow 工程师团队还在评论辩论修复筹划，今朝看须要从新设计 AI 模型输入处理机制，因为这本身可以算是处理机制的问题。对于 TensorFlow 应用者，等待 TensorFlow 版本更新即可。我认为如不雅短期速成修复倒是可以比较快，经久来看照样要在处理 AI 框架的机制上针砭避这一类风险的办法才行。

应用这个开源框架的人可能会遭到进击，因为这是个尚未公开的马脚，存在较大年夜安然风险。这个马脚出问题的点是在处理 AI 模型的时刻，一个进击场景是，黑客在网上供给一个 AI 模型给大年夜家用，大年夜家下载回来一运行就中招了。或者黑客可以或许控制某个体系的 AI 模型就能实施进击。所以，应用 TensorFlow 的体系要留意不要应用有问题/被黑客修悛改的 AI 模型，最终防备照样要进级新版本。

固然应用这个马脚进行进击成本很低，但发明难度照样有的，并且我们是起首发明这个马脚，我们断定，已经控制这个马脚的人应当很少或者没有。一般来说是跟随下一?版本修复，谷歌如今的设法主意是，想大年夜机制上解决（会涉及到 Tensorflow 一些 API 的调剂），所以，可能会慢一些，时光点也没有给。对 Tensorflow 的应用者来说，今朝安心等官方出新版本进级比较好。

腾讯安然平台预研团队: 提交申报后，谷歌第一反竽暌功是跟我们评论辩论，是否要在官网建立一个类似 Google android 那样的安然页面，做安然申谢以及给研发人员的安然指引，今朝这个安然页面已经在制造中。

　　5. 谷歌怎么回应的？

谷歌与安然研究察的关系来说是很好的，他们是很有安然意识的，对安然研究者挺好，腾讯的安然马脚嘉奖筹划也参考了谷歌马脚嘉奖筹划。TensorFlow 这个漏洞竽暌功该还没有纳入谷歌马脚嘉奖筹划，信赖将来会纳入。之前我们也给谷歌的安卓报过马脚，拿过奖金。

应用谷歌人工智能开源框架 TensorFlow 的人都要瑟瑟颤抖了，此次是该框架本身的问题。

此次比较特别的处所是，此次是谷歌旗下 TensorFlow 的首个马脚，官方没有处理过类似事宜，可能还没有建立这个流程，这块我们也在和官方商量，推动他们建立安然马脚申报处理流程，更好地与安然研究团队协作。

　　6. 你们还想强调的点。

腾讯安然平台预研团队：AI 框架近两年被用得很多，然则都没有存眷其安然性，这肯定会带来安然风险，我们也会持续存眷这里。今朝已知的公开辟明 AI 框架漏洞竽暌剐两个，一个是之前 360 发明的三个 AI 框架惹人的第三方组件带来的马脚，另一个是此次我们发明的框架本身的马脚。经由这两次普及，安然研究察会持续存眷，将来这里肯定还有更多的马脚被发掘出来，当然好的一面是马脚会削减，也会进步大年夜家对这里的安然意识。

比如，此次如不雅我们能让谷歌把 TensorFlow 参加到马脚嘉奖筹划 /  TensorFlow 建立安然马脚处理机制，安然性肯定会大年夜大年夜晋升。

【编辑推荐】

1. 外媒速递：将在2018年进一步进级的五大年夜信息安然威逼
    1/2    1 2 下一页 尾页
   
   

   　　推荐阅读

   　　谷歌苹果竟齐翻车！谈谈安卓8/iOS11那些Bug

   开辟者大年夜赛路演 | 12月16日，技巧立异，北京不见不散 跟着WP正式宣布败退，安卓和iOS已经成为了移动市场的唯二主流。和往常一样，两边都在本年下半年宣布了最新的一代操作体系，分别是>>>详细阅读

   
   

   本文标题：腾讯发现者揭秘：怎么应对TensorFlow的安全风险，修复有多难

   地址：http://www.17bianji.com/lsqh/39863.html

    1/2    1