您现在的位置: > 关于我们 > 正文

关于AI安全我们的“傻与天真” 关于AI安全我们的“傻与天真”

来源:广州热线综合

时间:2017-12-21 09:32


关于AI安全我们的“傻与天真” 关于AI安全我们的“傻与天真”

 

      当我们一直在讨论AI能给互联网安全带来什么影响的时候,可能一直都忽略了一个问题:AI本身也不安全。

  这两天的新闻恰如其分地提醒了我们这一点。近日,谷歌被爆其机器学习框架TensorFlow中存在的严重安全风险,可被黑客用来制造安全威胁,谷歌方面已经确认了该漏洞并做出了整改回应。

  虽然是提前发现,这些漏洞本身没有带来实质威胁。但这条消息还是让我们看到了某种蠢蠢欲动的不安。TensorFlow、Torch、Caffe这些机器学习开发框架,差不多是如今AI开发者与研究者的标准配置,但这些平台最近却纷纷被爆出存在安全漏洞和被黑客利用的可能性。

  某种意义上来说,这些消息在提醒我们同一个问题:当我们急切的将资金与用户关系聚集在机器学习周围时,也可能是将巨大的危险捆绑在了身上。

  更重要的是,面临AI安全问题,我们中的大部分人还处在很傻很天真的“懵懂状态”,对它的逻辑和危害性近乎一无所知。

  本文希望来科普一下这些内容,毕竟防患于未然,等到真正出现大事件再惊叹也就晚了。另外必须提醒开发者和企业的是,在谷歌这些大公司不遗余力的推广自家机器学习平台,并且为了吸引使用者而快速迭代、大量发布免费资源时,开发者本身一定要留个心眼,不能不假思索的使用。

  比起心血毁于一旦,更多的审查机制和更严密的安全服务是非常值得的。

  盲点中的魔鬼:机器学习框架的安全隐患

  说机器学习平台的漏洞,有可能让开发者心血付诸东流绝不是开玩笑。在今年上半年的勒索病毒事件里,我们已经见识过了如今的黑客攻击有多恐怖。而勒索病毒本身就是利用了微软系统中的漏洞,进行针对式攻击锁死终端。

  可以说,在勒索病毒的洗礼之后,信息产业已经进入了“漏洞霸权时代”。只要拥有了更多漏洞,就拥有了大范围的控制权与支配权。随着黑客攻击的工具化和门槛降低,能力一般的攻击者也可以利用平台漏洞发动广泛攻击。

  但在我们愈发重视“漏洞产业”带给今天世界的安全隐患时,却不自主的产生了一个视线盲区。那就是人工智能。

  这里普及一下今天大部分AI开发任务的基本流程:一般来说,一个开发者想要从头开始开发深度学习应用或者系统,是一件极其麻烦,几乎不可能的事。所以开发者会选择利用主流的开发框架。比如这次被爆出隐患的谷歌TensorFlow。

  利用这类平台,开发者可以用平台提供的AI能力,结合开源的算法与模型,训练自己的AI应用。这样速度快效率高,也可以吸收最先进的技术能力。这种“不能让造车者从开发轮子做起”的逻辑当然是对的,但问题也随之到来了:假如轮子里面有问题呢?

版权与免责声明:

①凡本网注明"来源:广州热线"的所有作品,均由本网编辑搜集整理,并加入大量个人点评、观点、配图等内容,版权均属于广州热线,未经本网许可,禁止转载,违反者本网将追究相关法律责任。

②本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。

③如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,我们将在您联系我们之后24小时内予以删除,否则视为放弃相关权利,读者热线:0755-83532025 。

关于我们 - 广告服务 - 热线招聘 - 商务合作 - 广州热线合作QQ:262408603
广州热线 SZONLINE.NET ©1997-2016 运营维护:深圳市都市在线网络技术有限公司 广东省通信管理局:粤B2-20080137 网站备案:粤ICP备16039037号-1