中国互联网大会共话人工智能时代安全问题

时间:2018-07-25 16:17:31  来源:  

  现在,人工智能作为一项高赋能的技术,在为产业发展提供新机遇的同时,也带来了安全的挑战。在这个机遇与挑战共存的时代,我们如何看待和解决人工智能的安全问题呢?7月10日,在2018中国互联网大会人工智能移动安全高峰论坛上,来自阿里巴巴、百度、360、小米、长虹等企业界的嘉宾就此展开了热烈的讨论。

  360智能安全研究院院长李康认为,智能和安全已经在安全这个领域对抗很多年了,包括病毒检测、垃圾邮件、钓鱼软件等问题一直都存在,各种机器学习算法的对抗,在过去也一直都在发生。现在被各界广泛关注的热点问题,在安全领域中其实都是老问题,而且会一直存在。

  与此同时,随着很多新的人工智能应用的出现,还会出现新的安全问题。李康举例说,例如一个水平不高的程序员,过去做数据库传输曾出现了脱库问题,现在去写人工智能程序、写区块链程序依然会出现问题,“安全对抗应该是安全领域永恒的一个主题。”

  小米科技首席安全官陈洋认为:“我们完全没有必要恐惧AI带来的安全问题。因为安全永远是一个不断攻防的过程。问题暴露了,我们解决了问题,就安全了。”他举例说,比如解锁,最开始是输入密码,只要别人在旁边瞄一眼就可以看到,只是大家“视而不见”而已。通过AI技术赋能,手机通过摄像头能识别“你是你”后解锁,带来了很多方便。随之而来安全问题出现了,用一个照片、一个视频就能去解锁。“我们用AI去实现人脸解锁的同时,我们也用AI进行攻防。怎么样去做人脸解锁呢?最开始我们要训练AI怎么样能够认出‘他是他’,先把人区分出来。第二步,对AI进行识别黑样本的训练,让AI通过大量的黑样本学习到非活体的破解手段。”陈洋解释说,“AI既可以用于产品,也可以用于对产品的安全性进行提升,还有很多时候可以用于检测非法的攻击等等。因此,AI在安全领域也是有非常多的应用场景的。”

  “我们要像呵护自己的孩子一样去呵护智能硬件。”阿里巴巴安全部资深总监陆全如是说,并解释说,第一,现在所谓智能就是数据驱动,人们给它什么数据它就学什么。第二,人工智能代表未来的生产力,不能因噎废食,因为惧怕这个人工智能而不去做研究。第三,随着智能的发展,以后它就不会再像现在那样易于被人攻击了。

  在百度首席安全科学家韦韬看来,AI的应用不可能因为存在安全隐患就推迟到来,因为“AI的应用如洪水般涌来。”他进一步解释说,大部分产业里都是这种情况,在技术突飞猛进的时候,很少有人会考虑安全问题。“我们现在感觉到的是非常强的紧迫感。现在AI在各个领域推进的速度之快是超乎大家想象的,前两年IT业界的人还不知道深度学习是什么,今年都在谈深度学习能做什么。” 韦韬说,“我们看到在一些典型应用场景之下,存在极其严峻地对安全和隐私的威胁。而且这个威胁已经不再是一个可能的风险,而是一个现实的威胁。比如像智能音箱和智能家居的设备,当它的安全出现问题的时候,用户的隐私直接面临非常严重的威胁。这个破坏能力超出了前两年手机安全问题的破坏能力,完全埋伏在用户的周围,用户想逃都逃不掉。”

  对于“还是孩子的AI”,韦韬认为,既然大家已经对“这个孩子”寄予了非常大的期望,那么就要让“这个孩子”做很多“成人”都做不好的事情。“大家都知道没有哪个安全产品是绝对万无一失的,都要做防御体系。过去某一条防线被攻破以后,后面还有补救机会的。但是在无人车上是几乎没有补救机会的。”韦韬说,“我们要做很多工作,以能够在安全上有新的突破,把以前在‘沙滩’上建立的‘城堡’的地基重新夯实。”

  长虹信息安全灯塔实验室首席科学家唐博说,对于智能设备厂商来说,AI促进了产品效能的提高,促进了用户使用体验的提升。同时会带来一些安全问题,也是预料之中的。唐博认为:“就AI和安全之间的关系来讲,我们可以把它看作三个发展阶段。第一个阶段,用AI的方法可以解决一些安全的问题,可以用AI的方法来识别攻击,可以通过大数据分析,分析流量和终端的一些情况,来识别一些异常流量或者一些攻击的行为。第二个阶段,是用安全来保护人工智能,同时保护隐私。第三个阶段,在智能设备的安全性达到一定程度的时候,AI会有更大的发展,到时候可能会出现跨界甚至跨平台的AI应用,效率会得到更大的提升。AI、安全和效率三者之间是一个相辅相成的发展过程。”

  泰尔终端实验室副主任马鑫认为,任何技术本没有对错之分,只有先进落后之分。AI不像其他技术,其他技术像潮水,AI像海啸。今年上半年AI扑面而来,所有的领域、所有的行业都在说AI。AI是一个大系统,是一个有很大赋能作用的技术,软件越复杂,它的安全点越需要被关注。在整个技术研究过程中,发展和安全之间的问题是需要平衡的。要考虑AI应用的场景,有些产品应用场景比较简单,它的安全性比较容易能够得到满足或者得到保障。在AI应用比较复杂的情况下,更需要安全性的保障和研究。“有一个底线应该成为共识,当某项技术涉及或者威胁到人身生命财产安全的时候,这项技术的应用就应该放到安全之后去考虑。”

友情连接

Copyright © 2016 www.njia.net.cn All Rights Reserved
苏ICP备09035130号 版权所有 南京互联网协会