【AI并不像其他技术，如果说其他技术像潮水，那么AI就像海啸。】

人工智能的“矛”和“盾”

AI成为人类未来一项高赋能的技术，已经成为趋势。但是，AI自身足够安全吗？

近日，在2018中国互联网大会一场高峰论坛上，来自人工智能领域的业界专家齐聚北京国家会议中心，共论“AI时代智能终端的攻与防”。

在被北京大学教授郭耀问到，如何应对人工智能的“矛”和“盾”时，与会嘉宾纷纷亮出各自观点。

AI“还是个孩子”

阿里巴巴集团安全部总监陆全，提出 “要像呵护自己的孩子一样去呵护新的智能硬件”。对此他拆解为三层意思：第一，智能硬件现在只是一种数据驱动，你给它什么数据它就学什么，就像一个小孩一样。第二，孩子是未来的希望。人工智能代表的是未来生产力，中国有句话叫“因噎废食”，不能倒洗澡水的时候把孩子也倒掉，不能因为惧怕而不去研究人工智能。第三，孩子是会长大的，即使AI现在可能易于被攻击，但他相信随着技术的发展，等孩子长大之后就不会再像现在这样。“我对未来是充满信心的。”他说。

“非常强的紧迫感”

百度首席安全科学家韦韬，感受到的则是“非常强的紧迫感”。他认为，AI在各个领域的推进速度超乎大家想象，在这种情况下，很多典型的应用场景之下，潜藏着极其严峻的安全和隐私威胁。比如像智能音箱和智能家居设备，当它的安全出现问题时，人们的隐私直接面临严重破坏，它的破坏能力甚至超出了前两年手机的破坏能力，“完全埋伏在你的周围，你想逃都调不掉”。针对陆全的“孩子说”，他表示即使AI是个孩子，但是大家已经给了这个孩子非常大的期望，也在让这个孩子做很多成人都做不好的事情。人工智能有太多的安全挑战，面临巨大的突破。他以无人驾驶为例，指出传统的安全防护体系，没有哪个是绝对万无一失的，某一条防线攻破以后，后面还有补救机会，但是在无人驾驶上是几乎没有补救机会的。“对我们来说压力非常大，我们要做很多工作，把以前沙滩上建立的城堡地基重新夯实，才能够在安全上有新的突破。”

一个永恒的主题

360智能安全研究院院长李康教授认为，只要出现新的领域、新的应用，就会有新的安全关注，这是一贯的安全场景。安全问题是一个持久的问题，会逐渐体现在不同的新领域，安全对抗应该是安全领域一个永恒的主题。

在此前的演讲中，他详细介绍了人工智能系统出现的安全问题，可以分为“骗人”和“偷人”攻击两类。“骗人”如自动驾驶中需要视觉人工智能来识别交通标志，但如果在交通标志上做一些干扰、贴一些标签，就有可能改变识别的结果。在数据处理时也可能遭遇这种攻击。他举例说，自己的团队曾用李冰冰的照片放到人脸识别系统中，结果竟被识别成赵本山！原因就是在做维度处理时，没有做足安全防护。“偷人”则是偷取人工智能技术的模型或者参数，包括数据重构攻击、模型推断攻击、数据推测攻击、软件漏洞攻击等。

其他技术像潮水，AI像海啸

小米科技首席安全官陈洋、长虹信息安全灯塔实验室首席科学家唐博也认同，安全永远是一个不断攻防的过程，AI既可以用于产品，也可以用于对产品的安全进行提升，AI在安全和效率方面，是一个相辅相成的过程。

泰尔终端实验室副主任马鑫最后提出，这是一个双刃剑的问题，任何技术本没有对错，只有先进落后之分。AI并不像其他技术，如果说其他技术像潮水，那么AI就像海啸。它是一个大系统，在整个技术研究过程中，安全是一个平衡的问题。但是有一个底线，大家应该有共识——当某项技术涉及到或者威胁到人类生命财产安全的时候，这项技术就应该放到安全之后再去考虑。

解放日报·上观新闻记者了解到，2018中国互联网大会由中国互联网协会主办，今年已是第十七届。大会以“融合发展 协同共治——新时代 新征程 新动能”为主题。中国科协党组书记、常务副主席、书记处第一书记、中科院院士怀进鹏，工业和信息化部副部长陈肇雄，北京市委常委、副市长阴和俊等出席了7月10日的开幕式。来自国家互联网信息办公室、国家发展和改革委员会、国家广播电视总局、中国工程院等政府部门和中国互联网协会、国家互联网应急中心、中国信息通信研究院等有关单位的领导参加了开幕式，会期为三天。