人民网>>人民创投

中国网络空间安全协会副理事长杜跃进:人工智能安全“七宗罪”

2019年08月09日15:38  来源:人民网-人民创投

人民网厦门8月9日电 今日,在于厦门举办的“中国人工智能峰会暨多媒体信息识别技术竞赛成果发布会”上,中国网络空间安全协会副理事长杜跃进就“人工智能与安全”发表主旨演讲。针对人工智能在安全“七宗罪”,他提出安全风险防范“六脉神剑”。

杜跃进认为,从“坏人”的角度来说,“智能”意味着存在攻击机会,安全风险超乎想象。

杜跃进总结出人工智能安全“七宗罪”:

一是硬件层面。很多人工智能元器件在物理层面缺乏安全保障,哪怕只有一段线路没有进行电磁屏蔽,也给物理干扰留下机会。

二是软件层面。任何软件都有漏洞,它们可以被攻击者利用,来实现代码执行、拒绝服务攻击、控制流劫持、信息泄露等目标。

三是协议层面。很多专用通信协议设计缺乏安全考虑。

四是数据层面。大数据时代有一个“黑箱悖论”,人工智能离不开数据,但数据本身有可能被污染,这样的人工智能就好像被“投毒”。

五是业务层面,算法本身可以被欺骗、误导,当人工智能越来越多用于控制相关业务时,可能会产生致命性影响。

六是应用动机层面。坏人有可能更早、更深地看到人工智能带来的机会。如今,除了人工智能,在生物科技等很多前沿技术领域都有这样的倾向,值得警惕。

七是机制设计层面。模式设计考虑不充分,将导致事与愿违,可能产生非常严重的后果。

化解以上安全风险,杜跃进提出“六脉神剑”解决方案:

一是所有跟人工智能相关的从业人员都应该意识到人工智能存在诸多问题。

二是从业者泛安全解决能力需要加强。

三是通过协同,用开源和众包方式大幅提升发现和解决问题的能力。

四是达成共识,人工智能需要建立基本伦理道德,形成全世界共同的倡议,互相监督。

五是创新,利用AI、物联网、人工智能等提出创新的解决问题思路;

六是AI本身也是解决问题非常好的利器。

(责编:黄玲丽、陈键)

创投人物

热点原创

热读榜

二维码