360首席安全官杜跃进:打造“人工智能+安全”国家级开放创新平台

近日,360集团首席安全官杜跃进受邀参加在苏州举办的2020全球人工智能产品应用博览会(AIExpo2020),在开放创新平台高峰论坛上做了“安全大脑开放创新平台”的主题分享(www.ycfk.com.cn)。他指出,人工智能安全风险超乎想象。为应对人工智能带来的安全挑战,360将利用自身在安全大数据、攻防专家团队等方面的优势,融合人工智能与安全,与合作伙伴们一起,打造国家级开放创新平台。

面对2020年的诸多挑战,人工智能迎来了应用落地发展的时代契机。360集团首席安全官杜跃进在分享中指出,数字化时代,人工智能是核心驱动力。但人工智能在赋能各产业的同时,也会带来新的安全治理挑战。

人工智能本身的安全威胁,杜跃进将其进行了总结,从最底层的硬件传感器、芯片的设计到软件本身,包括硬件、软件、协议、数据、算法、应用动机、伦理等七大方面,都面临安全风险。一是硬件层面。很多人工智能元器件在物理层面缺乏安全保障,哪怕只有一段线路没有进行电磁屏蔽,也给物理干扰留下机会。二是软件层面。任何软件都有漏洞,它们可以被攻击者利用,来实现代码执行、拒绝服务攻击、控制流劫持、信息泄露等目标。三是协议层面。很多专用通信协议设计缺乏安全考虑。四是数据层面。大数据时代有一个“黑箱悖论”,人工智能离不开数据,但数据本身有可能被污染,这样的人工智能就好像被“投毒”。五是业务层面,算法本身可以被欺骗、误导,当人工智能越来越多用于控制相关业务时,可能会产生致命性影响。六是应用动机层面。坏人有可能更早、更深地看到人工智能带来的机会。如今,除了人工智能,在生物科技等很多前沿技术领域都有这样的倾向,值得警惕。七是机制设计层面。模式设计考虑不充分,将导致事与愿违,可能产生非常严重的后果。他强调,在坏人手中的人工智能,可以高效的用于安全攻击,会对安全防护带来更大的挑战。但同时,人工智能也可以用于安全问题的解决。

需要注意的是,目前人工智能在安全领域的创新和应用落地存在很大的差距,人工智能安全研究创新环境缺失,同时自身也缺乏系统化的安全评测。因此,360目前正为构建人工智能开源软硬件技术平台和智能安全检测平台提供技术储备,包括建立开放协同的人工智能科技创新体系,以及促进网络安全产业的升级。360安全大脑开放创新平台的目标是通过建设共性技术平台、开放安全大数据、人工智能安全攻防资源库等,建立开放服务机制,为产业链和创新链上下游单位提供开放资源,促进人工智能行业持续、健康、快速发展。

演讲的最后,杜跃进表示,360将通过安全大脑赋能行业,解决高级别安全对抗的问题。同时,也将通过工业互联网安全研究院,结合人工智能解决工业互联网安全问题。

公司名称:深圳诺辉科技有限公司
主营产品:单片机开发,无线遥控控制芯片,烧录器,语音