新闻 资讯 金融 知识 财经 理财 科技 金融 经济 产品 系统 连接 科技 聚焦
首页 > 新闻 > 互联网 > > 正文

三大网络安全热点领域值得关注 发展人工智能既要智商也要安全

2019-03-12 11:09:52来源:证券日报

随着新一轮技术革命的到来,网络安全的形势也越来越严峻。作为国内最大网络安全企业掌门人,全国政协委员、360集团董事长兼CEO周鸿祎今年在“两会”上三份提案三提“安全”,内容涉及国家级网络安全大脑建设、智能汽车网络安全、人工智能安全风险等热点安全话题。

加快构建国家级网络安全大脑

“做了十来年的网络安全,感觉我们的网络安全防御有一个很大的问题:各个单位基本上各自为政,各守自己的‘一亩三分地’,大家都只掌握自己的局部信息,无法及时发现高级攻击。”周鸿祎说。

随着物联网、信息化、智能化的发展,网络攻击的危害越来越大,从单纯的网络安全,扩展到国家安全、国防安全、关键基础设施安全、社会安全、金融安全乃至人身安全和财产安全。大安全已经成为共识。但是,应对网络安全仍然面临一些重大挑战。一是未来联网设备数以百亿计,每一个都可能成为攻击的切入点,防不胜防;二是漏洞无处不在,没有攻不破的网络。

在周鸿祎看来,面对这些威胁和挑战,当务之急是能够及时发现网络攻击,唯一的方法要靠安全大数据的联合。虽然现在建立了很多网络安全防御系统,然而数据没有打通、各自为政等现象普遍存在,无论是企业、网络安全公司、运营商,还是政府部门,都各自掌握一部分数据,都只能看到局部情况。构建一个数据统一、国家级的网络空间国土防御系统——国家级网络安全大脑,在全球网络安全形势严峻的今日尤为重要。

周鸿祎建议,一方面,要将国家级网络安全大脑列为国家重大工程专项。建议成立国家网络安全大脑项目总体工作组、专家组、工程推进组,分别负责顶层设计和总体筹划、系统设计、工程建设。另一方面,要运用新型举国体制,加快推进国家级网络安全大脑建设。构建国家级网络安全大脑是一个国家行为,单靠某一家企业或一个单位很难完成,迫切需要发挥新型举国体制优势,由国家相关部门牵头,协调网信、工信、公安、科技等部门和单位,组织国企、民企、科研院所等广泛参与。

网络安全应成为智能汽车标配

“现在,大家的电脑、手机都装了安全杀毒软件。智能汽车也应加装网络安全防护系统。要把网络安全系统像‘安全带’一样列为智能汽车标配,实现智能汽车的安全、可靠、可控。”周鸿祎说。

周鸿祎认为,汽车行业正朝着智能化、网联化、电动化和共享化的方向发展,其电子电气架构会发生翻天覆地的变化。汽车的智能驾驶系统、信息娱乐系统、底盘控制系统和动力控制系统都会与互联网相连接,通过网络进行数据传输和软件升级。与互联网连接就会有网络安全风险,黑客可以通过网络攻击劫持汽车,造成人身伤害、群死群伤等安全事故,甚至被用于恐怖袭击,威胁人身安全、社会安全和国家安全。

在他看来,汽车厂商自身的网络安全问题也将威胁到智能汽车的安全。智能汽车都是与汽车厂商的云端服务器远程相连的,一旦汽车厂商云端服务器被发现漏洞,攻击者就会对汽车实现远程操控,或者获取车主和汽车相关信息,造成交通事故,甚至威胁社会安全和国家安全。

“建议制定强制性生产标准,把网络安全列为智能汽车标配。一是加装安全联网模块,提高联网防护能力,建立安全接口,加强汽车的控制安全保护,防止控制被劫持。二是强制安全测试。建立测试评价体系,在汽车上市前进行网络安全测评。三是建立厂商安全运营平台,提升安全运营能力,及时发现和阻断黑客攻击。”周鸿祎说。

发展人工智能既要智商也要安全

“现阶段,我们关注的焦点是人工智能本身的安全问题。人工智能有很多根安全‘软肋’,前端传感器可以被干扰,训练数据可能被污染,内部算法可以被欺骗,并且系统中可能存在大量未知漏洞。人工智能无疑是下一轮技术革命的焦点,在技术高速发展的同时,如何保持这个技术更安全是重中之重。”周鸿祎说。

人工智能正在加速与经济、社会、国防等深度融合,发挥越来越显著的“头雁”效应。与此同时,人工智能自身所面临的网络安全风险也越来越突出。比如,人工智能的传感器存在被干扰的风险;训练数据存在被污染的风险,可能“教坏”智能机器人;概率判断系统不完善,可能导致车毁人亡;而且,人工智能是通过软件实现的,是软件就有漏洞,就很可能被黑客利用。

在周鸿祎看来,如果人工智能自身存在安全问题,就易受攻击并引发严重后果。一方面,人工智能系统可被劫持,造成大量重要训练数据泄露。另一方面,采用人工智能的无人值守系统失控,或导致严重后果。举个例子,现在武器系统的扳机都在战士手里,由人来判断和扣动扳机,未来如果引入人工智能形成智能武器系统,就变成了扳机操控在电脑系统手里,一旦被黑客控制,就可以远程控制武器射击,滥杀无辜。

周鸿祎建议加快国家级网络安全人工智能开放创新平台建设。“一方面,安全应该成为人工智能发展的基础与前提。人工智能网络安全问题非常复杂,迫切需要建立一个开放创新平台,整合各种资源,协同推进和解决。另一方面,国家对新一代人工智能开放创新平台的建设高度重视。已分别在自动驾驶、城市大脑、医疗影像、智能语音、智能视觉5大领域批准建设人工智能开放创新平台,但在人工智能网络安全领域还是空白。建议国家支持尽快建设国家级网络安全人工智能开放创新平台,确保人工智能健康有序发展。”

关键词:

热点
39热文一周热点