全国政协委员、启明星辰CEO严望佳：加强人工智能应用安全 促进数字经济发展

全国两会期间，全国政协委员、启明星辰CEO严望佳提交了三份提案，关注数字经济发展过程中的安全问题。严望佳建议，建立政务大数据全生命周期安全治理体系，加强人工智能应用相关的数据安全及隐私保护技术研究，加强对智能网联汽车的数据安全管控。

开展前沿技术研究

严望佳介绍，当前人工智能应用面临不少安全问题，包括数据安全及隐私保护问题、算法“黑盒”应用模式的安全隐患以及人工智能应用的伦理安全问题。

严望佳表示，为稳步推进数字经济发展，充分发挥人工智能应用在发掘数据要素价值方面的作用，须采取有效措施加强人工智能应用的安全管控。

严望佳建议，加强人工智能应用的相关数据安全及隐私保护技术研究，在不泄露隐私及敏感信息的前提下保留数据价值，支持人工智能应用发展。建议设立相关专项课题，推动产学研合作开展技术研究与应用落地攻关等。

严望佳认为，应强化人工智能应用的透明性要求，尤其在涉及社会、人身安全的关键领域应避免“黑盒”应用。建议制定相关法律及标准规范，明确各领域人工智能应用的透明性要求与衡量指标等。

人工智能应用软硬件供应链的安全问题应得到更多关注。考虑到人工智能应用越来越多源自开源软件领域，建议高度关注并加强评估开源供应链和开源软件的安全问题，做好风险管控。

加强数据安全管控

对于智能网联汽车的安全问题，严望佳表示，智能网联汽车是一个复杂的系统工程，涉及分布式电子自动控制的汽车电子控制系统，数十甚至上百个电子控制单元如驾驶控制单元、传感单元等。这些元器件通过不同类型的总线相互连接，经由固件代码驱动，再加上外部信息，通过无线通信接口实现车与车、车与网以及移动蜂窝基站进行数据交互，并与智慧交通系统互联互通。

从智能网联汽车产业角度看，汽车电子信息系统及开发基础平台对境外企业存在高度的依赖性，影响了我国汽车产业的安全。从无人驾驶和辅助驾驶技术看，自身就存在漏洞。除了物理连接的攻击方式外，还可以通过远程无线的方式建立连接，攻击软件安全漏洞，控制汽车总线系统、车路协同系统等，达到信息窃取、系统破坏、远程遥控等目的。

严望佳建议，统筹安排跨部门协调处理智能网联汽车从生产制造到道路交通运行的安全监管，增强智能网联汽车信息与控制系统安全能力和“云-管道-端”系统运行安全能力，提升汽车信息电子控制系统的国产化比例。

此外，加强对智能网联汽车的数据安全管控，尤其是进口境外生产的车辆和相关零部件，对出境汽车数据则按照相关法规进行管理。加强智能网联汽车个人隐私信息保护力度，防止隐私信息泄露，保障公民隐私安全。