新基建案例说|中国信通院助力构建人工智能新基建安全保障体系

来源:中国信通院 发布时间:2020-12-24 18:00

人工智能作为新基建中的新技术基础设施,在社会经济各个领域应用日益普及深化。为保障人工智能安全可控发展,中国信息通信研究院(以下简称“中国信通院”)在报告标准输出、政策规划制定、技术安全应用、评估能力建设等方面积极开展研究和建设工作,已经取得阶段性显著成效。

一是积极输出报告标准研究成果。中国信通院基于人工智能安全研究,形成十余份研究报告,《人工智能安全白皮书(2018年)》《人工智能数据安全白皮书(2019年)》等成果,出版《人工智能安全》专著,广泛输出人工智能安全治理的思路理念和机制建议。同时,针对人工智能基础安全和应用先导领域安全问题,积极开展《人工智能产品、应用及服务基础性安全评估框架》《人脸识别安全技术要求》等行业标准制定工作,引导产业健康发展。

二是支撑政府出台相关规划文件。中国信通院先后支撑《促进新一代人工智能产业发展三年行动计划(2018-2020年)》《新一代人工智能产业创新重点任务揭榜工作方案》《关于促进人工智能与实体经济深度融合的指导意见》《智能汽车创新发展战略》等政策规划文件编制,提出人工智能发展的安全保障措施,推进人工智能技术在安全领域深度应用。

三是赋能安全管理技术手段建设。中国信通院与阿里巴巴等公司成立人工智能安全联合实验室,研究利用人工智能技术提升网络空间安全治理能力,开展违规不良多媒体信息识别、诈骗团伙多维关联分析等关键技术研发,相关成果已应用于全国互联网信息安全管理系统、全国互联网反诈系统等服务平台,提升系统的深度分析和智能识别能力。

四是强化人工智能安全评估能力。开展人工智能安全管理技术手段建设,构建人工智能技术应用和系统产品的安全监测和检测能力,实现对全国人工智能产业生态发展和安全风险事件的跟踪监测,以及对人工智能应用和产品的数据安全、网络漏洞等开展检测验证,助力保障我国人工智能技术产业安全稳步发展。

案例1:全国人工智能应用安全监测平台

实现对全国人工智能应用情况和安全态势的实时监测、多维分析和可视化展示,监测对象包括人工智能企业、产品、安全风险和安全事件等,目前已覆盖全国2900余家人工智能企业以及与企业相关的18000余项产品,完成800余项安全风险和1700余项安全事件监测,及时获取人工智能产业发展和安全态势,为行业发展规划和政府管理决策提供支撑。


案例2:人工智能数据安全检测验证服务平台

构建智能网联汽车、语音识别、人脸识别、深度伪造等典型人工智能应用以及云端机器学习框架、终端机器学习框架相关数据投毒、窃取、篡改等安全风险检测能力。如,智能网联汽车数据安全检测子系统,具备视觉感知模块数据安全检测、IVI模块数据安全检测、CAN总线数据安全检测、ECU模块数据安全检测、通信模块数据安全检测、APP客户端数据安全检测等多项能力。