瑞莱智慧RealAI打造人工智能安全技术工具 推动行业发展

4月26日，由国家互联网信息办公室主办人工智能分论坛举办，论坛以“人工智能—社会实验视角下的社会治理”为主题。各产业相关领域专家代表一同围绕人工智能发展可能带来的风险和问题，探讨人工智能赋能社会治理的规律和经验，共同推进人工智能产业健康发展。

论坛期间，由中央网信办信息化发展局组织评选的“人工智能企业典型应用案例”正式发布，本次案例评选在发现和挖掘人工智能行业的最新场景和杰出企业，进一步推动我国人工智能健康稳定发展。经人工智能社会实验专家组评审，华为、百度、旷视、商汤、依图等在内三十五家企业的典型应用案例入选，其中包括瑞莱智慧RealAI的“人工智能安全与深度伪造治理应用案例”。

瑞莱智慧RealAI CEO田天介绍，由于当前的人工智能仍处在初级阶段，算法本身存在不透明、不可解释等结构性缺陷，这就导致技术漏洞可能被用于恶意攻击，通过对抗性数据污染、算法修改、恶意样本等方式对算法进行深层次攻击，让人工智能系统“精神紊乱”，以高置信度给出错误输出。这产生的后果将可能威胁到人类财产生命安全。比如通过佩戴特定设计、有对抗攻击能力的眼镜等实体物件，导致能够攻破手机解锁、线上身份认证、线下安防等领域的AI系统，让安全验证形同虚设。甚至在交通领域，车辆的辅助驾驶或自动驾驶系统也可能因为AI算法缺陷而丧失正常的视觉识别能力，错误识别交通指示牌、“看不到”大型障碍物等，严重威胁人身和财产安全。

本次论坛主题切实讨论人工智能发展可能带来的风险和问题，作为“人工智能企业典型应用案例”入选企业，瑞莱智慧RealAI的“人工智能安全与深度伪造治理应用案例”深入提出了当下深度伪造治理的方案。据介绍，作为清华人工智能研究院的官方产学研机构，北京瑞莱智慧科技有限公司依托其自身在AI安全攻防领域的积累，利用“产学研”一体化优势，创新性地提出了“攻防动态平衡”机制，以子之矛、攻子之盾，通过攻防对抗不断升级，演练出针对性的防御技术。通过对抗性算法研究，先于黑客发现并修补漏洞，避免攻击隐患；通过生成更为逼真的深度伪造视频，再训练出更为领先的检测算法。

在此基础上，瑞莱智慧RealAI还打造出一套完备且行之有效的技术工具来辅助解决人工智能安全问题。例如，业内首个人工智能安全平台RealSafe，这也是针对人工智能系统的防火墙与杀毒软件之一，通过集成业内主流的领先攻防算法，采用对抗训练手段对AI系统进行自动化的安全审查，输出检测报告后可选择不同的防御解决方案进行加固升级，提升AI系统及设备对对抗样本等攻击手段的识别能力。在应用管控层面，瑞莱智慧RealAI推出DeepReal深度伪造检测工具和一体机，能够高效精准的判断视频、图片等内容素材是否是经过AI伪造生成的，能够有效避免舆情与预警相关滥用。

当前，人工智能研究高度开放附带源代码的海量论文可免费下载，即便编写一种折型算法的时间成本也只需几天，这也导致人工智能技术的滥用风险激增，直接性造成风险漏洞的出现。此外，人工智能既有多学科综合、高度复杂等特性，带有天然的技术壁垒，给监管部门的监督管理和风险防范提出了不小的挑战。

同时也有专家表示，人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中，并通过机器学习被人工智能所承继，进而演进为算法歧视。而在具体适用过程中，容易受到对抗样本的干扰或污染，被应用者二次形塑，做出背离设计初衷的错误决策。专家重点提到，在人工智能飞速发展的当下，安全问题日益凸显，需要我们加强对潜在风险的研判和防范，切实维护好利益和安全，确保人工智能安全可靠、可控。

田天表示，人工智能治理是一个长期的工作，“技术”与“制度”需同步推进，前者解决技术的不安全性与脆弱性，后面从场景应用层面给出规范与指引。