可信人工智能理念逐渐成为全球共识

" 寻找人工智能时代隐私保护、政府监管、商业诉求的平衡点 , 已经成为产学研各界迫切需要解决的问题。‘可信 AI ’的理念逐渐成为全球共识 , 也成为未来人工智能产业健康发展的必由之路。可信 AI, 就是确保 AI 公平性、可解释性、健壮性和透明性 , 确保算法可被人信任 ", 科技部高技术研究发展中心研究员、ACM 中国理事会常务理事嵇智源在 2021 全球人工智能技术大会可信 AI 专题论坛上表示。

嵇智源在论坛致辞中说 , 互联网、大数据、人工智能等现代科学技术的进步和升级 , 对人类生活、社会管理产生了巨大的改变。人工智能作为新一轮产业变革的核心驱动力 , 正在各个行业、产业中产生着越来越深的影响。

然而 , 在人工智能的时代 , 信息数据作为有价值的资产 , 在数据的采集、传输、存储和共享等各个环节都面临着新的安全风险与挑战 , 同时数据的隐私安全问题也是数字经济发展、社会组织管理、商业业务价值创造急需解决的痛点。

嵇智源表示 , 当前从 " 科学 " 到 " 技术 " 到 " 市场 " 演进周期越来越短、各研发阶段边界模糊 , 技术更新和成果转化更加快捷。为了适应新技术革命和产业变革带来的新特征 , 科技部先后组织实施国家高技术研究发展计划 ( 863 计划 ) 、国家重点研发计划等国家高技术研究发展的战略性计划 , 瞄准国民经济和社会发展各主要领域的重大、核心、关键科技问题 , 组织产学研优势力量协同攻关 ; 经过数十年的实施 , 有力促进了中国高技术及其产业发展。

例如 , 面向城市规划、建设治理、智慧社区等多种应用场景和民生需求 , 以城市智能系统为对象实施的新一代智能基础设施建设 , 实现了智能化和精准化的城市管理。同时 , 也在数据共享、机制协同、可信体系建设等方面提出了新课题。

" 因此 , 寻找人工智能时代隐私保护、政府监管、商业诉求的平衡点 , 已经成为产学研各界迫切需要解决的问题。目前 , 许多国家已经着手评估如何在确保隐私、安全、透明、责任和对人工智能系统的掌控下 , 扩大创新和潜在经济利益 , 使人工智能得以健康有序的发展 ", 嵇智源表示。

" 在此背景下 , ‘可信 AI ’的理念逐渐成为全球共识 , 也成为未来人工智能产业健康发展的必由之路。可信 AI, 就是确保 AI 公平性、可解释性、健壮性和透明性 , 确保算法可被人信任。"

他说 :" 不久前 , 我与本次论坛主席、同盾科技联合创始人张新波、人工智能研究院李晓林院长等就人工智能、大数据的数据安全可信问题进行了有益的交流 , 我很赞赏他们提出的‘知识联邦’概念及其观点 , 也就是将散落在不同机构或个人的数据联合起来 , 转换成有价值的知识 , 同时采用相应的安全协议来保护数据隐私 , 从而确保人工智能所作出的决策是公平、易理解、安全、可信赖的。"

当然 , 人工智能中数据采集、传输、共享的安全可信不仅是技术层面的问题 , 人工智能的 " 可信 ", 也需要建立一系列相应的法律、法规、标准和社会伦理准则予以保障 , 嵇智源最后指出。