南方观察｜当人工智能出现“越界”，拿什么保护自己？

来源：互联网作者：王林更新时间：2021-03-17 06:49:39阅读：

今年“3·15”晚会给数字化时代的个人信息保护敲响了警钟：摄像头滥用人脸识别，招聘简历低价转卖，清理软件骗取信息……隐私泄露俨然成为消费者权益受损的重灾区。

央视曝光名单提到了广州雅量科技有限公司。白云区市场监督管理局16日一早便派出调查组，前往该公司开展执法检查。企业负责人也称，将进行自查并配合相关部门的检查。

早在此次“3·15”晚会之前，广州就不断有专家学者呼吁规范人脸识别应用，防范伦理与法律风险，促进人工智能产业健康发展。

那么，除了人脸识别外，还有哪些场景有人工智能“越界”的风险？信息时代的隐私权益保护，到底难在哪？社会各方应当如何行动，让人工智能“本分”地服务于消费者？

无处不在的“窥视”

在居民消费领域，刷脸购物、刷脸进出等应用场景已屡见不鲜；在公共安全领域，利用人脸识别技术实现高效地刑侦追逃与罪犯识别已成为公安干警的好帮手；在城市轨道交通领域，国内已有多个城市试点人脸识别购票乘车。

“人脸识别技术已在房地产、商场、写字楼、游乐园等机构及学校、医院、车站、出租车等场合广泛使用。”2021年广东省民革提交的议案指出，“黑科技”刷脸机在人们不知不觉间就采集大量人脸识别生物信息数据。

目前，以深度学习算法为代表的人工智能技术飞速发展，人脸识别技术已经从理论研究走向大规模的应用落地，中国丰富的应用场景更是为人脸识别提供了广阔的发展空间。

然而，在海量人脸识别在各个场景被采集、相关法律法规相对滞后的情况下，一旦人脸数据被不法分子使用，极可能引发科技伦理、公共安全和法律等众多方面的风险。

佳都科技集团董事长刘伟常年关注人工智能影响下的信息隐私保护工作。他提醒：“人脸、数据或将与电话号码、身份证号一样成为不法分子违法犯罪的新手段。”

据刘伟分析，对于人脸数据的违规采集与数据泄露、非法交易与使用等问题，是人脸识别技术应用面临的主要风险。也就是说，摄像头产出之后，B端的商家或其他机构怎样运用该摄像头获取信息，并如何使用这些信息，才是影响隐私保护的关键。

这具体表现在两个方面。

首先，为了满足实名制要求，大多数应用在使用过程中要求用户上传身份证信息资料和照片。另外，不少网民喜欢在朋友圈晒各类生活信息，包括本人、好友以及家人的照片。这些均成为人脸数据违规采集与数据泄露的主要途径。

“人脸识别生物信息具有唯一性、永久性与不可替换性，终身无法修改，一旦泄露即终身泄露，即便维权成功也难以恢复原状。”刘伟说道。

其次，人脸识别系统可以对摄像头采集的人脸图像进行辨认，却无法识别采集的人脸图像是来自真人还是一张照片，人脸照片、视频及伪造3D头套等均有可能被机器识别。

因此，人脸识别系统容易受到各类蓄意的仿冒攻击，常见手段包括盗用合法用户人脸照片、盗用合法用户人脸视频及盗用三维人脸面具等。

信息保护难在哪？

人们对信息隐私的保护意识，如今已与日俱增。在今年的“3·15”到来前，人们与人工智能的博弈，已是社会关注的热点。例如，市民诉杭州野生动物园的“人脸识别第一案”，消费者戴头盔看房等事件，均引发公众对人脸识别技术滥用的忧虑。

大家都能意识到人工智能技术运用的潜在风险，但人工智能浩浩汤汤的发展大势已不可逆，为何不能从头开始做好当前时代的信息隐私保护呢？

市政协委员、广州中源咨询有限公司总经理刘根生曾在去年底走访了广州市的几个小区。他发现，小区里的人脸识别设备，就安装在监控机房的服务器上。

“但我并没有看到小区对于这些数据的保密措施。”刘根生坦言，当前人脸识别生物信息处于无节制使用状态，任何组织单位可随意收集民众人脸数据生物信息，数据被泄露与滥用可能性急剧上升，引发科技伦理问题，公民隐私权受到威胁。

这印证了法兰克福学派创始人霍克海默对技术发展的忧思。他曾提出“工具理性”的概念，认为知识和科技一旦忽略了人的价值和意义，就会把世界及其构成要素仅仅看作是达到自己目的的工具或手段，此时人将被技术所异化、物化。

广州的专家认为，这种“工具理性”产生是因为缺少制度的规范。广州多益网络股份有限公司首席执行官唐亿鲁坦言，广州信息保护面临的挑战主要是地方性法规的缺失。

唐亿鲁举例说，2020年，全国各省市主管部门开展专项行动，对APP侵害用户权益和数据安全问题进行合规性检测。其中广东执法成效最为显著，排查问题APP150万余次，发现并下架违规APP12万款，驳回违规APP上架申请16万次。

“然而，单靠阶段性执法运动和事后打击，经济和时间成本较高，无法真正解决信息滥用的困局，甚至误伤市场主体的积极性。”唐亿鲁表示，广州在促进政务数据共享开放过程中，也存在安全管理体系不完善的问题——在数据分级、重点标准研制、安全技术、跟踪管理等方面仍有欠缺。

此外，当前我国网络安全人才严重匮乏，网络空间人才数量缺口超过140万。作为一家网络公司的CEO，唐亿鲁也常常面临招人难的窘境，她说广州对网络人才的吸引力度不大，很多毕业生更青睐深圳。

立法保障让技术行稳致远

3月初，全国政协十三届四次会议新闻发布会透露，《个人信息保护法》草案已提请全国人大常委会审议。这一法律的颁布和实施，对保护个人信息安全将发挥重要的作用。

“对企业来说，数据是21世纪的石油；对于个人而言，数据是其生活的再现；对政府来说，数据是基础性的战略资源。”在刘伟看来，要像保护石油那样保护个人的信息数据。

不少专业人士对此深表赞同。广州市政协委员、科大讯飞高级副总裁杜兰提到，在利用大数据做服务的同时，也要强调数据的隐私保护。“我们呼吁通过立法，从规范和制度上进行保障，同时也号召企业在做数据服务的过程中，要把客户隐私客户安全的意识放在首位。”

唐亿鲁着眼广州，建议加快制定数据安全方面的地方法规，出台《广州市信息安全保护条例》，从法规层面明确合规要求及监管态度，建立规范标准完善政务数据安全管理体系、加强数据安全关键技术研究和试点应用等。

“政府及具有公共服务职能的事业单位，要充分考虑到技术的利弊两面，把握好数字赋能与人本价值之间的关系。”她提到，广州不妨针对全市公共数据资源构建一套统一的、法定的数据公开和交换的标准，让高价值的政务数据真正服务于人。

刘伟指出，数据隐私保护中，最重要的就是数据确权，只有数据确权（所有权、使用权、交易权等），才能实现数据合理的使用，以及有效追责。因此他提议为技术应用设立行政管理职能；切实维护个人信息主体权益，建立必要性审查等。

例如，对于如小区管理等特定人群人脸识别应用，须以自愿为原则由个人信息主体进行必要性审查。物业应将其视作新增公共设施建设项目，交由业主按户数及面积2/3以上投票通过后方可申报审批，禁止非授权擅自使用人脸识别。

刘根生的提议在此基础上更进一步：“由公安部门统一承担人脸识别应用的审批与监管职能，除道路、交通工具、银行等法律规定的安防应用以外，如写字楼、商场、企业等单位及公园、学校、市场等在应用人脸识别技术前都应申报审批，公安部门依法审核其合法、正当和必要性。”