怎么有效保护疫情中搜集的人脸识别数据安全?如何避免人脸识别的安全隐患?

5月17日,一份针对人脸识别与公共卫生的调研报告发布,显示利用融合人脸识别技术的体温检测、密切接触者追踪等方式有效应对新冠疫情,但也带来关于隐私保护的担忧。

这份报告涵盖收集自11个国家的1133份问卷,超八成受访者认为,公共卫生危机结束后,应销毁在非公共空间内搜集的人脸信息,超七成受访者希望减少不必要的人脸识别应用场景。尤其是在恢复正常生活后,受访者普遍认为,应削减出于应对危机需要采集的人脸信息和部署的人脸识别应用。

针对此,报告撰写方北京智源人工智能研究院人工智能伦理与安全研究中心主任曾毅接受新京报专访表示,人脸识别等自动检测技术在防疫中发挥了积极作用,但目前仍然存在若干类风险,很容易泄露隐私。应当倡导建立公共卫生危机预警与防御体系,而不是鼓励人脸识别技术作为唯一有效的身份识别与追踪方式。

这份《人脸识别与公共卫生调研报告》由北京智源人工智能研究院人工智能伦理与安全研究中心和中国科学院自动化研究所中英人工智能伦理与治理研究中心联合发布,是两家研究机构共同发起的 “人工智能与健康社会系列调研” 第一期。

应推进个人隐私数据获取与使用的知情同意

新京报:在疫情防控中,人脸识别应用发生了哪些显著的变化?

曾毅:人脸信息中包含重要生物特征信息,并关联日常生活中诸多方面。人工智能不但可以通过人脸准确识别身份,甚至能从中推测出部分健康状况。对类似于人脸信息等重要生物特征信息的必要、合法获娶使用、安全存储是大多数公众关注的话题,调研的相关数据已证实了这个观点。

调研期间正值新冠疫情暴发,人脸识别被广泛应用于防控,选择人脸识别作为系列调研的第一期,正是出于这种技术与当代公共卫生体系的紧密关联程度。

疫情的暴发,促使公共卫生体系的实践者和人工智能创新者思考并推进人脸识别技术的新进展,主要体现在增强人脸识别技术本身(如能够识别戴口罩的人的身份),和以人脸识别作为基础,融合其他检测技术(如自动测温,通过声音自动分析健康状况)应用于疫情防控。

这样,人脸识别技术就有可能会发展为一个可能的入口,融合更多的个人信息。这既是技术的进步,且有应用需求,又可能造成安全与伦理隐患,因此应倡导负责任地发展相关技术。

新京报:调研中60.3%受访者不知道哪些实体拥有自己的面部数据,93.8%的受访者认为自己有权知道,仅有33.5%认为面部数据是安全的。这显示出此前相关部门对人脸识别的采集和使用,是否缺乏让民众知情的举措?

曾毅:调研结果显示,绝大多数被调研者认为,自身有权知道哪些实体拥有自己的面部数据,这表达的是公众的明确意愿。也正如调研结果显示,大多数人是不知道自己面部数据被哪些实体所拥有。

人脸信息采集的知情同意在应用层面的落地,近两年才被真正重视起来。可以看到,近期工信部、网信办、公安部等机构开展了一系列联合执法,警示和处置了一些在收集个人信息过程中不能做到明确知情同意的人工智能应用。

未来政府使用包括面部数据在内的个人隐私数据,如果能更透明,并着重加强保护个人数据的安全基础设施,是公众所期待的。世界上恐怕没有任何一个国家在这方面做得足够好,也正因如此,才值得政府和企业深度协作,推进个人隐私相关数据的获取与使用的知情同意,以及数据本身的安全可控。

政府应监督企业落实个人信息安全的基础设施

新京报:人脸识别数据的保存和使用让很多受访者担忧。公共卫生危机结束后,八成受访者认为应删除特殊时期的人脸信息。想要实现个人对自己人脸信息的知情和掌握,政府和技术公司谁来负主要责任?

曾毅:疫情期间人脸信息采集与识别服务的提供方绝大多数是企业,然而用户不仅仅限于政府和相关企事业单位,还可能包括公共卫生危机应急管理体系中的若干环节,例如相关信息可能存储在相关小区、街道。

公共卫生危机真正结束后,政府的引导一定是起主要作用。我国工信部、网信办、交通运输部、卫健委等部门对于新冠期间个人信息的采集与处理都颁布了相关明确规定,如《关于做好个人信息保护利用大数据支撑联防联控工作的通知》《新冠肺炎疫情社区防控工作信息化建设和应用指引》等。

在这些规定的落实层面,政府的作用是设计和顶层监督,公共卫生危机应急管理体系中的关键环节、相关服务提供方以及技术公司需要按照规定共担责任,主动作为。

新京报:各个政府部门和技术公司产生越来越多的合作,是否会造成重复收集数据的问题?政府部门与技术公司各自应该如何采取措施,保证民众的人脸信息安全?

曾毅:政府部门由于职能与各自业务需求的不同,难免会独立委托相关机构研发人脸识别相关应用,重复收集相关数据的问题恐怕现阶段是存在的。

目前的人脸识别相关技术公司的技术本身大多过硬,但是其提供的服务不仅仅是识别模型与算法,更为基础的是数据的获取与存储系统。这需要政府部门监督,相关技术公司落实完善个人信息安全的基础设施。

即使在去年,仍然有企业负责研发部署给相关政府部门的服务,出现大规模个人信息泄露的案例。政府和企业需要共担责任、共护安全。需要防止的不仅仅是人脸信息的泄露,还包括防御相关黑客对人脸识别算法的对抗攻击。

新京报:国际上,人脸识别应用的伦理方面有没有行业共识?中国建立了哪些规则,处于什么阶段?

曾毅:人脸识别是人工智能的一个分支技术和特定应用领域,因此首先要符合人工智能伦理与治理的原则与规范。

去年由国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则》,是我国在人工智能伦理与治理领域的重要指南,目前科技部正在通过多种渠道推进相关原则的落地与实施。此外,全国信标委正在组织编撰《人脸识别国家标准》,其中也涵盖关于隐私保护、安全、伦理规范等内容。

国际上关于人脸识别的普遍态度是在保护隐私与安全的前提下慎用,我想未来中国发展人脸识别技术,也应当秉承着这样的原则进行负责任的创新。

个人愿为公众利益让渡舒适度 但不是让渡隐私

新京报:这份报告显示的情况,能说明中国人对人脸识别的接受度有何特点?面对人脸识别带来的便利和安全,受访者多大程度愿意接受让渡个人隐私?

曾毅:这份报告主要聚焦在公共卫生危机背景下,公众对人脸识别技术的态度。可以看到,中国人对人脸识别接受程度会随着防控公共卫生危机的需求而提升。

这有两方面原因,一方面是在新冠期间,公众已经感受到了人脸识别、密切接触者追踪等相关技术与应用对疫情防控的作用;另一方面反映出中国公众认可保障公共卫生应急防控先于个人喜好,能够为了最大化公众利益部分让渡自身的舒适度。

然而同时需要指出的是,这种让渡不是对个人隐私的让渡。相反,这种让渡是以能够保障隐私的情况下做出的决定。此外还需要指出,即使在公共卫生危机期间,仍有半数受访者不同意使用人脸追踪所有人轨迹。这反映出公众的接受程度是理性的。

新京报:全世界其他国家发布的关于新冠肺炎期间数据隐私的政策,比较有效的、值得借鉴的做法有哪些?

曾毅:各个国家秉承的原则是相近的,共性及最重要的方面就是最小化原则,即必要性仍然是出发点,且相关数据不应分享给与疫情防控无关的机构和个人。疫情结束后建议不保留相关数据,或在知情同意情况下仅用于研究目的。

不鼓励人脸识别作为唯一有效的识别追踪方式

新京报:报告提示无论是疫情本身还是本次调研,都凸显了应加强技术驱动的公共卫生危机预警与防御体系建设的必要性。是否意味着,类似此次疫情中广泛的人脸识别等AI技术,在正常情况下也应扩大应用,防范危机?

曾毅:人脸识别技术目前仍然存在若干类风险,例如其中包含生物特征信息,在没有严格的政策和技术保障限制下,很容易泄露隐私。再例如,目前几乎所有人脸识别系统都无法万无一失地应对自动对抗攻击算法。因此应当倡导的是公共卫生危机预警与防御体系建设,而不是鼓励人脸识别技术作为唯一有效的身份识别与追踪方式。

如果疫情无法很快过去,且不能确保在各个环节使用的人脸识别技术的安全性,应为建设常态化的卫生危机与预警防御体系寻找更为合适,更为安全的部分替代方式。

新京报:调研中83.6%受访者为本科以上人群,报告也提到可能会一定程度影响结论的普遍性,你预计会有怎样的影响?

曾毅:应从两个角度理解这个数据。一方面,由于学历、职业分布不均,调研结果并不一定能够很好地反映各种学历和工作背景相关人群的意见。另一方面,受访者本科以上人群占大多数,这类人群对人脸识别技术及其风险有一定认知的可能比例较高,这有助于回答问题更为理性客观。

原创文章,作者:AIIAW,如若转载,请注明出处:https://www.aiiaw.com/4292.html