新西兰关注歧视风险,政府对人脸识别技术开展种族偏见审核


在新西兰


据RNZ记者Phil Pennington报道,出于对人脸识别技术是否具有种族歧视性质的关切,公共部门正在对其使用的该项技术进行针对种族偏见的审核。 人脸识别于10年前首次在世界范围内引起争议,当时研究发现,该技术对黑色和棕色人种的识别误判率远高于白种人,尤其是女性。 有些系统在种族或性别方面出现偏见的比例达4%。 2019年曾有报道称,许多算法对非白人面孔照片的误判可能性是白人面孔的10倍至100倍。 数月前,内政部(Department of Internal Affairs)启用了"身份检查"(Identity Check,IC)系统,但在是否有潜在的种族偏见方面没有经过充分测试。不过,当时负责给出意见的毛利小组表示,他们"相信"这项技术会越来越好。 上周五(7月12日),内政部对RNZ表示,该部现在有一个全球著名的实验室在检查"IC"中生物识别技术的偏见问题,其结果将在几个月内公布。 "我们希望了解更多关于公平性的情况。"该部称,"我们致力于(人脸识别技术)合乎伦理和负责任的应用。" 内政部在护照和在线身份验证中使用IC系统来对人们提交的照片进行比对,它和海关拥有全国应用频率最高的人脸识别系统。 社会发展部(Ministry of Social Development)也通过IC来核查福利领取者的身份。如果该部选择性地使用这个技术,他们可以实时在线核实身份。 相对于准确率较低的一对多的匹配形式,这套系统基于一对一的图像比对。 上周,内政部发布了一份招标书,要求科技企业给出如何提升对deepfakes(基于AI的图像深度伪造)以及其他欺诈行为的甄别能力。 招标书要求竞标公司描述其人脸识别系统在虚假申请的通过率、虚假申请的拒绝率以及偏见方面的表现。 "欺诈和威胁在我们的环境中始终存在。"内政部表示,"我们需要实时调整我们的科技手段,确保领先于它们。" 与此同时,美国一些大学正在借助AI生成的人脸图像来训练人脸识别系统,测试结果的准确性相较过去有长足进步。 美国国家标准与技术研究院(US National Institute of Standards and Technology)的测试结果显示,有些系统的错误率现在已经降到了0.02%。 尽管更有观点认为人脸识别技术是种族歧视,但美国智库Lawfare认为这是"错误"的。 "虽然有媒体和学术界对算法人脸识别中关于偏见的风险十分关注,但事实证明这是一种非常好、并且还会越来越好的工具。" 纽约大学的研究者们生成了1300万张合成人脸图像来训练三种类型的人脸识别系统,这些AI生成的图像涵盖6个主要人种--非裔、印度裔、亚裔、西班牙裔、中东裔以及白人。 研究者在4月份的报告中称,"与现行的基于不平衡数据设定的大模型训练相比,(新的研究)结果不仅提高了整体准确性,还显著减少了人口统计学偏见。" 研究者现已将他们的代码开源,供其他人使用。 布法罗大学人脸识别偏见问题专家Ifeoma Nwogu表示,人脸识别技术会"随着时间推移、随着摄像技术的进步以及更多元化的数据集日趋完善。" -->