新西兰关注歧视风险，政府对人脸识别技术开展种族偏见审核

在新西兰

据RNZ记者Phil Pennington报道，出于对人脸识别技术是否具有种族歧视性质的关切，公共部门正在对其使用的该项技术进行针对种族偏见的审核。 人脸识别于10年前首次在世界范围内引起争议，当时研究发现，该技术对黑色和棕色人种的识别误判率远高于白种人，尤其是女性。 有些系统在种族或性别方面出现偏见的比例达4%。 2019年曾有报道称，许多算法对非白人面孔照片的误判可能性是白人面孔的10倍至100倍。 数月前，内政部（Department of Internal Affairs）启用了"身份检查"（Identity Check，IC）系统，但在是否有潜在的种族偏见方面没有经过充分测试。不过，当时负责给出意见的毛利小组表示，他们"相信"这项技术会越来越好。 上周五（7月12日），内政部对RNZ表示，该部现在有一个全球著名的实验室在检查"IC"中生物识别技术的偏见问题，其结果将在几个月内公布。 "我们希望了解更多关于公平性的情况。"该部称，"我们致力于（人脸识别技术）合乎伦理和负责任的应用。" 内政部在护照和在线身份验证中使用IC系统来对人们提交的照片进行比对，它和海关拥有全国应用频率最高的人脸识别系统。 社会发展部（Ministry of Social Development）也通过IC来核查福利领取者的身份。如果该部选择性地使用这个技术，他们可以实时在线核实身份。 相对于准确率较低的一对多的匹配形式，这套系统基于一对一的图像比对。 上周，内政部发布了一份招标书，要求科技企业给出如何提升对deepfakes（基于AI的图像深度伪造）以及其他欺诈行为的甄别能力。 招标书要求竞标公司描述其人脸识别系统在虚假申请的通过率、虚假申请的拒绝率以及偏见方面的表现。 "欺诈和威胁在我们的环境中始终存在。"内政部表示，"我们需要实时调整我们的科技手段，确保领先于它们。" 与此同时，美国一些大学正在借助AI生成的人脸图像来训练人脸识别系统，测试结果的准确性相较过去有长足进步。 美国国家标准与技术研究院（US National Institute of Standards and Technology）的测试结果显示，有些系统的错误率现在已经降到了0.02%。 尽管更有观点认为人脸识别技术是种族歧视，但美国智库Lawfare认为这是"错误"的。 "虽然有媒体和学术界对算法人脸识别中关于偏见的风险十分关注，但事实证明这是一种非常好、并且还会越来越好的工具。" 纽约大学的研究者们生成了1300万张合成人脸图像来训练三种类型的人脸识别系统，这些AI生成的图像涵盖6个主要人种--非裔、印度裔、亚裔、西班牙裔、中东裔以及白人。 研究者在4月份的报告中称，"与现行的基于不平衡数据设定的大模型训练相比，（新的研究）结果不仅提高了整体准确性，还显著减少了人口统计学偏见。" 研究者现已将他们的代码开源，供其他人使用。 布法罗大学人脸识别偏见问题专家Ifeoma Nwogu表示，人脸识别技术会"随着时间推移、随着摄像技术的进步以及更多元化的数据集日趋完善。" -->