最近英国公布的一份测试报告,把面部识别系统的“偏心”问题摆到了明面上——这系统对

沉着枫叶康康 2025-12-11 17:51:12

最近英国公布的一份测试报告,把面部识别系统的“偏心”问题摆到了明面上——这系统对白人挺友好,对黑人、亚裔这些少数族裔却动不动就认错,误报率差得不是一点半点。 先说说最实在的数据:白人被误认的概率才0.04%,差不多2500个人里才错认1个;可亚裔的误报率直接冲到4.0%,25个人里就有1个可能被冤枉;黑人更惨,误报率5.5%,18个人里就有1个要踩坑,尤其是黑人女性,误报率快到10%了,相当于每10个黑人女性走在街上,就可能有1个被系统当成通缉犯。 2025年伦敦警方用这系统扫了350万张人脸,总共抓了1010个人,可80%的误报案例都来自黑人;更有意思的是,46%的识别摄像头都装在黑人人口比伦敦平均水平高的地方,等于专盯着少数族裔“误报”。 现实里的糟心事也不少。伦敦有个28岁的黑人小哥约书亚·巴达,更新护照的时候拍了高清证件照,结果系统说他是“张嘴照”,官方就说是“面部特征识别偏差”,没别的解释。还有个亚裔技术员,传了张表情正常的照片,系统硬说他“眼睛闭着、嘴巴张开”,拍了好几次都这样。社区活动家肖恩·汤普森是黑人,在伦敦桥附近正常走路,突然被警察拦下来盘问,就因为系统把他认错成通缉犯,核实半天才知道是一场乌龙。还有些少数族裔去超市、商业街,会被系统标记成“风险人员”,要么不让进,要么得额外查身份,好好的逛街都逛不痛快。 说起来,为啥少数族裔误报率这么高呢?其实主要是三个原因。第一是数据库太“偏科”,里面白人的照片多到离谱,还都是规规矩矩的拘留照、护照照;少数族裔的照片又少,拍摄环境也不一样,有的模糊有的角度怪,系统学不到足够的特征,自然容易认错。更让人没想到的是,警方还偷偷用了5000万张护照照片当训练素材,把普通出入境照片当成“虚拟拘留照”用,这下种族失衡更严重了。第二是技术本身有短板,深色皮肤在不同光线下反光不一样,系统抓不准面部特征点;像黑人的厚嘴唇、亚裔的面部轮廓,系统没学够相关样本,就容易当成“异常特征”认错。第三是警方为了不漏掉罪犯,把系统的匹配标准调得很低,只要两张脸有60%相似就报警,这种“宁错勿漏”的做法,让本就容易被误认的少数族裔成了最大受害者。 这事儿带来的影响也挺实在。对个人来说,少数族裔出门动不动就可能被警察拦下来盘问,得花时间证明自己没犯错;还有人被超市拉进“黑名单”,正常消费都受影响。对整个社会来说,联合国都出来说,这种系统可能让族群关系更紧张。本来英国黑人被警察拦查的概率就比白人高4.5倍,现在有了这个误报率偏差,差距就更大了。 面对这些问题,英国官方的做法也挺敷衍。内政部倒是承认系统有“种族和性别偏见”,说要开发新算法,2026年初就测试,但具体怎么改、测试标准是什么,都没说清楚。伦敦有个叫纽汉姆的区,已经暂停用这个技术了,等着更完善的监管措施,但内政部还在推着全国都用,说能补充警力,那些误报率高的地方也没说要限制使用,相关的测试结果也没完全公开,也没专门的机构来审计这个算法到底合不合理。 说白了,这系统现在就是打着“高科技”的幌子,让少数族裔平白承受更多麻烦,至于什么时候能改好,还真不好说。

0 阅读:0
沉着枫叶康康

沉着枫叶康康

感谢大家的关注