男女分不清 亚马逊面部识别存在性别和种族歧视

麻省理工学院研究发现，亚马逊面部识别软件Rekognition在性别识别中未能成功识别女性和肤色较深的女性，但却成功识别了肤色较白的男性。亚马逊员工和投资者已经敦促亚马逊停止向警方销售此软件。

亚马逊面部识别软件Rekognition向来饱受争议，而如今这款软件面临着新的批判。麻省理工学院媒体实验室进行的一项研究发现，Rekognition可能存在性别歧视和种族偏见。

该软件在识别女性和肤色较深女性时，性别识别能力尤为下降。在要对一些女性面孔进行识别时，该软件将其中19%的女性面孔错误标记为男性。而在识别肤色较深的女性面孔时，Rekognition的识别能力则更差——错将其中31%的女性面孔标记为男性。相比之下，Rekognition对肤色较白的男性成功进行了识别。

麻省理工学院发现，IBM和微软开发的类似软件的识别能力要比Rekognition更出色。具体而言，微软开发的软件仅把1.5%肤色较深的女性面孔识别为男性。

去年2月，麻省理工学院研究员乔伊• 伯拉姆维尼进行了一项类似的研究。他发现，由IBM，微软创建的面部分析软件在种族和性别偏见方面都存在问题。该项研究引起了这些公司的强烈反对。随后，微软和IBM承诺重组其面部识别软件，提高识别准确度。与此同时，亚马逊在研究结果发表后没有做出任何改变。在美国科技网站Verge发表的一份声明中，亚马逊称麻省理工的研究人员没有使用其最新版本的Rekognition。

马特•伍德是亚马逊网络服务深度学习和人工智能总经理。他在一份声明中表示，“根据通过使用面部分析而得到的结果，对任何用途(包括执法)的面部识别准确性得出结论，这都是不可能的。”

专家以及进行上述报告的研究员警告称，面部识别软件如果仍然存在性别歧视和种族偏见的问题，可能导致种族貌相和其他不公正的后果。乔伊• 伯拉姆维尼和德博拉•拉吉认为，除了修复软件中的偏差以确保识别结果公正之外，还有更多的工作要完成。

据信，美国联邦调查局即将对亚马逊的Rekognition进行测试，而亚马逊已将其软件出售给奥兰多市和俄勒冈州华盛顿县的执法机构，警方似乎正在利用该软件检查身份不明的嫌犯的照片，并对县监狱的照片数据库进行检查。据信，亚马逊还向美国移民海关执法提供了这项技术。(实习编译：王驿风 审稿：李宗泽)

关键词：