不顾员工反对,亚马逊将继续为ICE提供面部识别服务


    亚马逊最近因为向政府和执法机构提供和出售面部识别技术而饱受争议,由于Rekognition软件被指控侵犯人权,亚马逊员工曾联名致信CEO Jeff Bezos,要求公司停止向美国移民和海关执法局(ICE)出售面部识别软件Rekognition。
    亚马逊的云计算部门AWS负责运营Rekognition,这款软件目前正在被佛罗里达州和俄勒冈州的警察部门使用。
    日前,在亚马逊召开的全体员工会议上,Bezos邀请AWS CEO Jassy回答了关于签订Rekognition潜在政府合同的问题,Jassy指出,Rekognition具备很大的价值,能用于打击人口贩卖、寻找失踪儿童和涉及安全和多因素的鉴定,很显然,人们并不希望这种技术消失。但是,面部识别技术应该被负责地使用,如果有用户违反AWS的服务条款或侵犯宪法权利,亚马逊会禁止其使用该服务,政府也有责任帮助细化对这项技术的指导和监管法规。
    
    不过,Rekognition曾被曝出在准确性和种族偏见方面存在严重缺陷。今年7月份,北加州美国公民自由联盟(ACLU)对Rekognition进行了测试,当该联盟用2.5万张面部照片做面部识别测试时,Rekognition将其中28名国会议员识别成曾经被捕的罪犯。对此,亚马逊引用其DL和AI部总经理Matt Wood的一篇博文的数据做出了反驳,Rekognition API的测试数据显示出80%的置信率。
    亚马逊也曾拒绝参与由美国国家标准与技术研究院(NIST)主办的对算法偏差的全面研究,该研究旨在确定种族和性别偏差对面部识别算法的错误率的影响。
    实际上,亚马逊并非唯一因向美国政府销售产品和提供产品支持而被自家员工排斥的科技巨头,今年5月份,谷歌与国防部合作的AI武器化项目Maven也引起了公司内部职员的剧烈争论,甚至导致一些员工辞职以表示抗议。