亚马逊员工抗议公司:不该向美政府卖人脸识别技术

本篇文章1684字，读完约4分钟

据外国媒体报道，一位自称是亚马逊员工的作者在媒体上发表了一封公开信，表示反对亚马逊将其面部识别系统卖给美国执法机构。

这封信的部分内容如下:

当一家公司向世界引进新技术时，它有责任考虑后果。我工作的亚马逊允许全国各地的警察部门购买面部识别产品rekognition，我和其他员工要求公司立即停止这项业务。

几周前，我的同事给杰夫·贝佐斯和其他高管写了一封关于这起事件影响的信，署名是亚马逊的450多名员工。这封信还要求亚马逊将软件公司palantir踢出其云服务aws，因为该公司为美国移民和海关执法局(ice)的驱逐和跟踪系统提供了大部分技术支持，并建立了员工对公司决策进行道德监督的机制。

我们知道贝佐斯意识到了员工们的这些担忧，并就此话题与整个行业进行了交流。在公开演讲中，他承认大型科技产品可能被执法部门使用甚至滥用。然而，贝佐斯没有解释亚马逊将如何采取行动防止自己的技术被滥用，而是建议我们等待社会产生“免疫反应”。

如果亚马逊继续等待，我们认为这种损害将难以消除。

毕竟，我们关注的不是其他公司未来可能造成的伤害，而是亚马逊目前正在设计、营销和销售的一个危险且大规模的监控系统:知识更新。亚马逊宣称该系统可以同时存储和搜索数千万张面孔。执法机构已经开始使用亚马逊的面部识别技术，但几乎没有公众监督，没有公众辩论或限制。佛罗里达州奥兰多市正在用来自全市监控摄像机的实时视频信号测试密钥更新。俄勒冈州的一个警察部门目前正在使用“重新认知”来要求现场的警察将照片与数据库中的面部照片进行比较。这不再是假设的情况。

我们从历史中了解到，新的强有力的监测工具不受控制地掌握在执法机构手中，并将被用来对付那些没有做错任何事情的人；在美国，缺乏公共问责导致了对有色人种、移民和那些行使第一修正案权利的人的过度干预和监督。在向政府和执法机构提供强大技术的同时忽视这些紧迫的问题是危险和不负责任的。

这就是为什么当aws全球公共部门副总裁teresa carlson最近说亚马逊“坚定不移地支持”执法、国防和情报部门的客户时，我们感到失望。他甚至说，即使我们“不知道他们实际上在用这个工具做什么”。亚马逊甚至建议为警察的便携式摄像头提供更新身份的功能，这将把原本用于警察问责的工具变成面向公众的移动监控设备。我们为什么要这么做？

像我们这样的公司不应该为了促进政府监管而开展业务。现在不行，永远不行。但是，rekognition支持从一帧视频中提取几十个面部标志并存储起来以备将来使用，或者立即将它们与包含数百万张图片的数据库进行比较。

出售这个系统违反了亚马逊的价值观。我们标榜自己是一家以客户为中心的公司，贝佐斯本人直接反对美国政府针对移民的不道德政策，比如穆斯林禁令。

我们不能以牺牲公共利益为代价从那些强大的客户群体中获利；我们不能忽视我们的业务对公众利益的损害。我们出售的重新认证系统是一项有缺陷的技术，它强化了美国现存的偏见。研究表明，面部识别技术更容易将人误认为是黑皮肤。这一点在最近的重新认识试验中得到了明确的证明。在这次调查中，美国国会议员的照片与数据库中的一些面部照片一一进行了比较，发现有28个错误的匹配，尤其是在有色人种中。但即使这些错误得到纠正，允许执法机构使用该软件也是不负责任、危险和不道德的。现在，这种偏见的根源在于更广泛的美国社会和司法系统。面部识别技术的使用只会复制和放大美国现存的偏见。

美国当前的政治环境使得向政府出售面部识别产品的想法更加令人反感。美国警方加强了对黑人活动人士的监视，特朗普政府继续打击移民。我们不想以任何方式为美国政府的超级监控系统做出贡献。亚马逊表示，它已经要求rekognition的客户遵守法律，但这只是逃避负面使用这项技术的责任的一种方式。

谷歌员工公开反对公司与美国国防部之间的maven合同(编者按:该合同涉及使用人工智能分析无人机镜头)，微软员工公开反对公司与美国国防部之间的云计算合同jedecade，我们将遵循他们的步骤。无论我们如何看待美国军队，任何人都不应该从“增加军队的杀伤力”中获利。