首页 › 社会 › 查看内容

滥用AI错把顾客当扒手药店被罚五年禁用该技术

时间: 2023-12-20 10:22| 来源: 美国中文网|评论: 发表评论分享到微信

摘要: 美国中文网报道联邦贸易委员会（FTC）周二表示，药房连锁Rite Aid五年内被禁止使用面部识别监控技术，以回应来自其数百家门店的消费者投诉。FTC在向宾州东区联邦法院提交的一份诉状中表示，Rite Aid在2012年至2020年期间部署了一项基于人工智能（AI）的“秘 ...

美联社资料图

美国中文网报道联邦贸易委员会（FTC）周二表示，药房连锁Rite Aid五年内被禁止使用面部识别监控技术，以回应来自其数百家门店的消费者投诉。

FTC在向宾州东区联邦法院提交的一份诉状中表示，Rite Aid在2012年至2020年期间部署了一项基于人工智能（AI）的“秘密监视计划”来识别潜在的商店扒手。诉状称，基于有缺陷的系统，这家连锁药店的工作人员当众错误指控顾客有不当行为，在某些情况下还对顾客进行搜身，命令他们离开药店，或向警方报案。

诉状指，Rite Aid聘请了两家公司帮助他们创建一个数据库，其中包含数万张商店扒手或潜在商店扒手的照片。这些图像是从监控摄像头、员工手机摄像头甚至新闻报道中收集的，其中许多图像质量很差，导致该系统产生了数千起误报。

FTC称，尽管供应商明确表示无法保证这项技术的可靠性，Rite Aid在未能测试该系统的准确性的情况下部署了该技术。

FTC消费者保护局局长莱文（Samuel Levine）说：“Rite Aid公司鲁莽地使用面部监控系统，使其客户面临羞辱和其他伤害，这些违反命令的行为使消费者的敏感信息处于危险之中。今天的开创性命令明确表明，本委员会将保持警惕，保护公众免受不公平的生物识别监控和不公平的数据安全做法的影响。”

据报道，在五天时间里，Rite Aid从纽约到西雅图的130多家门店发出了900多个不同的警报，所有警报都声称一名顾客与数据库中同一名偷窃嫌犯面部特征相符。FTC的一篇博客文章称：“换句话说，Rite Aid的面部识别技术告诉员工，仅仅一张照片上的人，就在不到一周时间里，进入了从东海岸到西海岸的130多家Rite Aid门店900多次。”

在一起事件中，Rite Aid的一名工作人员根据错误的匹配，拦截并搜查了一名11岁的女孩，孩子的母亲报告说，因为女儿心烦意乱，她不得不错过工作。

FTC还称，非裔、亚裔、西语裔和女性消费者被错误匹配的风险更高。

此外，Rite Aid未告知消费者他们使用了这项技术，并特别指示工作人员不要告诉顾客或媒体。

针对新的和解协议，Rite Aid回应称，很高兴能把这件事抛在身后，但对FTC投诉中的指控提出了异议。

这家正在破产法庭上进行重组的零售商表示：“这些指控涉及本公司在少数门店部署的面部识别技术试点项目。在FTC对本公司使用该技术的调查开始的三年多以前，Rite Aid就在这一小部分门店停用了该技术。”

（编辑：陈晓默）