Responsive Image

阿里巴巴被指开发维吾尔人面部识别工具

阿里巴巴被指开发维吾尔人面部识别工具

来源:维吾尔人权项目
在中国政府追踪和迫害以穆斯林为主的少数民族同时,科技巨头阿里巴巴正在教导其企业客户如何参与其中。
据监控行业出版物IPVM发现并与《纽约时报》分享的网页显示,阿里巴巴的云计算业务网站展示了客户能够如何使用其软件检测图像和视频中的维吾尔族及其他少数民族的面孔。该网站称,这一功能被内置于阿里巴巴的软件中,用于帮助网络平台监控与恐怖主义、色情和其他危险类别相关的数字内容。
这一发现可能会把全球最有价值的互联网公司之一推入国际社会谴责中国对待穆斯林少数民族的风暴中。
作为其所谓反恐行动的一部分,中国政府已将成千上万的维吾尔人及其他群体送入了再教育营,并通过面部识别基因测试,铺开了广泛的监控网来监视他们。美国政府和其他国家谴责该项目,并对据信参与其中的中国企业进行了惩罚。
目前尚无法确定阿里巴巴的客户是否或如何使用这种少数民族侦查工具。但其遭到滥用的风险很高。例如,社交媒体平台可以自动标记视频,进行额外审查,如果视频中包含被软件判断为维吾尔人的面孔,它甚至可以提醒当局注意。
在时报本周向阿里巴巴询问有关该工具的情况后,该公司对其网站进行了编辑,删除了涉及维吾尔人和少数民族面孔的内容。
“提到种族指的是在探索我们的技术能力时,在测试环境中使用的一种特色或功能,”阿里云的一名代表在书面声明中表示。“它从未在测试环境之外使用过。”
该公司拒绝透露更多有关测试的信息,也拒绝解释为何有关该功能的信息被包含在软件的官方资料里。该公司也拒绝就为何一直在测试检测少数民族面孔的工具置评。
阿里巴巴是中国的企业巨头,业务遍及全球。它可能是全球唯一与亚马逊旗鼓相当的公司,一个向物流、百货、实体零售和云服务领域扩张的数字商务巨无霸。阿里巴巴的股票在纽约证券交易所交易,由国际投资大户持有。耐克(Nike)、星巴克(Starbucks)、拉夫·劳伦(Ralph Lauren)等全球品牌都利用其平台向中国消费者销售产品。阿里巴巴也是奥运会官方云服务合作伙伴。
但特朗普政府对中国科技企业的怀疑与日俱增,特别是那些被认为参与了新疆人权侵犯行为的企业,许多维吾尔人居住在这个位于中国西部的地区。
去年,美国政府将28家中国实体加入贸易黑名单,其中包括监控设备制造商和人工智能初创企业,因为担心它们在镇压行动中所起到的作用。上个月,白宫禁止美国人投资有中国军方背景的一批企业,以切断中国企业进入美国资本市场的渠道。
中国官员为新疆的行动辩护,称之为打击极端主义的非致命手段。他们将矛头指向美国的种族紧张局势,以转移美国官员的批评。
监控技术对中国的努力至关重要。该国绝大多数人口是汉族。但其他少数民族的长相可能与汉族人截然不同,因此软件更容易识别出他们。

《华盛顿邮报》(The Washington Post)上周报道,另一家中国科技巨头华为已经测试了一款软件,当监控摄像头发现维吾尔人的面孔时,该软件可以自动提醒警方。《华盛顿邮报》的报道援引了在华为网站上发现的一份文件,这导致法国足球明星安东尼·格里兹曼(Antoine Griezmann)终止了与该公司的合作。他一直是华为智能手机的品牌大使
一位华为发言人告诉《华盛顿邮报》,该工具“只是一种测试”。
面部识别技术在许多地方都带来了伦理挑战。在美国,由于可能存在不准确和偏见,一些地方政府已禁止将该技术用于执法目的。亚马逊决定在今年一年内对警察部门停用其面部识别服务,以便让议员们考虑实施更严格的监管措施。
这项技术在中国的部署方式引起了人们的强烈质疑。
在本周之前,阿里巴巴的网站曾表示,用于检测维吾尔人和其他少数民族面孔的工具是其“内容安全”服务的一部分。该服务可帮助阿里巴巴的云客户在从上传到其数字平台的图像、视频、文本和文档中标记有潜在风险的材料。
阿里巴巴网站解释说:“随着政府监管的日渐严格,这些都是各网站及平台亟待认真对待和管理的工作。”该公司是中国领先的云服务提供商,也是在中国开展在线业务的国际企业的合作伙伴。
根据阿里巴巴网站的说法,内容安全服务可以使用静态图片视频执行“敏感人士的面部识别”。该网站的描述说,当获得面部图像时,该软件可以寻找特征,包括该人是戴着眼镜还是在微笑。
在阿里巴巴本周修改这些描述之前,他们曾说过该软件还可以评估其他两个属性:一个人是否具有“亚洲”血统以及是否是“少数民族”——在另一个页面上,这个包含在括号里的描述指的是维吾尔族。
该公司同一软件的英文在线文档中没有提及对少数民族的检测,这可能表明该功能主要供中国客户使用。
阿里巴巴并不是中国唯一兜售种族特征自动分析工具的公司。
中国另一家云提供商金山云(Kingsoft Cloud)在其网站上描述了可以使用面部图像预测“种族”以及其他特征的技术。根据IPVM发现并与时报共享的金山云网站上的一个页面和一个文档,该公司的软件可以评估一个人的种族是“维吾尔族”还是“非维吾尔族”。
在时报向金山云询问有关该软件的信息后,该公司从其网站上清除了这些页面。它在一份书面声明中说,有关工具从未出售给客户,并且无法区分维吾尔人的面孔。
声明说,该软件因为管理不严通过了公司的内部审查流程,公司正在对审查机制进行评估,以确保监督到位。
“基于任何种族的标签都是不合适的,并且与金山云的政策和价值观不一致,”声明说。“我们的产品绝不会尝试识别和标记特定种族。”
金山云在纳斯达克证券交易所上市。