月光博客 » 业界动态 » IBM宣布退出人脸识别业务

IBM宣布退出人脸识别业务

  非裔美国人乔治·弗洛伊德(George Floyd)之死正在引发一系列的连锁反应。6月8日,IBM官网公布了首席执行官阿里德·克里希纳(Arvind Krishna)致美国国会的一封信,宣布不再提供通用的人脸识别或分析软件。另据外媒报道,IBM表示也不会再继续开发或者研究相关技术。

  克里希纳在信中表示,乔治·弗洛伊德及多位非裔美国人的死亡提醒美国人,“与种族歧视的斗争一如既往得紧迫”。因此,IBM希望与国会合作,从技术使用、警察改革等关键领域着手,推动实现公平正义和种族平等。

  “IBM不再提供通用的人脸识别或分析软件。IBM坚决反对并且绝不容忍将任何技术(包括其他供应商提供的人脸识别技术)用于大规模监视、种族歧视、侵犯基本人权和自由,或用于任何与我们的价值观、与我们的信任与透明度原则不符的目的。我们认为,现在是时候开始关于国内执法机构是否能使用,以及如何使用人脸识别技术的全国性讨论。”克里希纳写道。

  他表示,人工智能是一种强大的工具,可以帮助执法机构保护民众的安全。但是,人工智能的供应商和用户负有共同的责任,即确保人工智能应用,尤其是执法机构的人工智能应用不存在歧视。有关歧视的测试结果应该被公开和审核。“最后,国家应该出台政策,鼓励和推动警方使用一些能提高执法透明度与可信性的技术,比如执法记录仪和现代的数据分析技术。”

  据悉,多项研究显示,美国各大公司的人脸识别算法在面对黑人时均存在准确率低的问题。这也是人脸识别在美国一直饱受诟病的原因之一。

  2018年,美国一个民间组织使用535位美国国会议员的照片测试了亚马逊的人脸识别系统,结果竟有28位国会议员被识别成罪犯。值得注意的是,这28人中有11人为有色人种,包括美国著名的民权领袖、众议员约翰·刘易斯(John Lewis)。由于亚马逊的人脸识别系统被美国执法机构广泛使用,这一测试结果加深了人们对算法歧视的担忧。“我们需要用技术来帮人们解决问题,而不是加重有色人种所面临的不公。黑人和棕色人种已经成为歧视性判决系统的受害者。”刘易斯在随后的一份声明中写道。

  2019年底,美国国家标准技术研究院(National Institute of Standards and Technology,以下简称NIST)在调研了189种人脸识别算法后也发现,现有的人脸识别算法仍然无法排除种族、性别等因素的影响。

  根据NIST的研究,在一对一的匹配中,大多数算法对亚裔和非裔美国人的误报率超过白人,不同算法的误报率差异从10倍到100倍不等;不同地区的算法也有差异,美国公司开发的一对一匹配算法对亚裔、非裔美国人和土著群体的误报率尤其高。而在一对多的匹配中,针对非裔美国女性的误报率普遍更高。研究人员指出,这可能会导致错误的犯罪指控。

  事实上,IBM曾经试图解决“算法歧视”的问题,并在2018年发布了可用于人脸识别算法训练的公开数据集。但2019年,有网友发现该数据集抓取了近100万张来自图片社区Flickr的照片。这些照片被抓取主要是因为标记了知识共享许可协议(Creative Commons license)。IBM辩称数据集并非商用,但许多上传照片的用户以及被拍摄者认为不能在未经其同意的情况下将其数据用于训练。今年初,一些伊利诺伊州用户以IBM侵犯隐私为由提起了诉讼。

  据路透社、The Verge等媒体报道,IBM此前的人脸识别业务并未带来可观的营收。有知情人士在接受路透社采访时表示,IBM将不再以应用程序编程界面或任何其他形式开发、创造、研究或销售人脸识别产品,但会根据此前的客户有需要的情况下提供支持。该人士补充说,IBM将继续研究计算机视觉技术,但仅限于视觉对象检测,而不是用于人脸识别和分析。

  5月25日,在美国明尼苏达州明尼阿波利斯鲍德霍恩社区,非裔美国人乔治·弗洛伊德被白人警察德里克·肖万(Derek Michael Chauvin)逮捕。肖万单膝跪在弗洛伊德脖颈处超过8分钟,弗洛伊德被跪压期间失去知觉并在急救室被宣告死亡。这一事件让美国社会长期存在的种族歧视问题再次浮上水面,引发了美国大规模的游行和示威活动。

  来源:南方都市报

IBM宣布退出人脸识别业务

顶一下 ▲()   踩一下 ▼()

相关文章

  1. 1
    it100学习网   说道:
    人脸识别被采集后的安全存储和应用也是隐患,这些都涉及到个人隐私的保护。现在很多app我都禁止了相机权限,现在大数据下我们的隐私保护很难了。
    支持(6反对(1回复
  1. 2
    大榔头   说道:
    不知道国内的技术在应用于少数民族的时候是不是也会有类的的问题……
    1. 蓝色天空   说道:
      你如果长成黑人的模样,可能会识别错误……
      支持(1反对(0回复
    支持(3反对(1回复
  1. 3
    深咖色   说道:
    难道识别成猩猩了?
    支持(1反对(1回复
  1. 4
    D小天   说道:
    技术没有善恶,你不开发别人会开发。
    支持(0反对(0回复
  1. 5
    Dbftbs   说道:
    有罪推定是个很可怕的事情
    支持(0反对(0回复
  1. 历史总是在重复自己,现在西方的政治正确和晚晴的官僚一样迂腐
    支持(0反对(0回复
  1. 7
    蛮荒的大地   说道:
    哈哈,中国的面部识别技术再牛逼,在西方国家都无法大规模商业化使用,也只能在中国用,中国在隐私这块已经没救了
    支持(0反对(0回复
  1. 8
    HIFR-521   说道:
    IBM的CEO肯定比评论区的小伙伴们聪明多啦,这个选择是经过权衡的理性的选择,他不会不知道放弃会失去市场,但他还是放弃了,钱有的是办法赚,但做了恶人再洗白就太难了。支持!
    支持(0反对(0回复
  1. 9
    2020一切从头   说道:
    IBM的人脸识别技术没戏了,所以CEO跑出来为解散这个团队找一个体面的说法
    支持(0反对(0回复
  1. 10
    A一厘米   说道:
    如果没有棱镜门事件,我真信了
    支持(0反对(0回复
  1. 11
    夜听海浪啪   说道:
    技术不行就装B呗,有这觉悟笑死老子
    支持(0反对(0回复

发表留言


点击更换验证码