站内检索

IBM退出面部识别:该技术在识别肤色方面备受争议
作者: 发表时间:2020年11月27日

   据外媒报道,近日IBM致信美国国会议员,公司将退出通用的面部识别业务,并表示反对将这种技术用于大规模监控和种族定性分析。

  众所周知,由于人种不同而导致的肤色差异、种族歧视等问题在国外已是长期的矛盾,而面部识别软件也通常因为这类问题而备受争议,包括潜在的侵犯人权行为,以及有证据表明该技术在识别有色人种方面的准确性较低。

  IBM CEO Arvind Krishna在信中表示:“IBM不再提供通用的IBM面部识别或分析软件,IBM坚决反对也不会宽恕将任何技术(包括其他厂商提供的面部识别技术)用于大规模监控、种族定性、侵犯基本人权和自由,或任何不符合我们的价值观和信任与透明原则的目的。”

  据了解,此前纽约时报曾发表一篇文章,文章中提到,MIT媒体实验室研究员Joy Buolamwini与微软科学家Timnit Gebru合作的一篇研究论文中,作者将微软、IBM和旷视科技三家的人脸识别技术进行对比,以判定其人脸识别功能。

  结果显示,AI应用人脸识别针对黑人女性的错误率高达21%~35%,而针对白人男性的错误率则低于1%,不同种族的准确率差异巨大。

  在当时,该项研究也引发了关于“AI是否存在社会不公甚至种族歧视问题”的探讨。显然并不是,深究其中的原因,更多的是因为当下的人工智能数据的量影响了AI的判断。肤色较深女性较难识别,除了天然人脸特征更难提取之外,可供训练的数据集较少也是影响因素之一。

  关于人脸识别中因技术问题引发的“失误”案例还有很多,比如在去年还发生了一起“小学生轻松破解丰巢刷脸取件”的热点事件。事件发酵后,丰巢紧急下线了该功能,并向公众回应称,“刷脸取件”是小范围推出的测试版本,已第一时间下线,并未造成用户损失。

  总之,关于“人脸识别”的技术发展,更多的可能是给人们的生活带来了便利性,但也同时导致了一些新的问题,人脸识别技术到底是不是一个值得大力推广的方向,也是社会广为关注的问题。(来源:OFweek电子工程网)

首页投稿广告关于我们联系我们

版权:《高科技与产业化》编辑部版权所有 京ICP备12041800号

地址:北京市海淀区中关村北四环西路33号 邮编:100080

联系电话:(010)82626611-6618 传真:(010)82627674 联系邮箱:hitech@mail.las.ac.cn