谷歌正在寻找一种新方法来对肤色进行分类以抑制产品中的偏见
NATS奖励Updata网络空中交通服务合同
Apple用紧急Mac更新Quashes 3零天
谷歌不会制作项目ARA模块化智能手机
TSB移动到Microsoft云应用程序
谷歌使用AI比JPEG更好地压缩图像
公民建议猛击宽带补偿提案的ISP
2017年英国最有影响力的女性:升起的明星
为什么敏捷团队更愿意将自己的开发工具带入项目
谷歌只是吹了它的生产力软件的全策略
NBA持有第一个Hackathon - 应该是你公司吗?
能量存储能力支出以“24”增加六倍
NHS Digital Program Director说,NHS必须提高数字游戏
Hertfordshire飞行员NHS Digital的覆盆子PI远程医疗套件
沃达丰识别50个未来的数字集线器
俄罗斯拼凑来谷歌拥有6.8M的Android抗托拉斯罚款
为什么你可能会更好地让你让你回家而不是优步或特斯拉
Dropbox纸现在可以作为开放的beta
俄罗斯网络间谍集团定位酒店无线网络
软件定义的存储击中讨价还价机架
大数据已经是460亿美元的市场,但你还没有看到没有
Azure Roundup:新的高性能计算实例等
缺乏透明度模糊了公共云成本
国会报告说,OPM黑客被避免
IBM的Watson寻找在家里的角色
在IDF,英特尔将背后的PC留下来突出VR和IOT
Micron旨在将智能手机储存更多,3D NAND Flash
超级计算机在Def Con的黑客竞赛中接受人类
Sage Data Breach突出了内幕威胁的风险
最高法院将解决网络中立问题吗?
阿联酋银行分享信息以打击网络威胁
网络犯罪分子指挥顶级攻击,警告检查点
Mozilla为<1%的用户提供多过程Firefox
技术对亚太地区的医疗保健至关重要
三星的大规模32TB SSD包括尖端3D芯片技术
市资助的宽带刚刚失去了在法庭上大打
Dropbox Breach显示了如何影响密码重用
隐私集团向FTC抱怨WhatsApp政策更改
Infosys CEO在公众批评方面辞职
黑客集团据称是黑客攻击的NSA联系方程组,拍卖网络武器
在偏见粪便之后,Facebook取代了算法的人
Gitex 2017:技术创新授权中东医疗保健部门
据称的NSA黑客可能通过泄漏漏洞来赠送了一个小财富
中国批准清除戴尔的67亿美元EMC购买方式
人才短缺让北欧IT公司专注于工作满意度
年轻的Windown黑客可以帮助填补荷兰语它的技能差距
新GDDR6内存可能会在2018年达到GPU
中东企业必须专注于IT培训,雇用更多妇女以保持竞争力
英特尔在McAfee单位销售了大多数股份
三角洲航空公司航空公司航班延误广泛的计算机停机
您的位置:首页 >电子新闻 >

谷歌正在寻找一种新方法来对肤色进行分类以抑制产品中的偏见

2021-07-17 16:47:50 [来源]:

Alphabet Inc 的谷歌本周告诉路透社,它正在开发一种替代行业标准的肤色分类方法,越来越多的技术研究人员和皮肤科医生表示,这种方法不足以评估产品是否对有色人种有偏见。

有争议的是一种称为菲茨帕特里克皮肤类型 (FST) 的六色标度,皮肤科医生自 1970 年代以来一直在使用它。科技公司现在依靠它来对人进行分类,并衡量面部识别系统或智能手表心率传感器等产品在不同肤色上的表现是否同样出色。

批评者说,FST 包括四个类别的“白”皮肤和一个“黑色”和“棕色”皮肤,无视有色人种之间的多样性。美国国土安全部的研究人员在去年 10 月的联邦技术标准会议上建议放弃 FST 来评估面部识别,因为它不能很好地代表不同人群的颜色范围。

在回答路透社关于 FST 的问题时,谷歌首次并领先于同行表示,它一直在悄悄地寻求更好的措施。

该公司表示:“我们正在研究可能对我们的产品开发有用的替代性、更具包容性的措施,并将与科学和医学专家以及与有色人种社区合作的团体合作,”该公司表示,但拒绝提供细节在努力上。

这场争议是科技行业对种族主义和多样性的更大清算的一部分,科技行业的劳动力比金融等行业的白人更多。随着通常由人工智能 (AI) 提供支持的新产品扩展到医疗保健和执法等敏感和受监管领域,确保技术适用于所有肤色以及不同年龄和性别的重要性越来越大。

公司知道,对于在研究和测试数据中代表性不足的群体,他们的产品可能会出现问题。对 FST 的担忧在于,它对深色皮肤的有限规模可能会导致技术的出现,例如,适用于金棕色皮肤但不适用于浓咖啡红色调。

许多类型的产品提供比 FST 丰富得多的调色板。Crayola 去年推出了 24 款肤色蜡笔,今年美泰的芭比时尚达人娃娃涵盖了 9 种色调。

对于谷歌来说,这个问题远非学术性的。当该公司在 2 月份宣布某些 Android 手机上的摄像头可以通过指尖测量脉搏率时,它表示无论用户的皮肤是浅色还是深色,读数平均都会误差 1.8%。

该公司后来提供了类似的保证,即皮肤类型不会显着影响 Meet 视频会议中过滤背景的功能的结果,也不会影响即将推出的用于识别皮肤状况的网络工具(非正式地称为Derm Assist)。这些结论来自于六音 FST 的测试。

初始点

已故哈佛大学皮肤科医生 Thomas Fitzpatrick 博士发明了该量表,用于个性化紫外线辐射治疗银屑病,这是一种皮肤发痒的疾病。他通过询问他们在阳光下经过一段时间后晒伤或晒黑的程度,将“白人”的皮肤分组为罗马数字 I 到 IV。

十年后出现了代表“棕色”皮肤的 V 型和代表“黑色”的 VI。该量表仍然是美国测试防晒产品法规的一部分,它仍然是评估患者癌症风险等的流行皮肤病学标准。

一些皮肤科医生表示,该量表是一种糟糕且过度使用的护理措施,并且经常与种族和民族混为一谈。

“很多人会认为我是 V 型皮肤,这种皮肤很少甚至永远不会灼伤,但我会灼伤,”宾夕法尼亚大学皮肤科医生 Susan Taylor 博士说,他于 2004 年创立了 Skin of Color Society 以促进对边缘化社区的研究。“看我的肤色就说我是 V 型对我不利。”

直到最近,科技公司才对此漠不关心。Unicode 是一个监督表情符号的行业协会,在 2014 年将 FST 称为采用黄色以外的五种肤色的基础,称该比例“没有负面关联”。

2018 年一项名为“性别阴影”的研究发现,面部分析系统更容易误判肤色较深的人,并使用 FST 来评估人工智能。该研究将 FST 描述为“起点”,但后来进行类似研究的科学家告诉路透社,他们使用该量表来保持一致。

“作为针对相对不成熟市场的第一个措施,它的目的是帮助我们识别危险信号,”专注于审计 AI 的 Mozilla 研究员 Inioluwa Deborah Raji 说。

在 4 月份的一项测试人工智能检测深度伪造的研究中,Facebook Inc 的研究人员写道,FST“显然不包括棕色和黑色肤色的多样性。”尽管如此,他们还是发布了 3,000 个人的视频,用于评估人工智能系统,并根据八位人类评估者的评估附加了 FST 标签。

评估者的判断是核心。面部识别软件初创公司 AnyVision 去年向评分者提供了名人示例:前棒球巨星德里克·杰特 (Derek Jeter) 是 IV 型,泰拉班克斯 (Tyra Banks) 是 V,说唱歌手 50 Cent (50 Cent) 是 VI。

AnyVision 告诉路透社,它同意谷歌重新考虑使用 FST 的决定,Facebook 表示愿意采取更好的措施。微软和智能手表制造商 Apple 和 Garmin 在开发与健康相关的传感器时参考了 FST。

但是,受 Black Lives Matter 社会平等运动的启发,加州大学圣地亚哥分校的临床医生去年在《睡眠》杂志上写道,使用 FST 可能会助长对深色皮肤上智能手表的心率读数的“错误保证”。

微软承认 FST 的缺陷。苹果公司表示,它使用各种措施对不同肤色的人类进行测试,其中 FST 只是有时。Garmin 表示,由于进行了广泛的测试,它认为读数是可靠的。

创立化妆公司 Mob Beauty 并帮助 Crayola 开发新蜡笔的 Victor Casale 说,他为粉底开发了 40 种色调,每种色调与下一种色调相差约 3%,足以让大多数成年人区分。

他说,电子产品的色彩准确度表明技术标准应该有 12 到 18 种色调,“你不能只有 6 种色调。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。