已经引入了AI肤色测量方法的创新发展,旨在完善人工智能如何解释各种种群的肤色,以帮助解决数字应用中以前的偏见。该研究以2024年10月Arxiv上的纸店,它引入了一种新的比色色肤色(CST),以准确测量肤色,并宣布LinkedIn帖子美国政府马里兰州测试设施(MDTF)的首席科学家约翰·霍华德(John Howard)。
对更具包容性AI驱动技术的需求不断增长,这促使了新的评估标准和方法的发展。从历史上看,AI系统一直在准确地代表肤色方面挣扎,通常会导致偏见,主要影响皮肤较暗的人。霍华德强调肤色评估的重要性是促进AI包容性的必要步骤。
Arxiv论文中详细介绍的最新研究扩展了Fitzpatrick皮肤类型量表,传统上用于根据对紫外线暴露的反应来对肤色进行分类,以包括更细微的变化。研究人员测量了Fitzpatrick和Monk肤色(MST)尺度的分类与校准比色计的读数之间的关系。
比色测量值用于生成CST,研究人员说,与人类的手动分类相比,研究人员说“更敏感,一致和比色化”。
通过引入这种更广泛的分类系统,研究人员旨在为肤色表现提供更精细的方法。根据这项研究,现有的肤色测量系统缺乏精度和包容性,可能导致AI系统误认或不充分地代表来自不同背景的个体。
该研究概述了如何使用新的肤色指标编译的数据集上的机器学习模型可以抵抗这些偏见。
霍华德的讨论和ARXIV出版物都强调了包容性AI对社会公平性的影响,尤其是在依靠准确肤色代表的领域。它也建立在Google的2022年发行了扩展的肤色量表,开发了一种用于减轻AI和计算机视觉偏见的工具。
研究人员还发现了一些用于对肤色进行分类的复杂因素,例如根据背景的人的不同判断。
研究人员总结说:“尽管肤色的人类注释可能永远不会是客观的,但使用CST量表可以改善该过程。”