根据人工智能领域的妇女的人数严重不足,而且可见的少数民族甚至更是如此,从学校到工业的“管道”将无法解决问题,这将无法解决问题。AI现在的研究所。
报告“区分系统:AI中的性别,种族和权力”(PDF)莎拉·迈尔斯·韦斯特(Sarah Myers West),梅雷迪思·惠特克(Meredith Whittaker)和凯特·克劳福德(Kate Crawford)表明,超过80%的人工智能教授是男人,在领导AI会议上出席的作者中,有18%的作者是女性。他们还发现,女性还构成了少数人的AI研究人员在Facebook(15%)和Google(10%)和Google(10%)。在Facebook中(10%)。仅在Google上占2.5%,并且仅占2.5%的工作,并且仅占4.5%的工作。研究人员说,没有针对跨工人的公共统计数据。
除了AI现任研究所和纽约大学(研究所所在的地方)外,惠特克还与Google Open Research和Microsoft Research与Crawford相关联。
研究人员说,应用AI系统“将外观用作角色或内部状态的代理人是令人怀疑的”,并建议这些系统构成了偏见,而不是提供见解,而不是提供见解。
他们提出了八项建议,以提高工作场所多样性,包括发布不同人口统计的薪酬水平,设定薪水和利益股权目标,发布有关骚扰和歧视的透明度报告以及改变雇用做法。
该报告发现,尽管数十年的“管道研究”,但在行业多样性方面没有实质性进展。
报告作者写道:“对管道的关注尚未解决工作场所文化,权力不对称,骚扰,排他性招聘实践,不公平的补偿和令牌化的问题,这些问题使人们高于人们离开或避免在AI部门离开或避免在AI部门工作。”
提出了四个建议,以解决AI系统中的偏见和歧视,从需要透明度开始,并包括严格的测试,“对AI在上下文中如何使用的更广泛的社会分析”以及考虑是否应该构建某些系统的彻底风险评估。
这份长达33页的报告广泛回顾了主导人工智能开发的技术巨头的工作场所条件,并研究了他们引起的工人领导的计划和反多样性的推回。
最近在美国房屋能源和商业中讨论了技术行业缺乏多样性及其可能与偏见的关系小组委员会听证会。在《福布斯社论》中,AI职业发展公司Gloat联合创始人Ben Reuveni最近认为,公司应考虑创建首席偏见官。