美国国会民主党已经在这两家房屋中提出了一项法案,迫使大公司审核机器学习算法,例如面部生物识别技术,以造成偏见,边缘报告。
这算法责任法(PDF)由Cory Brooker(D-NJ)和Ron Wyden(D-OR)在参议院赞助,并由代表Yvette Clarke(D-NY)赞助。它赋予联邦贸易委员会一项任务,以制定评估被认为“高度敏感”的自动化系统,包括其培训数据,并要求公司根据标准进行自我评估。然后,如果发现算法构成歧视或隐私损失的风险,则预计公司将采取纠正措施。
该法案仅适用于数据经纪人及相关业务,以及符合符合5000万美元收益或拥有一百万客户或客户设备的数据的公司。
该公告指出,Facebook被指控违反了本月初住房和城市发展部违反《公平住房法》的行为,并提到了有关自动化招聘工具的报道,该工具在发现其偏见妇女后,该工具关闭了亚马逊。在过去的一年中,算法问责制一直是生物识别行业的热门话题安全面部承诺运动2018年底检查AI偏见时面部识别去年9月。
从那以后,该行业增加了关注公平和问责制在会议上,已经发起了双党派的努力来规范面部生物识别技术。
乔治敦法律的隐私和技术中心,该法律批评面部识别CBP的生物识别退出计划,已认可该法案,以及黑人生活和国家西班牙裔媒体联盟的数据。
克拉克在一份声明中说:“通过要求大型公司对其自动化系统的意外影响视而不见,《算法责任法》确保了21世纪的技术是赋权的工具,而不是边缘化的工具,同时也加强了所有消费者的安全性和隐私性。”
根据Verge的说法,纽约市通过了一项算法透明度法案,华盛顿州也考虑了今年的类似措施。