IBM启动了软件来分析算法如何以及为什么做出决策以及检测偏见并推荐更改的软件。 AI服务中的新信任和透明度是IBM云提供的一系列功能，而公平360套件中的算法，代码和教程的开源库中，旨在由学者，研究人员和数据科学家使用。
IBM的最新研究表明，有82％的企业正在考虑部署AI，但60％的企业担心责任，而63％的企业没有必要的内部人才来管理这项技术。
信任和透明度功能可作为实时自动化服务运行，该服务检测到潜在的不公平结果，并建议将数据添加到模型中以减轻任何偏见。它还提供了模型准确性，性能，公平性和血统的记录，IBM说这可能有助于GDPR合规性。
IBM的Watson AI总经理贝丝·史密斯（Beth Smith）说：“ IBM领导了该行业建立信任和透明度原则。” “是时候将原则转化为实践了。我们正在为使用AI并面对任何有缺陷的决策的最大风险的企业提供新的透明度和控制权。”
通过将AI Fairness 360作为伴侣开源项目释放到对抗性鲁棒性工具箱中，IBM希望鼓励组织以外的研究人员的贡献，并最终建立一个致力于改善算法的社区。博客文章。
IBM还宣布了计划今年早些时候启动大量数据集以改善面部识别并减少偏见，其他技术巨头在内谷歌和微软已经为开发人员发布了工具。
改善算法公平的独立努力包括算法正义联盟这是由麻省理工学院研究员乔伊·布拉姆维尼（Joy Boulamwini）发起的，他的报告面部识别算法来自微软，IBM和Megvii的来自今年早些时候引发了争议。
