同样重要的是，治理框架如何额外提供识别和纠正偏见的功能？
底线业务领导者正在寻找分析模型将做出的决策，并在人工智能中实现自动化。为了从分析模型中获取业务洞察并实现自动化，公司往往没有建立稳健的模型。它们既不是情景测试，也不是偏见测试。这些错误对公司试图服务的客户不利，因为一旦数据和分析完成，业务领导者就会得到一个分数，使决策可操作化。基于分数的决策可以实现自动化，但也有助于大规模自动化偏见。业务领导者必须对基于抽象分数的决策可能产生的冷酷性保持敏感。
例如， 给全球每个角落都带来了一定程 巴哈马电话号码数据 度的经济绝望。数据发生了变化，暴露出许多企业不了解客户数据、绩效数据和经济状况的变化对其模型评分的影响，以及如何在自动决策中使用它们。冷酷无情的企业领导者是那些固执地继续应用模型评分的人，因为“模型告诉我”，而不是查看客户群体的数据和情况如何变化，并调整他们在业务战略中对模型的使用。
我们还必须确保这些决定得到妥善记录。例如，客户可能在新冠疫情爆发前从无线服务提供商那里购买了一部新手机。如果该客户停止付款，该决定如何记录为欺诈或信用风险违约？在新冠疫情期间，某些客户群体是否更容易因其职业而失业？我们是否发现，由于标签结果的草率，社会经济、种族或地理偏见正在推动信用违约或欺诈率的上升？
如果在处理案件时出现偏见、粗心或冷酷无情，那么在开发未来几代模型时，偏见会更加严重。