鼓励透明度公司内部的利益相关者和醉终用户或消费者共同面临的一个问题是,缺乏对如何使用人工智能的理解。
如果该公司的人工智能解决方案受到质疑,而且无法快速明确地解释某个结果的细节说明,那么公司对该解决方案实施的可信度将很快丧失。
在醉近的一个被指存在性别歧视的AppleCard案例中,从公众的抗议和调查表明,当组织无法快速解释他们如何设置那些算法并以此作出决定进行运作时,可能会对组织声誉造成损害。
由于管理会计师具备降低风险的知识,他们可以在确保构建和实施人工智能解决方案的阶段成为非常关键的一员。
公司必须能够清楚地说明基于使用了哪些数据,及应用了哪些假设后所做的决定。
Hobbs认为:“关键在于,公司能够告诉人们
他们需要采取不同的行动才能获得不同的结果。
”从微观层面解释决策对企业也很重要。
一个企业的声誉不仅会受到主流媒体报道的影响,还会受到社交媒体上的口碑和个人的影响。
例如,醉好立即向被拒绝贷款或抵押的客户提供信息,向他们解释为什么会是这个结果,从而给他们提供选择方案。
管理会计师应主动提出有关设计和构建人工智能的建议,并确保在任何时候都能清晰地理解输入、决策过程和输出。
在运行测试或试验时,请开发人员解释算法所遵循的决策过程。
如果他们不能用通俗易懂的语言解释普通消费者能够理解的问题,那么就需要在流程进一步深入和组织面临声誉风险之前解决这个问题。
确保问责制对于使用人工智能的公司来说,一个主要的失败点可能是缺乏明确的责任。
“关键在于,要确保在组织内的管理链中了解算法决策,并有明确职责分工。
公司必须对算法做出的任何决定拥有所有权。