关键词:
算法决策
可解释性
人工智能
人机互动
算法官僚
基层公务员
摘要:
以算法技术为辅助工具浸入公共部门决策已变得无处不在,人工智能渗透公共治理过程的新一代治理模式成为未来公共部门数字转型的重要方向。然而,当前算法系统“黑箱”属性受到越来越多的质疑,带来算法治理的“信任赤字”与“问责缺失”等问题。研究从可解释的人工智能(Explainable Artificial Intelligence,XAI)逻辑出发,通过一项2(解释来源:规则vs数据)×2(解释内容:程序vs结果)的调查实验,在税务部门应用算法决策系统的场景中,探索不同类型XAI对传统官僚采用算法决策建议的作用机制。实证结果显示:可解释的算法系统可以促进基层公务员对算法决策的采纳偏好,其中数据驱动的程序解释型算法系统或数据驱动的结果解释型算法系统,相较无解释组,均会促进基层公务员对算法决策的采纳偏好;数据驱动的XAI比规则驱动的XAI更能促进传统官僚对算法决策的采纳偏好;数据驱动结果可解释性算法系统能够增强传统官僚对于算法系统的公平感知和技术信任,从而更偏好采纳算法决策。这些发现表明,不仅要发展算法官僚的技术能力,也要建构传统官僚能够理解的算法系统,探索人机良性互动模式,才能推动算法系统在公共部门的顺利落地。