福建师范大学学报（哲学社会科学版）
年第4期
破解算法黑箱：算法解释权的功能证成与适用路径
—以社会信用体系建设为场景
作者简介
姜野，男，吉林大学法学院博士研究生。
李拥*，男，吉林大学法学院教授，博士生导师。
摘要
以算法为基础的数据分析技术已经成为促进社会信用体系建设的强大动力。算法因其高效而在社会中得以广泛应用，却又因内部复杂以及商业机密的外衣而具有“黑箱”特性。因此算法在信用体系中的应用很可能产生数据失控、结果歧视、难以修复信用与分配责任等风险，诸多风险需要得到来自法律的回应。算法解释权是人工智能时代的新兴权利，具有规制算法权力、纠偏数据鸿沟、帮助相对人知悉决策过程以及评判算法优劣等功能，能够有效应对算法自动决策带来的风险。算法解释权的实现主要存在宏观与微观两种不同的路径，一种是对整个算法过程进行解释，另一种主要解释具体决策。破解算法黑箱并非将所有代码公开，也不意味着让决策相对人完全知悉算法的搭建与运算过程，更多的是通过可被理解的方式解释算法、提高算法的透明度，以使其运行更加公开公正，当数据错误或者权重失衡的情况出现时进行及时救济。
“算法”这个词最近在公开场合经历了一次转变，从一个几乎只在计算机科学家中使用的晦涩难懂的技术术语，变成了一个被各领域广泛讨论的术语。这个词越来越多地出现在主流媒体上。算法在其本质上就是解决问题的一种方式，它的运算机理是用数学语言建构数学模型来描述实际现象，是以部分现实世界为研究对象的一种抽象的简化数学结构。算法引起广泛
