我的位置: 上观号 > 上海市法学会 > 文章详情

陈晓敏|论行政算法规则的双重审查模式

转自:上海市法学会 2025-06-04 10:10:06

行政算法规则是自动化行政的依据,“依法行政”在一定程度上演变为“依算法行政”。自动化行政中的正义价值蕴含在“普遍正义—个案正义”范畴之中,前者体现在算法规则的制定中,后者体现在司法裁判中。行政算法规则与行政规范性文件在指令结构、内涵和效力上具有的同质性,使其不能逃脱依法行政原则的约束。对行政算法规则的合法性审查存在备案审查和司法审查双重模式,分别构成审查的第一阶段和第二阶段。将行政算法规则的合法性审查嵌入现有备案审查和司法审查结构中,依据其技术规范的特性实现对既有结构的突破。继而对双重审查模式展开体系化塑造,勾勒出一个抽象与具体相结合的审查体系。结合对司法审查模式中风险防范与控制、法院审查能力、审查启动动力等现实因素的考量,构建备案审查为主、司法审查为辅的双重体系更适应现阶段数字法治政府建设的需要。

自动化行政是人工智能广泛应用于行政领域的典型表现,《国务院关于加强数字政府建设的指导意见》中提出“构建协同高效的政府数字化履职能力体系”,数字机关建设应当“提升辅助决策能力”和“以信息化平台固化行政权力事项运行流程”。数字政府与法治政府的内在耦合关系促生了数字法治政府这一新内涵,其重心在于借助算法促进自动化行政。行政行为是行政权运行的核心环节,自动化行政中的法律规范转译为算法规则,使机器代替行政人员作出具体决定成为现实可能,但若无法保证法律规范的成功转译,那么机器决定在源头上便失去了合法的根基。因此,“依法行政”在某种程度上演化为“依算法行政”,算法规则是自动化行政的根本依据,其合法性成为活动正当与否的关键。规模化运用数字技术在提升行政效率的同时,也引发了人们对机器执法合法性与正当性的追问。本文以行政算法规则为研究对象,探讨行政算法规则的合法性审查模式。
目前学界对自动化行政合法性审查给予了高度的关注,有学者提出法律规制框架的设计要格外考虑“提高算法可解释性、加强程序制度运行和技术完善”三个方面的内容。有学者指出“传统的许多法律控制手段在面对新技术时已然失效或部分失效”,可以通过提高算法透明度、事前输入规则底线、适当化调整正当程序对自动化决策的作用来强化自动化行政的法律控制之术。也有学者表示“算法规则是特殊行政规范”,算法实质审查制度应以行政复议制度为依托。归根结底,算法合法性审查问题不是解决获取“更好的技术”或是“更全面的数据”的难题,而是关于行政合法性的保证,面临如何构建适当的方法来监管、集成和协调机器学习算法的挑战。现有研究缺乏对自动化行政中行政算法规则审查模式的讨论。实际上,行政算法规则作为规范与技术的结合体,是自动化行政的逻辑驱动,研究自动化行政的合法性本质上是研究行政算法规则的合法性。
行政算法规则的审查监督应兼顾普遍正义和个案正义两个层面。行政算法规则的规范性赋予其如何实现正义这一内在命题,正义是一种可以凭借人的理性认识的客观实在和绝对价值,作为合法性的正义是其中一种特殊的形态。意图通过监督算法规则实现自动化行政在行使公权力过程中的正义,应当充分认识不同审查模式对规则合法性发挥的控制功能。备案审查可以纠正规则结构、形式和目标价值上的偏颇,指向“普遍正义”的目标;司法审查能够解决实际纠纷、救济个人受损权利,指向“个案正义”的目标。两者共同构成行政算法规则的监督机制,共同应对自动化行政合法性控制的问题。因此,需阐释行政算法规则的属性和特征,在定性的基础上进一步阐述审查模式的问题。两种审查模式并无优劣之分,然而,在数字技术全方位渗透政府工作而对其合法性审查不足的现实前,突出哪一阶段的审查成为扩大审查效益的关键。这有利于推进现阶段自动化行政法治保障的构建,强化数字技术在法治政府建设中的积极影响。
一、行政算法规则的属性与特征
“依法行政”与“依算法行政”并非对立关系。从法的外部视角看,算法规则的技术功能使其成为法律规范的作用媒介,容易得出两者本质不同的结论;从法的内部视角观察,算法规则的制定与应用分别对应抽象的行政规范制定与具体的行政规范实施,算法规则不过是法律规范的表现形式,两者本质相同。为加强对算法行政权的规制,应当坚持从内部视角观察自动化行政中算法规则的属性问题,从而消弭“依算法行政”和“依法行政”之间的本质差异,使两者共归于数字法治政府建设应秉持的原则与精神。

(一)
算法规则的规范属性

行政算法规则是指为完成某项行政任务,在设计自动化执法软件时所嵌入的数字化流程或者规则,借助这一计算机软件技术规则可以运算出相应的结果。算法规则特殊的形式和载体使其定性过程变得复杂,作为算法系统运作的指令总合和行动逻辑,规则具备技术规范的特质。同时,自动化行政以算法技术变革传统行政法治范式,既是效能上的技术赋能法治,也是效力上的法治赋能技术。为明晰算法规则的本质属性,有必要借助“规范论”理论工具并将其置于行政法规范体系之中予以评判。“规范论”将算法规则直接视作法律规范,以规则内容本身为观察对象,强调特定条件下产生特定结果时权利义务关系上的改变,坚持“代码即法律”。通过比较行政算法规则与法律规范在指令结构上的对应关系,行政算法规则与行政规范性文件在内涵和效力上的一致性,可以确定规则“法”的属性并将其纳入行政规范性文件的范畴,完成行政算法规则在法律体系中的定位。
1.指令结构

法律规范具有普遍性、规范性和强制性的特点,呈现出规整的形式结构和严密的逻辑结构。逻辑结构存在“假言规范命题”“直言规范命题”和“假言规范命题+直言规范命题”三种,大部分法律规范都以“假言规范命题”的形式呈现,即“如果满足条件P,那么就会发生结果Q”,前件条件P是“行为模式”,后件Q是“后果模式”。法律规范是有现实印记的秩序模式,是在语言层面通过法律命题表述出的法律共同体之局部秩序的约束性方案。规范内容以文本为载体,在“行为模式+后果模式”的逻辑结构下,法律文本必然包含“法律行为”和“法律后果”两个要素,呈现出“法律行为+法律后果”的形式结构。从结构层面上看,行政算法规则构成整个算法系统的行动逻辑,以严格的“条件—命令”范式驱动算法系统运转,算法系统在接受具体指令后根据规则运算出相应的答案。答案能否产生预期的指令效果并满足期待目标,取决于系统实施运算活动是否受预先制定的规则的约束。行政算法规则与法律规范在指令结构上的对应关系,确定了前者“法”的结构属性。
2.规则内涵

行政算法规则的“法”属性仍需得到实质层面的论证,其自身的内涵、效力与行政规范性文件具有一致性。自动化行政中算法规则内涵与行政规范性文件的一致性可以从规则的制定主体、依据和目的三个方面把握。制定主体上,行政算法规则与行政规范性文件的制定主体同为行政机关。行政算法规则的特殊之处在于其由行政机关委托专业机构设计并生产,行政机关负责制定算法规则的内容,这时仍以法律语言表述规范中的权利义务关系。专业机构负责设计生产具体的算法系统,将法律规范的内容编译成计算机语言,从而实现法律规范向算法规则的转变。行政机关和专业机构的任务分别以“规范制定”和“技术应用”为核心,法律规范内容从根本上决定了算法规则的效果,所以行政机关是算法规则的制定主体。制定依据上,行政算法规则与行政规范性文件同是现行法律框架内的产物,不论是制定的要求还是制定的内容,都应当有上位法的规定或授权,不得偏离或背离宪法、法律法规、规章及上级规范性文件的内容与精神。制定目的上,行政算法规则与行政规范性文件同是为了完成特定的行政目的和目标而制定,行政规范性文件分为创制性文件、解释性文件、指导性文件和裁量基准四类,既是行政机关的执法依据,也是依法行政的手段。行政算法规则可以起到执行法律的作用,也可以发挥其解释法律或裁量基准的功能。
3.规则效力

自动化行政中算法规则的效力与行政规范性文件具有一致性,行政算法规则的特殊性难以遮掩其产生的实质意义上的法律效力。实践中,产生普遍约束力的规定可以被视为实质意义上的法,由此普遍约束力与法律效力实现部分重合。法律效力可分为规范性法律文件的法律效力和非规范性法律文件的法律效力,前者具有普遍约束力,后者仅具有个别约束力。行政规范性文件深入行政的全部领域,涉及公民、法人和其他组织的权利义务且发挥了裁量基准功能,具有普遍约束力。自动化行政中,行政算法规则系针对不特定对象制定的可反复适用的指令规范,只有在算法规则运行得出决定结果后才对特定相对人产生具体的法律效果。行政算法规则的约束力取决于自带的规范属性,而规范的面向又由规则的应用场景决定,当算法被嵌入行政执法场景时,规则约束力的内涵便由行政所欲目的和目标赋予。例如,交通执法的目的是规范道路秩序,目标是以罚金的形式对违法行为人课以法律责任,应用在交通自动处罚场景中的算法规则逻辑结构可用“违法行为P→罚款Q”表示,只要行为人实施了“违法行为P”这个集合里的任意子集行为,就需要承担“罚款Q”这个集合里对应的某一子集金额。此时,交通执法的目的和目标转化为算法规则想要实现的目的和目标。因此,行政算法规则能反复适用于不特定的对象,在满足特定的条件时对特定对象产生预先规定的效力,行政算法规则具备实质意义上的法律规范效力。故将行政算法规则纳入行政规范性文件范畴兼具形式与实质正当性。
综上所述,“规范论”将自动化行政决定嵌入“依法行政”理论框架中,丰富和延续传统行政法理论的内涵与精神。实际上,算法规则属于载体形式特殊的实质性行政规范性文件,虽然没有获得法律文本上的承认,但是在指令结构上与法律规范对应,在内涵和效力上与行政规范性文件保持一致,应当被纳入“行政规范”的概念范畴之中。

(二)
算法规则的基本特征

行政算法规则以规范性文件的地位进入法的规范体系之中,结束了游离在传统行政活动之外而逃避既有合法性约束机制作用的状态。规则自身载体与形式的独特性决定了其存在法律规范共性的同时也具备明显的个性,从合法性审查的角度出发,这些独特之处成为传统约束机制难以招架的部分,须在个性基础上针对行政算法规则审查实施变通之术。行政算法规则的特征主要体现在以下几个方面。
1.可计算性

行政算法规则的可计算性是指算法能够被计算机系统理解和执行的能力。它是使用计算机语言制定的由人工智能执行计算和数据处理的一系列明确、有穷的指令总和。从技术层面上看,行政算法规则是支持算法系统运作的根本逻辑和具体法则,是用二进制指令编译出的代码谱系。它相当于整个自动化行政系统的“大脑”,“大脑”发出准确的指令后指挥系统的“四肢”展开具体工作,失去这个“思维平台”将导致系统全面瘫痪。
2.属人性

行政算法规则的属人性体现在它系人为设定并编码的规则。一切法律规范和技术规则均是由人制定的产物,行政算法规则独特的属人性在于被制定出来后它便具备自身能动性的特征。一方面,规则的属人性决定了它带有人之主观价值判断和社会历史文化印记,反映了制定主体的知识、经验和偏见。这与行政算法规则带来规模效应的运行模式相结合,将放大其中可能存在的错误,并导致连锁、规模化的不正义的社会影响,包括对特定群体的不公平待遇或歧视。另一方面,自动化行政在接受规则指令后便按照规则目的进行运算,辅助或完全自主地完成特定行政活动,这个层面上的能动性得到充分展现,无需借助解释手段即可完成法律适用环节,并直接或间接产生对外效力。虽然行政算法规则具备自主性,但这种自主和能动终究依附于人,实践中为消解公众对机器执法的不信任和应对技术障碍,存在自动化行政“人为介入”或“调停”机制。另外,行政算法规则并非完全由传统立法者制定的法律规范,它需要经过专门技术人员对法律文本的转译生成。
3.复制性

行政算法规则的复制性指其由法律文本转译而来,是对法律文本的复制或复刻。复制性特征既是关于行政算法规则具有规范属性的重要论据之一,表明了它是法律规范在数字时代中的创新表现形式,也揭露了行政算法规则合法性失控的潜在风险。专门技术人员在转译法律文本时相当于在阐明新规则,转译失当将引起严重的法律适用问题。这一属性是传统法律规范所不具备的,但是,与下位法依据上位法选择自身内容的过程具有相似性,下位法的制定必须存在更高位阶的法律依据,确保自身合法性。下位法制定时并非完全复制上位法内容,可以细化执行条件,或在基本原则、精神的指引下创制满足地方需要的规范内容。对比下,行政算法规则制定时应当保持与法律规范文本的完全一致性,这就要求规则尽可能压缩自由裁量空间,最佳手段便是缩小行为对应后果的分级设置,详尽行为细节和制裁类型以填补机器执法所不具有的“人情味”与合理性。
数字技术的使用突破了传统人与自然的关系,算法规则突破了技术规范体系的边界。在大数据和人工智能全方位渗透变革社会生活和社会结构的背景下,技术的工具色彩不再如以往浓烈,工具本身被赋予了一定的主体性与主动性。例如,利用大数据抓取信息,机器按照事先输入的规则筛选海量数据,逐渐摆脱以往人在其中发挥的重要作用,仅靠规则便完成整个流程。“人”的部分专有属性转移至“机器”,人工智能具有“深度学习”的本质特征,可以在数据交换学习中对自身算法系统进行改良,虽然它以模仿人类思维为根基,但在搜集、处理、分析数据的能力上远超人的可能性,“强人工智能”和“超人工智能”阶段,人与机器的能力差距将出现爆炸式的反向增长。技术规范和社会规范的融合成为人工智能高度成熟社会中避免伦理道德问题的关键,对此需要突破传统技术规范的界限,将其视为由技术本身所构成的调整人与人之间权利与义务关系的规范。

(三)
算法规则中正义内涵的双阶性

普遍正义与个案正义构成一对互相联系、互相支持又存在冲突的范畴。理想状态下,法律的普遍性应当与具体个案保持内在的协调一致,法律规范反映的是抽象普遍的正义,它要求这种抽象正义被公正地适用到个案之中,转化为具体的个案正义。现实情况里,普遍正义与个案正义并非始终保持一致步调,前者所涵盖的广泛内涵也无法一一注入具体场景之中,这既有理解适用上的技术原因,也有社会历史环境变化下正义内涵变迁的客观原因。这导致实践中普遍正义与个案正义之间常常出现冲突,即个案之中适用普遍性法律规范会出现不合理的现象。
行政算法规则的正义内涵同样具有普遍正义和个案正义两个维度,均服务于发现、描述、落实、修复正义的目标。实现这四个面向的任务需要协调达成“普遍正义—个案正义”范畴内抽象层面与具体层面的和谐,只有存在公平正义、良善权威的规则,才能够通过司法适用调整受损的权利状态,并修复社会失序地带,最终实现法律之内的正义。正义应当落脚于个案之中,这是司法正义制度的终极指向。当个案正义与普遍正义发生冲突时,在满足条件时例外地以个案正义为先。值得注意的是,两者冲突之下,普遍正义具有优先地位。出于法秩序统一和法律权威性的需要,行政算法规则只有在适用中充分发挥平等精神才能彰显公平之真义,个案正义优先只能是例外。因为在实现了法律制度理性化的社会中,法律规范系统能够覆盖绝大部分分散在个案结果中的实质合理性。因此,行政算法规则正义内涵的两个维度呈现出双阶特征。第一阶指抽象层面的普遍正义,具有优先性。第二阶指具体层面的个案正义,只有在例外情况下个案正义才能突破普遍规则的适用。
实现自动化行政中的正义要求行政算法规则符合“普遍正义—个案正义”范畴中协调与冲突的统一,这势必要求存在分阶段的审查机制,满足行政算法规则在普遍性生成和个案适用阶段的合法性控制需求。为实现普遍正义,应当在行政算法规则制定完毕后通过备案的形式进行审查。自动化行政中存在“辅助性算法规则”和“完全性算法规则”。“辅助性算法规则”属于解释性行政规范性文件和指导性行政规范性文件,目的是解释法律法规和规章的内容以方便执行或事先发出必要的号召、建议、倡导。“完全性算法规则”中既有细化执行上位法内容的属于解释性行政规范性文件的规则,也有属于创设性行政规范性文件的规则,即在没有法律法规和规章规定的情况下,行政机关能够自行制定算法并用于全自动化行政决定。“完全性算法规则”已在无裁量的自动化行政中广泛应用,常见于行政审批、行政调查等活动中。通过对上述算法规则的备案审查,可以提早介入对自动化行政规模风险的预判和纠正,避免规则失范带来的危害。
备案审查机制在抽象层面上对普遍正义的实现和维护,并不能使其完全落实到具体现实之中成为看得见的正义。只有解决实际运行过程中因规则设计偏颇而在个案中造成明显有违法理和情理的问题时,才能展现饱满充盈的正义内涵。实践中,因处罚裁量幅度设置不合理的案例已经出现。在浩某能源公司与嘉某市环保局行政处罚纠纷案中,嘉某市环境保护局根据甘肃省环保行政处罚裁量辅助决策系统对浩某能源公司的违法行为作出额度为91994元的处罚决定,浩某能源公司认为环保局依据裁量系统生成的处罚结果与法律相冲突,法院支持浩某能源公司的异议,指出环保局将能源公司存在拒不改正的事实认定为从重处罚的情节的主张,是对自由裁量权的扩大理解,显然违背了《行政处罚法》的立法本意。在何某诉珠某市公安局交通警察支队香洲大队一案中,交警支队根据何某违法行为情节在系统中对应的处罚额度进行了相应的处罚,且以自身无修改电脑平台处罚设定的权限为由,拒绝对裁量失当的行为作出变更。法院认为行政机关因电脑应用平台已设定罚款幅度而拒绝修改明显不当的处罚决定,属于怠于行政裁量。
对此,在审查自动化行政中行政算法规则的合法性问题时,须从正义的双阶性出发,分两个审查阶段完成行政算法规则的规制任务,即第一阶段的备案审查和第二阶段的司法审查。
二、双重审查模式的基本结构
自动化行政的合法性审查成为数字技术全方位渗透行政决定背景下避免行政权失控的关键。传统的行政决定合法性审查是对行政主体、行政权限、行政内容、行政程序的检视和控制。数字技术专业性和复杂性对认知造成的冲击,既影响了行政主体对决定过程合法性的控制,也增加了行政相对人或利害相关人对决定的理解难度,甚至挫伤了他们对决定结果的认可和信服力。审查自动化行政合法性本质上是审查行政算法规则的合法性,算法规则应当始终“在法所容许的范围内,受到法的适当支配,符合法治国家依法行政原则的要求”。

(一)
现有备案审查机制的嵌入与突破

现有行政规范性文件备案审查分为向权力机关备案和向行政机关备案两套机制,形成了“人大支线”和“政府支线”两条备案审查路径。出于对行政权行使和行政专门技术的尊重,更多的是依靠政府自身的上下级监督以保证制度功能的实现。目前已经出现了针对企业平台领域算法规则的备案监督,然而这种行政备案模式无法沿用至自动化行政。借助行政规范性文件备案审查制度探索算法规则的备案审查路径,完善行政权监督机制,是依法行政原则对数字时代带来的机遇、挑战的有效回应。现有备案审查为行政算法规则提供了一个成熟的审查框架,但仍需要基于行政算法规则的特殊性和审查框架的既有弊端,围绕以下两个问题突破现有机制的桎梏:一是缺少实体法层面对行政算法规则规范属性的确认,行政算法规则无法直接进入现有备案审查体系;二是审查结果冲突处理机制仍有待加强。
1.明确备案范围和内容

备案范围关系到权力监督介入的正当性问题,即是否全部行政算法规则都需要备案或都值得备案。根据自动化程度的深浅,存在全自动行政决定和半自动行政决定,分别使用“完全性算法规则”和“辅助性算法规则”。前者主要适用于行政审批、行政处罚等适合直接依靠自动化系统就可以作出影响公民权利义务关系的决定的领域;后者广泛应用于行政给付、预防式执法、数字化监管、公共监控等不适合直接对外作出决定,而是根据系统对数据的统计分析辅助行政机关作出判断、预测、防范等调控行为的领域。将全部行政算法规则纳入备案范围似乎是最理想的方案,但纳入之后的审查工作需要配套对应的组织机构、资质人员和物力保障,备而不审或审查不能,将让制度运行流于形式,丧失应有的监督功能。按照目前算法规则监督机制的整体推进情况来看,对行政算法规则的备案监督还处于起步阶段,缺乏完整的蓝图构想和实际的承接机制,应当有重点、分类型地确定范围试行,需要考量的因素有:(1)是否直接影响公民的权利义务。(2)用于负担行政还是授益行政。(3)行政机关是在决定作出前介入还是作出后介入。(4)行政规范性文件备案审查机制的承载能力。(5)算法应用的风险等级。(6)根据实际情况应当综合考虑的因素。起步阶段,尽可能将“完全性算法规则”纳入备案范围,用于辅助的算法规则审查问题可以留到具体个案中解决。备案内容是解决权力监督介入正当性之后待思考的部分,备案内容实际上直接关联着审查的标准,抑或表述为审查标准决定了备案内容。备案内容应当大体包含:(1)行政算法规则的基本情况,即算法类型、算法名称、算法数据、算法模型、算法策略和算法风险与防范机制等。(2)行政算法规则的文本转译。(3)制定情况说明和报告。(4)制定、修改或者废止行政算法规则的主要依据和相关参考资料。(5)根据实际情况应当报送的其他材料。
2.审查标准的形式化和实质化

审查标准是决定了审查广度和强度的核心问题。合宪性、政治性、合法性、比例原则四大标准共筑了行政规范性文件审查的法治护栏,覆盖了形式和实质双重监督面向。行政算法规则的形式审查面向规则制定时的上位法依据和法定流程。我国审查体系在一定程度上存在重形式合法的倾向,原因在于有限的审查能力难以满足合理性、适当性等实质法治的标准,这在行政算法规则的审查上愈加明显。行政算法规则的实质审查不仅要考虑规则形式上是否合法,也要考虑实质上是否正当。一方面,正当性要求行政算法规则的适用符合政治性标准,因为数字化改革本身就属于重大决策部署和国家重大改革方向,所以“数字+行政”也很难偏离这条轨道,对此,该点审查标准可以相对放宽。另一方面,规则制定与其目的应当符合比例原则。比例原则作为行政法的“帝王条款”,一般是在对行政行为的诉讼审查中发挥作用,其本质是对公共利益和私人利益的均衡。在行政算法规则审查中,借用比例原则的三性为分析框架,判断算法规则的适当性、必要性和均衡性,同样可为制定的正当性提供完整论证。首先,制定行政算法规则是为了完成特定的行政任务,实现特定的管制或服务目标,与以往不同的是,任何任务和目标当中都蕴含着对效率的追求。其次,借助自动化形式执行行政任务虽存在必要性,但在传统“人执法”和现在“机器执法”均可实现的情况下,只有后者在执法效率和结果上显性的优势大于对相对人造成的个人信息采用风险,才能使用自动化行政。最后,需要进一步判断自动化转变过程中涉及的各种利害风险。规则审查过程中并未发生实际的利益损害,规则逻辑中却可能蕴藏着因其失当而出现的规模化利益受侵的风险,须衡量各种利害风险后选择侵害风险最小的。一方面,努力规避因规则自身存在的可能侵害,例如文本编写的不恰当、文本转译的技术错误、裁量空间的过度压缩;另一方面,综合考虑调控技术风险的能力,若风险出现是否有相应的处理能力。最终,通过对比例原则三性的考察完成对行政算法规则的实质化审查。
3.建立清晰的结果处理机制

处理机制包括了政府和人大两条支线中对行政算法规则审查结果的处理,以及两者发生冲突时的处理,两种都应当具备一定的刚性制度效果,在行政算法规则不合法时将其及时撤销或改变。备案审查的抽象性定位源自国家权力配置的功能适当原理,体现了立法和行政之间以及立法和行政内部的配置关系。在“政府支线”中,上级或同级政府基于领导和监督的关系,可以要求下级政府或本级政府部门自行纠正所制定的算法规则,或责令其改正,拒不执行的情况下可以直接改变或撤销。在“人大支线”中,备案机关基于监督关系,可以要求制定机关自行纠正算法规则,制定机关未按照要求进行修改或废止的,由人民代表大会常务委员会主任会议决定提请常务委员会会议审议。当两者存在冲突时,现行审查制度并未作出明确规定,从“人大主导”的地位、特质、权威和启动便捷性上看,将冲突结果的最终判断权交由人大,坚持其在审查效力衔接上的主导作用似乎是制度完善的主要方向。然而,行政算法规则兼具技术规范和法律规范属性,算法运行的技术壁垒间接隔绝了非技术人员的审查可能,更务实的做法是暂时以例外的形式将冲突结果交由行政机关作最终决定。

(二)
现有司法审查结构的嵌入与突破

纵使行政算法规则具有强烈的技术属性,仍能将其嵌入现有的司法审查模式。首先,法院在“事实查明+法律适用”审查框架内完成对自动化行政的合法性审查。此时审查的重点并不涉及自动化行政的内在机理,即不涉及行政机关对机器内部构造和运行逻辑的说明,而在于行政机关所搜集的证据是否真实有效,行政决定是否存在上位法依据,行政过程是否遵循法定程序等。由于自动化行政压缩了调查取证的空间和作出行政决定的流程,行政机关有必要对此作出说明,这才涉及对自动化行政内在机理的阐明。法院可以要求行政机关说明自动化行政的主要规则和具体步骤,从而保证行政机关取证和决定的合法性。其次,法院在附带性审查框架内完成对行政算法规则的合法性审查。这与行政机关的说明义务不同,法院的目的不是通过行政机关的说理解释还原案件事实,而是在查明事实之后仍对自动化行政的正当性保留质疑,需要突破个案审查的效力限制,在更普遍的范围内纠正算法规则的偏差,避免类似个案的发生。从域外视角观察,不少国家采用司法审查路径,例如法国允许相对人对全自动行政算法决定提起行政诉讼程序。与备案审查相似,现有的司法审查结构在面对行政算法规则的特殊性时需要有所突破,主要体现在增加第三方主体弥补法院审查能力的不足、明确审查内容和标准,以及增加行政机关的说明义务。
1.“法院+第三方机构”的审查主体

在数字技术崛起的背景下,传统法院对行政权的监督稍显力不从心,审查能力遭遇严重挑战。若相对人质疑自动化行政决定中存在算法歧视和黑箱,法院能否解决算法的“可解释性”问题从而打破黑箱?法院难以跨越技术壁垒,并不能像审查传统行政行为那样明确阐述行政机关的行为动机和行动过程。例如,在自动化市场行政监管中,法院无法对编程规范、预定义模型、训练参数、输入数据摘要、运行逻辑、运行后果等项目作出明确解释,针对最终运算得出的重点监管企业是否真的存在高监管风险,法院无法根据自身的审查求证结果。对行政算法规则的审查受限于法院的审查能力,值得思考的是,法院是否必须承担解释算法的责任?一则,法院应当对行政权行使保持谦抑,尊重行政机关在专业技术问题上的判断,主要审查行政机关作出专业判断时是否符合法定程序和明确的技术规程要求;二则,法院在专业能力有限或资源不足的情况下,可以寻求第三方专业机构的协助。因此,审查行政算法规则可以尝试“法院+第三方机构”的主体构成。
2.明确审查内容和标准

对行政算法规则的审查程度部分由法院有限的审查能力所决定,同时行政算法规则的特殊载体和技术难度也决定了法院审查存在必然的内在界限。由于法院无法审查算法内部的运行机理,因此对行政算法规则的审查程度仅需停留在基本逻辑层面,通过普适性语言的表述使算法规则跳脱出由技术语言垄织的计算机领域,能够被多数人所理解。当技术语言成功转换为大众语言后,法院需要根据自身的专业性和审判职能,对算法规则逻辑进行进一步的法律语言转换,从而辨明自动化行政过程中机器执法的动机、依据和程序,正确判断案件事实。另外,法院的审查内容与算法的公开程度也存在关联,实际上很多国家就算法披露进行了规定。目前,我国尚未在法律层面对算法公开作明确规定,法院在司法实践中遇到该问题时,可以将技术规则转换成文本规则,按照《政府信息公开条例》的相关规定进行审查。自动化行政中算法规则的特质决定了法院审查存在不同的侧面。若法院将算法规则视为内嵌于机器的组成部分,规则作为行政决定的一部分而须接受法院的合法性与合理性审查,适用合法性标准和合理性标准。实则我国对行政决定的合法性审查存在某种形式法治倾向,这种倾向直接导致自动化行政过程合法性失去控制,因为程序的“瞬间化”压缩让法院的权力触角无法抵达且无审查内容。以自动化行政审批为例,相对人上传有关资料后能够迅速得知审批结果,传统审批期限、送达等程序限制对此几乎不产生影响,此时法院无法就审批过程的合法性进行审查,审查内容在自动化技术的作用下消失。审查规则而非行为,能够化解上述“消失”困境。若相对人提起信息公开之诉,法院需对行政机关拒绝公开、不作为或其他损害相对人合法权益的行为进行审查,适用合法性标准与合理性标准。若相对人提起附带性审查,规则作为行政规范性文件而须接受法院的合法性审查,适用合法性标准,法院可以从制定机关是否超出权限范围、违反法定程度,算法规则是否与上位法相抵触、增设义务或减损权益等方面进行审查。
3.增强行政机关的说明义务

自动化行政决定的理由既是法治的基本要求,也是司法审查的基础。若行政机关不对此作出阐述、说理和论证,则法院无法对行政决定的合法性进行审查。有学者归纳了自动化行政中行政机关个案说明义务的三个方面:输入算法的元素、算法选择适用法律规范的理由、运算中涉及的裁量因素。该说明义务由于均衡性原则下程序正义与行政效率间的博弈而形成了可伸缩的弹性边界。申言之,行政机关仍以行政决定为核心对自身依法行政展开论证,并未突破传统说明理由制度的框架。其实,这是对“动态算法”的说明,系解释整个自动化行政系统的运转流程,包括数据的输入、选择、运算和输出。而行政算法规则属于“静态规则”,行政机关应当加强对作为文本的规则的逻辑解释。虽然《个人信息保护法》第24条强调了自动化行政中说明义务的必要性和重要性,然而未详细展开具体的说明内容,法律规范的缺失将进一步加剧司法实践困境。需要肯定的是,审查过程中不断增强行政机关的说明义务,目的在进一步解释政策制定本身或是法律规范适用的过程,而非传授数字技术知识。
三、双重审查模式的体系化塑造
双重审查模式将行政算法规则合法性审查嵌入现有审查框架之中,然而,鉴于行政算法规则的技术特性和审查难点,还需在突破现有审查框架的基础上进一步展开体系化塑造。双重审查模式的目标和任务彼此关联,然而论证上达成的可能性不能完全对应到实践中。通过对双重审查模式体系结构的确立,分析影响体系化塑造的现实因素,可确定当前自动化行政审查模式的侧重点,更好地回应自动化行政合法性审查的需求。

(一)
确立双重审查模式的体系结构

行政算法规则的双重模式关照了“普遍正义—个案正义”的双阶内涵,呈现出抽象与具体相结合的审查体系结构。勾勒出如此一个“抽象—具体”的审查体系并非在制度层面全新的刻意为之,而是为了在备案审查制度和司法审查制度已经成熟运行的现实情况下,根据二者的共同任务、目标及各自发挥的审查效力,发现二者间的意义关联。备案审查与司法审查通过审查行政算法规则的合法性维护法律体系一致性和保障公民合法权益的目标是一致的。在此基础上,备案审查与司法审查的审查效力却存有不同。备案审查的效力具有普遍约束性,而司法审查的效力仅具有个别约束性,前者的审查决定意味着被审查法律内容或效力面临变更或丧失的结局,审查决定影响今后该法律在所有案件中的适用。后者的审查决定表现为对具体案件争议的裁定,仅在个案范围内生效,法院无权对法律的效力问题作出判断。
双重审查模式的互补性是实现全面审查行政算法规则合法性目标的关键。备案审查是对适用前的行政算法规则的审查,规则自身带有的抽象性阻碍了对漏洞、冲突等问题的发现,而这些问题恰恰最容易暴露于规则的适用过程,通过司法裁判的方式被发现。西方审查制度的发展证实了抽象审查的局限性,尤其是2008年法国通过宪法修正案,规定“在法院审判过程中,如有法律规定侵犯了宪法保障的权利和自由,该法律可以经国家行政法院或最高法院在规定的期限内移送宪法委员会审查”。此后,法国宪法审查业务激增,这验证了司法裁判对法律规定合宪性审查的兜底性意义。然而,司法审查的个别性局限了审查的效力范围,今后在同类案件中,不能以“遵循先例”的形式质疑行政算法规则的有效性并拒绝适用。备案审查的普遍约束性弥补了司法审查个别约束性的局限,使行政算法规则的纠正结果影响至规则的适用全过程。
行政算法规则的审查途径并不只有备案审查和司法审查两种,也包括了行政复议审查、信息公开监督等,构建“备案审查—司法审查”双重模式,一是因为两者在实践中使用最多、应用最广;二是因为它们的制度功能分别对应“普遍正义”和“个案正义”这一对目标范畴,成为抽象审查和具体审查的典型代表。行政算法规则双重审查模式是对既有成熟制度的创新应用,既保持自身的动态开放性,又坚持结构化、系统化的思维方式,强调整体性与层次性。两个制度的任务与目标具有层次划分,备案审查负责实现普遍正义,司法审查负责实现个案正义,共同指向行政算法规则合法性审查的最终目标。

(二)
分析体系化塑造的现实因素

现行法律体系为行政算法规则合法性审查提供了必要的司法保障,可以通过“信息公开之诉”实现对相对人受损利益的救济,通过“附带性审查”否决个案中行政算法规则的适用。然而,司法审查在应对数字社会风险上存在一定的局限性,成为体系化塑造必须考量的现实因素。
第一,风险防范与控制功能不足。数字社会风险源于客观的数字技术及其拥有者的主观使用,具有高度抽象性,带来的后果具有全域性和超长期影响,对数字社会风险的防范与控制关系到社会稳定与社会公平。数字技术依赖算法规则,后者基于技术逻辑生成并归于“技术利维坦”的控制。要摆脱数字技术权力对社会生活的全面控制,便要求法律规制算法规则时要以社会生活为基础、以人的价值为根本,这必定是在群体而非个体层面上的规制。司法审查以个案中的权利救济为主要目的,旨在恢复平衡行政机关和相对人之间的权利义务关系,保护公民、法人或其他组织免受行政机关的侵害,无法形成普遍的法律约束力。
第二,法院审查能力有限。数字技术的发展不仅将生成的技术权力嵌入现有权力体系,其用专业性知识筑起的技术壁垒更是将监督力量隔绝在墙外,法官群体的知识背景不足以对算法内部的运行机理展开实质审查。实际上,法院在审查传统行政规范性文件上也饱受审查标准和审查强度的困扰。一方面,遵循形式合法审查标准既显示了司法权对行政权的尊重,又减轻了法院的审查负担。另一方面,实质审查理念和标准的重要性逐步凸显,在大立法时代,行政规范性文件数量的井喷容易造成其内容上的明显不当,司法权有必要介入调整行政权失范造成的法秩序混乱。对高技术属性的行政算法规则的司法审查也将面临甚至加剧实践中审查标准和审查强度不一的困境。若将该部分工作交由专业的技术团队,团队的组建、身份定位以及团队与法院间的交流亦存在困难。
第三,审查启动缺乏动力。行政算法规则的行政规范属性能够在理论上得以阐明,但在实践中尚未达成共识。由于算法规则是隐藏在自动化系统内的无形逻辑,自动化行政系统又是掩藏在行政机关传统行政活动里的机器设备,这使得相对人会忽略算法规则的存在和其属性问题,将争议聚焦于显化的证据事实上。目前涉及自动化行政的诉讼争议主要分布于事实认定和行政程序等方面。其中对证据效力的质疑最突出,争诉频发于交通执法领域。有学者对比了现场执法和非现场执法行政诉讼的案由,发现非现场执法诉讼中,相对人对执法活动的质疑在“时点”上呈现“线性”发展,针对前期准备行为、过程性行政行为和送达等后续行政行为的诉讼理由更多元,对此法院应当采用“过程性审查方式”审查自动化行政的合法性,强调行政机关的说明理由义务。也有学者表示,证据形态的改变增加了事实审查的难度,对此要以电子数据为核心展开事实合法审查。不难发现,实践中的相关争议并未过多指向算法规则的合法性,更多的是对自动化行政中事实认定和程序合法的质疑。造成该种现象的原因可能来自以下几个方面:一是相对人质疑能力有限,只关注到实在证据,并未深思算法规则这一无形依据;二是法院没有清晰认识到行政算法规则的地位和作用,传统行政决定以法律为依据,以行政机关为主体,以法定程序为流程,其中并无算法规则可以对应的环节。如此,审查机制的启动便丧失了动力。
司法审查作为事后审查,主要发挥司法救济功能,而数字时代在预防化解规模化法律风险的需求上尤为急迫。《欧盟人工智能法案》提出了“软法沙盒”规制进路,既强调对算法风险的提前防控和事先干预,又注重运用法律实验规避法律风险并提供良性指导。法国最高行政法院主要用“指导性文件”的方式加强算法规制,在法律术语、权责清单、救济途径、关联规范等方面提升指导性文件的算法规制水平。这反映出司法审查作为事后审查手段在预防和规避算法风险上的无力,人工智能给行政决定带来技术性革新的同时也加剧了违法行政的风险,虽然自动化行政能够通过不断裁剪裁量空间减少行政恣意的可能性,但也扩大了违法行政行为的辐射面向和危害程度。我国曾经发生过因算法规则设置不合理而导致相对人遭受不当行政处罚的案例。鉴于运用算法技术会形成规模化效应,在提供便利的同时可能产生弥散化的损害后果,自动化行政合法性的事前审查显得尤为重要。

(三)
明确备案审查模式的主导地位

司法审查模式和备案审查模式在监督宪法实施、保护公民权利和促进法治发展等方面共同发挥作用,两者在实施主体、运作机制和具体功能上存在的差异使得自动化行政中算法规则的审查模式选择存在一定偏向。从“理念—功能—可行性”上考量,当下以备案审查作为行政算法规则合法性审查的主要模式具有现实可行性。
在制度理念上,备案审查的事先性与现代行政所强调的风险调控理念相契合,在普遍范围内实现行政算法规则合法性审查目标。科技风险本质上是人造成的具有人为属性的风险,预防原则应当成为政府以法律的手段应对科技风险的主要原则。行政诉讼反映的是“司法权—行政权”之间的关系,旨在通过个案审判监督行政、解决纠纷,进而维护整体法秩序。司法审查作用于纠纷末端,通过对具体案件的审理实现救济公民权利、监督行政权的诉讼目标,这与现代行政所强调的风险调控理念有所背离。备案审查反映了“立法权—行政权”之间的关系,更重要的是,其基于“整体性理念”和“系统性思维”,在治理体系上能恰好填补司法审查末端保障在时间上的滞后,发挥风险调控理念与预防原则应对科技风险的功能。
在制度功能上,备案审查对民主的强调与自动化行政的正当程序控制相契合,通过提升行政算法规则的透明度增强合法性控制。除了两者在法治方面发挥的共同作用外,司法审查强调个案救济、监督制约行政权力,备案审查强调民主因素的贯彻,保障公民的知情权、参与权、表达权、监督权,使备案审查成为践行全过程人民民主的重要形式和制度载体。备案审查制度具备“政策贯彻”“客观法秩序维护”“主观权利救济”等功能,同时,对于推进国家治理体系和治理能力现代化具有重要意义。自动化行政作为国家治理的新手段,以备案审查的模式确保行政算法规则的合法有效,同时赋予其叠加的复合型制度功能,既能依靠获取算法信息,提升监管机构治理效能,又能推动算法透明,便利社会公众参与治理。
在可行性上,备案审查的主动性和系统性提升了行政算法规则合法性审查的全面性。诉讼以个案为启动程序,实践中又以事实证据认定为争议焦点,当事人很少会关注到行政算法规则的合法性问题,因此启动上存在困难。再者,法院虽然可以依职权审查可能不合法的规范性文件,但法院对其他行政规范性文件的主动审查热情尚且不高,在审查行政算法规则这类规范属性还留有争议的规范性文件上,主动性难免较低。《个人信息保护法》《政府信息公开条例》虽为行政算法规则的司法审查提供了一定的可行空间,但尚缺实践检验,制度启动的动力和积极性也稍显不足。而备案审查则能够系统性地对规范性文件进行审查,确保法律体系内部的一致性和协调性。在审查主动性上,人大和行政两条支线并行,行政内部的备案审查监督在科层制的上下等级关系中具备强作用力,人大的备案审查监督在民主集中制的制度设计中拥有主导和终极作用力。备案审查要求“把所有规范性文件纳入备案审查范围”,备案审查主体的积极性为行政算法规则的合法性审查提供了更多可能。
对行政算法规则的合法性审查应当采用在预防控制规模化风险上具有充分优势的模式。结合来看,备案审查制度将控制合法性风险的时间点前置于真实危害发生的时间,能够克服司法审查在事前风险规避和产生普遍约束力上的短板。在自动化行政大规模铺开之前,将更多的重心放在第一阶段的备案审查上或为可行之策,应肯定备案审查在行政算法规则合法性审查双重模式中的主导地位,通过信息公开之诉和附带性审查的司法路径进行补充。
结语
数字法治政府建设指明了一条“数字”与“法治”融合发展的理想道路,让技术不仅成为法治的手段,更融入法治的内涵与精神,使得技术权力归驯于法的支配,警惕“数字利维坦”可能带来的统治颠覆。对技术的遐想和担忧值得我们正视当下业已成为重要执法手段的自动化行政所带来的规范挑战,作为技术逻辑的算法规则在实质上支配了自动化系统的运行,出现“法”向“算法”变迁的表象。行政算法规则兼具技术属性和规范属性,当其成为行政机关作出影响相对人权利义务关系的决定依据时,应当受到监督和约束。司法审查和备案审查分别从司法监督行政和立法监督行政的路径出发,前者已经具备相应的制度支持,可以通过“信息公开之诉”和“附带性审查”完成对个人权利的救济和算法规则的合法性纠正;后者可以通过嵌入现有的备案审查结构,完成对算法规则的体系化检视,避免违法问题。针对数字技术全方位渗透政府工作而对其合法性审查不足的现实,通过备案审查制度化解算法规则合法性危机具有优越性,主要反映在制度的理念、功能、可行性等方面。数字法治政府建设是一项系统性、持续性工程,行政算法规则审查不过其中的一部分,本文仅从事后审查出发比较得出结论,仍有许多待解决的问题需要进一步研究,如行政算法规则的事前合法性控制手段、行政复议附带性审查的路径探索等。“依算法行政”终究无法替代“依法行政”,如何将算法规则恰当地安置在法律框架内,有效应对规则行使的正当性问题,成为法治服务和保障中国式现代化的必答之问。

往期精彩回顾
宋保振|论我国数字经济政策的法律化
付新华|人工智能统一立法宜缓行
程威|大模型嵌入公司治理的法理省思与规范调适
杨勇|算法合同重大误解的救济机制
候曼曼|诊疗式人工智能的医疗产品责任认定
邓栩健|生成式人工智能平台自治规则的体系化构建

上海市法学会官网
http://www.sls.org.cn