文章插图
张凌寒北京科技大学文法学院副教授 ， 法学博士、博士后 。
内容摘要
行政治理中存在着两种信息不对称：行政机关与治理对象的信息不对称、行政机关与行政相对人的信息不对称 。 算法自动化决策嵌入行政活动 ， 一方面极大地缓解了第一组信息不对称 ， 产生了行政权力增强效应 。 另一方面 ， 算法或压缩行政活动的各个环节 ， 或作为内部行政决策 ， 逃避行政正当程序制度的控制 。 从信息论角度 ， 行政正当程序中的告知、申辩陈述、理由说明等环节是信息发送与沟通工具 。 两种信息不对称的此消彼长使得公民权利受到算法自动化决策的侵蚀 ， “权力-权利”格局严重失衡 。 因此应以解决行政相对人信息不对称为宗旨 ， 坚持和发展适应算法治理时代的正当程序制度 ， 尤其是行政公开原则、公众参与原则与说明理由制度 。 坚持和发展行政公开原则 ， 应增强算法透明度、衡平行政公开与商业秘密制度、并规范信息公开方式；坚持和发展公众参与原则 ， 应事前开展算法影响评估、重视陈述与申辩环节；坚持和发展说明理由制度 ， 应赋予相对人获得算法解释的权利 ， 并明确说明理由的内容与标准 。
自20世纪50年代起 ， 算法自动化决策即开始被应用于政府的公共行政 。 在人工智能时代 ， 自动化决策借助深度学习、大数据等技术 ， 以辅助行政裁量、预测调配资源的方式 ， 嵌入了政府的行政治理中 ， 这从深层撼动了传统行政活动的运行规律和基本范式 。 更重要的是 ， 这种变化不仅体现在政府行政流程、效率的角度 ， 也体现在了以保障公民权利为核心的行政正当程序层面 。
围绕具体行政行为构建的行政程序从“人”的行为出发 ， 而非机器 。 算法自动化决策对传统行政正当程序带来了诸多挑战 。 例如 ， 早在2005年 ， 杜宝良案中行政相对人反复在同一地点违章105次却未收到行政机关通知 ， 引发了对于全自动行政行为正当程序缺失的广泛关注 。 更重要的是 ， 算法可以提前预测风险而调配行政资源 ， 这一活动却完全不受正当程序的控制 。 以禁飞名单为例 ， 算法根据既往违法人员的特征 ， 预测高风险人群并禁止其登上飞机 。 换句话说 ， 被禁飞的人并非已经违法而是有违法风险 。 但是 ， 直到被阻止登上飞机之前 ， 公民并不知晓其被列入名单 ， 也不知晓列入名单的原因与过程 。 保证行政活动可信和正当的行政正当程序面临失灵的风险 。
在算法自动化决策逐步广泛深度嵌入行政活动的背景下 ， 如何坚持、修正和发展正当程序原则是亟待研究的重大议题 。 笔者从保证公民实体权利与程序性权利、通过正当程序限制公权力滥用的基本立场出发 ， 在行政权力与公民权利互动的理论框架下 ， 剖析算法自动化决策对行政正当程序的挑战 ， 以及立法者应如何应对行政正当程序实现的制度障碍与技术障碍
一 算法治理嵌入行政活动的双重效应
算法自动化决策从信息输入、信息处理与信息输出三个层面嵌入行政活动 ， 并改变了行政活动的范式 ， 使得行政机关可以通过风险预测提前配置行政资源 。 这极大地加强了行政机关对治理对象信息处理分析能力 ， 产生了行政权力的增强效应 。 但与此同时 ， 算法自动化决策压缩行政活动环节 ， 架空了行政正当程序；并且以内部决策的角色参与行政活动 ， 使正当程序控制失灵 。 此消彼长下 ， 形成了“权力-权利”失衡的格局 。
（一）算法嵌入行政治理的行政权力增强效应
行政活动中一直存在着行政机关与治理对象的信息不对称 ， 即政府对社会活动和治理对象信息掌握不足的情况 。 许多行政制度是为了缓解信息不足的矛盾而建立起来的 。 例如由于行政机关检查与发现违法的情况有限 ， 无法获知所有违法行为 ， 所以罚款额度既要有效惩罚被发现的违法人 ， 也要威慑潜在违法者 。 例如著名经济学家加里·贝克指出 ， 最佳的惩罚额度应等于损害除以发现的概率 。 即 ， 如果只有1/4的发现机会 ， 那么最佳罚款应该是损害的四倍 。 在现实生活中 ， 如果闯红灯的交通违法行为的罚款金额200元是以被发现概率为1/4而设立的 ， 那么当交通管理部门设置的闯红灯摄像可以实现违法行为100%被发现时 ， 罚款金额应相对降低 。
推荐阅读
- 向日葵远程控制企业版客户端更新升级，优化远控UI适配SADDC内核算法
- 在谷歌算法更新之后2020年盗版网站流量锐减三分之一
- 详解工程师不可不会的LRU缓存淘汰算法
- 今天上海这个比赛上，获奖“程序媛”讲述了自己与算法的爱恨情仇
- 算法萌新如何学好动态规划（3）
- 这场赛事的主角是算法！——首届BPAA全球算法最佳实践典范大赛在上海启动
- 谷歌AI又获重大突破！新算法无需了解规则也能自学成“棋”
- 米家飞利浦台灯3发售：199元、AA级照度+自动算法调节
- 布局AI药物研发！华为招聘药物研发算法工程师，早有准备进军医疗行业？
- 苹果拍照成像好的秘密，源于更优的软件算法