江苏龙网

  1. 首页 > 人文 > >

行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和( 八 )

信息数据决策算法政府程序自动化行政


退一步论证 ， 要求公布算法决策要素及权重 ， 并不是要求公布技术源代码 ， 而是要求公布被代码化的法律规则 。 当前 ， 有学者认为算法的透明既非必要也不可能 ， 甚至存在一定的害处 。 这将算法透明视作单一的、绝对的源代码披露 ， 忽视了算法的透明具有多层次性、多种方式、多种对象 。
算法自动化决策系统信息公开的不足会导致对政府公权力信任的不足 ， 民众信任的缺失可能导致更多的上诉 ， 抵消掉算法系统带来的行政效率提高效应 。 鉴于算法的技术性 ， 美国学者尝试发展“技术性正当程序”的制度来解决这一问题 ， 即通过强调编码公开、开发公众参与程序、系统软件测试等来实现程序所要求的透明化、公开和可问责等要求 。 因此 ， 未来在政府内部增加专业力量 ， 由既懂行政规则又懂技术的人员来监督算法设计运行 ， 方为解决之道 。
（四）行政信息公开与算法决策输出的说明
行政信息公开应包括对于行政决策结果中 ， 在何种程度参考了算法自动化决策结果的信息 。 某个具体的行政行为 ， 算法自动化决策可能起到不同程度的作用 。 有可能算法自动化决策直接成为生效的行政行为 ， 如深圳市政府的“秒批”事项在2020年已达212个；有可能需要进行进一步人工审核 ， 如再犯风险评估软件的法官审核 。 在此意义上 ， 算法自动化决策对具体行政行为的干预程度和行政决策的可逆性应向行政相对人公开 。 即使算法自动化决策已经开始深度嵌入行政活动 ， 但考虑到行政权力有着诸多不可让渡的空间 ， 并且涉及国家等基本概念的存系 ， 应尽量减少算法直接作出行政决定的情况 。
【行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和】与此同时 ， 应尤其注意算法自动化决策结果对技术弱势群体的说明方式 。 我国《政府信息公开条例》第43条规定：“申请公开政府信息的公民存在阅读困难或者视听障碍的 ， 行政机关应当为其提供必要的帮助 。 ”依此立法精神 ， 应在信息公开环节同样照顾老人、受教育程度较低人群等技术弱势群体 ， 以简明、图画方式对公众说明算法自动化决策 。
综上所述 ， 行政部门应用算法自动化决策既应符合行政信息公开的基本要求 ， 也应在输入数据、决策过程和最终决策层面遵循行政信息公开原则的要求 。 德国第36届信息官员自由会议通过一项文件“算法在公共管理中的透明度” 。 根据此文件 ， 德国政府部门使用的算法必须要公布：（1）有关程序输入和输出数据的数据类别的信息；（2）算法所涉的逻辑 ， 尤其是使用的计算公式 ， 包括输入数据的权重 ， 基本的专业知识以及用户部署的个人配置；（3）最终决策的范围以及程序可能产生的后果 。 政府使用算法决策如不遵循行政信息公开原则 ， 算法自动化决策的公平、可问责则无从谈起 。
行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和文章插图
四 基于公众参与原则进行算法影响评估
行政正当程序中的公众参与原则具有重要的实体权利保障功能 ， 应从加强公众参与与恢复相对人陈述和申辩权利两个方面 ， 发展算法治理时代的行政正当程序 。
（一）以算法影响评估保证公众参与算法系统订购与使用
行政一般规则的制定需要公众参与的审议 ， 然而技术力量垄断主导的采购与设计流程架空了这一过程 。 公众参与原则要求算法自动化决策系统在被用于决策和影响行政相对人之前 ， 公众有权了解、评估和参与其对于自身和社会的影响 。
算法影响评估是既有行政制度资源的发展 ， 可参考环境影响评估等类似的相关制度 。 这一制度的目的在于让政府使用算法自动化决策前 ， 能够创造机会使得行政相对人、研究人员和决策者共同参与影响评估 。 这为公众提供了算法系统部署前发现问题、表达诉求主张、甚至反对使用算法的机会 ， 本身就是向社会提供算法系统信息的机制 ， 能够让公众更加了解情况、增加算法透明度 ， 并让政府部门、算法研发人员和公众进行富有成效的对话 。 体现出行政程序不应是行政主体单方用来约束公民、组织的工具 ， 更是要体现出民主、责任、参与、法治的诉求 。


推荐阅读


上一篇：索尼，黑科技里永远滴神

下一篇：网站seo诊断：详细了解索引量下降的原因