江苏龙网

  1. 首页 > 人文 > >

行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和( 六 )

信息数据决策算法政府程序自动化行政


（四）算法黑箱无法提供理由说明
正当程序中的说明理由制度是指公权力机关在做出决定或者裁决时 ， 应向其他利害关系人说明法律依据和事实状态 ， 及通过相关法律和事实状态进行推理或裁量而做出结论的过程 ， 从而表明理由与最终该决定的内在联系 。 尤其是行政机关作出不利于行政相对人的行政行为时 ， 除非有法定保密的要求 ， 都必须说明理由 。 我国《行政处罚法》《行政许可法》等法律法规均明确规定了行政行为说明理由的要求 。 说明理由制度是正当程序中的重要构成要素 ， 违反说明理由义务可能直接影响到决定或者裁决的效力 。
预测型算法作出行政决策的时点是在行政对象作出行为之前 ， 依据是大数据的相关关系而非因果关系 ， 因此无法提供理由说明 。 由于大部分深度学习推荐算法将数据变换到一个隐含空间 ， 可以计算如何无限接近算法设定的目标 ， 但是很难提供直接的决策理由 。 尤其是预测型算法在行政治理中的应用 ， 将行政对象的目标与既有数据对比 ， 应用数据分析来发现特征和结果之间的相关性 ， 并利用这个分析来生成可能不容易解释或理解的预测 。 一个正当的行政行为要求理由的公开 ， 并公布作出行政行为的证据 。 而由于预测型算法的时间点在事件发生之前 ， 所以尚无证据存在 。 这种先验性使得合法正当行为所需要的具有证明力的证据不可能存在 。
算法预测指导的行政活动对行政对象挑选并进行甄别 ， 却无法提供实质性证据 。 这实际上构成了对行政对象区别性的不利对待 ， 可能违反法律面前人人平等的原则 。 典型的预测型算法应用为“预测警务” ， 如北京市公安局怀柔分局的 “犯罪数据分析和趋势预测系统”收录了怀柔9年来一万余件犯罪案件数据 。 2014 年 5 月 ， 该系统预测提示：近期泉河派出所辖区北斜街发生盗窃案的可能性较高 ， 派出所加大对该区域的巡逻 ， 并于5月7日抓获一名盗窃汽车内财物的嫌疑人 。 预测型算法会在治安高风险地区时会相应投入更多警力 ， 使得该地区的治安违法行为更容易被查到 ， 导致风险级别进一步提高 ， 可能形成一个失真的回馈环路 。
算法预测准确率无法保证 ， 一旦出错可能造成无法挽回的损失 。 2017年12月 ， 美国伊利诺伊州儿童和家庭服务部宣布 ， 终止评估儿童安全和风险的预测系统 ， 因为算法预测不准确造成了父母与子女错误分离的后果 。 同年早些时候 ， 美国洛杉矶郡也由于预测型算法的黑箱问题与高误报率终止了预测型算法用于儿童受虐风险的评估项目 。
算法深度学习与相关可能存在的预测失真问题由于算法自动化决策无法提供理由说明 ， 算法决策缺乏有效的法律程序控制 ， 易于不断自我肯定与强化 ， 造成行政行为持续性错误与相对人权利受损 。
行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和文章插图
三 基于行政信息公开原则增强算法自动化决策透明度
（一）算法嵌入行政活动背景下行政信息公开原则的回归
现有算法自动化参与的行政活动中 ， 我国法律作出了一定调整 ， 但仍在某些领域需要行政信息公开规则的回归 。 例如 ， 在算法自动化决策参与行政许可行为中 ， 我国《行政许可法》第 33 条规定了以数据电子方式提出行政许可 ， 应在行政机关的网站公布许可事项 。 作为行政信息公开在算法治理时代的因应性调整 。 然而 ， 在算法自动化决策参与的行政活动中 ， 尚有行政信息公开原则的一些基本规则尚未得到满足 。
首先 ， 应增强算法自动化决策的可见性 ， 作为行政信息公开的基本要求 。 我国政府部门中 ， 算法自动化决策系统多以“秒批”“智能交通”“智慧司法”为名 。 我国不仅对于人工智能算法应用于政府部门并无清晰的规划与分类 ， 现有的电子政务的公示与通知也并不完善 。 2018年第十七届中国政府网站绩效评估显示 ， 超过15%的政府网站的办事指南存在权力清单与行政事项不对应 ， 35%的政府网站办事内容不准确 ， 80%存在办理材料详单不清晰 。 政府不应仅将算法系统看作是办公辅助系统 ， 而是应公布政府部门自动化决策清单 ， 让公众知晓哪些行政活动有自动化决策的参与 ， 了解算法自动化决策可能带来的权利影响 。


推荐阅读


上一篇：索尼，黑科技里永远滴神

下一篇：网站seo诊断：详细了解索引量下降的原因