江苏龙网

  1. 首页 > 资讯 > 科技 > >

算法许可 朱悦 | 算法解释权：科技与法律的双重视角

算法许可 朱悦 | 算法解释权：科技与法律的双重视角
图片

作者
对外经济贸易大学 许可
圣路易斯华盛顿大学 朱悦
摘要
算法社会的来临 ， 使得算法失灵、算法歧视、算法欺诈、算法垄断成为人类社会的重要威胁 。 在诸多制度因应中 ， 算法解释权是落实算法问责 ， 实现算法公正的基础性权利 。 然而 ， 自欧盟《一般数据保护条例》提出该权利以来 ， 其一直遭至各种质疑 ， 在实践中亦被边缘化 。 算法解释权只有从“实用主义解释理论”出发 ， 采纳“黑盒之内解释”的技术方案 ， 明确解释权之主体、对象与范围 ， 充实解释的层次内涵 ， 才能弥合理想与现实、法律与科技之间的鸿沟 ， 构造出兼具法律理性与技术操作性的算法解释权制度 。
原文刊发于《苏州大学学报》2020年第2期 ， 为便于阅读 ， 注释已删除 。
导论：算法因何需要解释？
作为在“有限的时间内一步步完成某个任务的过程” ， 算法并不神秘 。 千百年来 ， 人们一直使用着算法：巴比伦人处理法律事务时会用到算法 ， 拉丁语老师检查语法时会用到算法 ， 医生预测病情时会用到算法 ， 中国《易经》更是可以“预测”未来的终结算法 。 可只有在大数据、人工智能、云计算等崭新的信息技术爆发的当代 ， 算法才得以脱胎换骨 ， 成为支配社会、乃至人类自身的权力 。 在这个“算法社会”中 ， 算法为我们规划道路 ， 为我们筛选搜索结果；为我们做手术；为我们推荐雇主；为我们选择朋友；为我们吟诗作乐；甚至还能为我们打出社会信用分值 。 在某种意义上 ， 算法决定了我们是谁 ， 我们看到什么 ， 以及我们如何思考 。
然而 ， 正如人类并非完美一样 ， 算法也绝非完美无缺 。 它可能出错 ， 甚至还可能存在“恶意” 。 美国马萨诸塞州的居民John Gass便深受其害 。 联邦调查局的反恐识别系统将他误认为是另一位司机 ， 并吊销了他的驾驶执照 ， 于是 ， 他不得不费时费力 ， 让当局相信他不是那名司机 。 其实 ， John Cass已经非常幸运 。 在美国 ， 每周超过1000人被机场使用的算法错误地标记为恐怖分子 。 一名美国航空公司的飞行员在一年中被拘留了80次 ， 因为他的名字与爱尔兰共和军领导人的名字相似 。 这还不算是最糟糕的 。 算法依赖于大数据 ， 而大数据并非中立 。 它们从真实社会中抽取 ， 必然带有社会固有的不平等、排斥性的痕迹 。 例如 ， 为了在Twitter上与千禧一代进行对话 ， 微软开发了Tay聊天机器人 ， 它旨在学习如何通过复制网民的语音来模仿他人 。 可仅仅在试用24小时后 ， 它就被引入歧途 ， 成为支持种族灭绝的反女权主义纳粹分子 ， 以至于发出了“希特勒无罪”的消息 。
无独有偶 ， 在新冠疫情期间 ， 为实现有效隔离病患和保障人员正常流通的双重目标 ， 数字化的健康评估证明——“健康码”功不可没 。 在申请健康码时 ， 民众通常需要在手机上注册并提供自身的实名信息 ， 验证用户身份之后 ， 填写自己的体温和接触史等健康信息 ， 并结合权威数据平台查询用户的行踪记录和人际关系 ， 最终经由算法生成属于个人的二维码 。 尽管开发者已经给出了算法判断的空间、时间、人际关系、健康状况等四个维度的标准 ， 但由于健康码关系个人自由甚巨 ， 网络上“我的绿码为什么变成了黄码？”“温州返杭的给绿码 ， 我诸暨的给红码？”“一家三口情况一样 ， 一更新就我变红码？”“长期居家 ， 却为红码？”的质疑仍频频出现 。 实践中 ， 民众要求行政机关和开发者更正的投诉亦不鲜见 。
算法失灵、算法歧视、算法欺诈、算法垄断等威胁引发了算法可责的呼吁 。 算法可责的前提是算法可知 ， 而算法可知的有力工具便是算法可解释 。 为此 ， 欧盟议会智库2019年发布《算法决策：机遇与挑战》报告 ， 将“可解释性”视为算法决策系统中的关键议题 。 在全球范围内影响深远的《伯克利对人工智能面临挑战的系统性观点》 ， 亦将“可解释性”视为人工智能算法“适时、稳健、安全”的核心要素 。 人们日益相信：“对即将到来的、人工智能协作的世代 ， 如果希冀理解这一世代 ， 希冀恰当地信任这一世代 ， 希冀有效地管理这一世代 ， 可解释的人工智能将至关重要” 。 基于此 ， 法律上的“算法解释权”浮出水面 。 2018年 ， 欧盟《一般数据保护条例》（GDPR）以1995年欧盟《数据保护指令》中“获知算法内部逻辑的权利”为蓝本 ， 在“鉴于”部分第71条和正文第22条针对基于算法的“自动化决策” ， 赋予个人干预的权利 ， 允许其表达其观点 ， 在评估后获得该决策的解释 ， 以及对决策提出质疑 。 受此影响 ， 法国《数字共和国法》（French loi pour uneR?l’publiquenum?l’rique）规定 ， 个人受到基于算法的行政决定时 ， 有权要求行政机关提供算法相关信息 ， 包括但不限于算法对行政决定的影响程度和方式、使用参数的权重和适当性、处理的数据及其来源 。


推荐阅读


上一篇：直播直播+短视频，中小企业乘风破浪的新引擎

下一篇：植物名录“隐世”百年的植物再现身 上一次被采集记录已是1912年