江苏龙网

  1. 首页 > 资讯 > 科技 > >

算法疫情下AI应用落地加速 避免“算法独裁”需要中国方案

作者： 缪琦
[ 立法机构的决定、司法机构的判断、行政机构的具体处分行为都需要给出明确的理由 ， 以便据此防止主观任意性 。 如果人工智能进行的预测、提供的结论无法说明其理由 ， 就无异于用“莫须有”的名义来做出决定 。]
全球疫情之下 ， 大数据和人工智能技术在实际场景中加速落地 。 不可否认 ， 人工智能在抗击疫情和复工复产等多个领域都发挥了关键作用 ， 但技术蓬勃发展带来的法治挑战也在相应增加 。
上海交通大学文科资深教授、中国法与社会研究院院长季卫东对第一财经采访人员表示 ， 疫情防控加快了数字经济的发展和社会治理方式的转型 。 然而 ， 人工智能对海量数据(603138,股吧)的渴望和吞吐 ， 正在冲击个人隐私和信息处分权 ， 在一定程度上给现代法治体制带来挑战 。
“特别是电脑的网络化和算法的黑箱化 ， 导致因果关系难以确认和说明 ， 势必动摇责任政府和问责原则的基础 ， 助长某种‘机器官僚主义’的倾向 。 ”他提出 ， 必须及时对人工智能治理以及相关的法律问题进行深入分析 ， 从理论和实践两个方面提出中国方案 。
便利性的代价
【算法疫情下AI应用落地加速 避免“算法独裁”需要中国方案】一方面是人工智能应用落地加速 ， 带来生产效率和生活品质提升；另一方面是这些便利性带来牺牲隐私、冒犯人格等代价 ， 引起了越来越多个人和企业的重视 。
6月8日 ， IBM公司CEO克里什纳宣布IBM退出人脸识别业务；6月10日 ， 亚马逊暂时禁止向美国警察提供人脸识别技术 ， 禁令将持续一年；6月11日 ， 微软禁止将人脸识别技术销售给警方；而早在今年初 ， Clearview AI公司就遭遇重大数据泄露 ， 30亿张人脸数据被泄露 ， 引发美国社会的巨大担忧 。
季卫东表示 ， 我国根据海量图像数据进行人工智能研究的绩效的确非常突出 ， 已经达到世界顶级水平 。
“这使得人工智能系统的深度学习能力超强 ， 并能把有关成果迅速应用于经济和社会治理的各个方面 。 ”在季卫东看来 ， 不断进化的电子计算机也有可能在相当程度上以算法独裁（Algocracy）的方式限制甚至剥夺个人的自由 ， 以效率、便利、娱乐等不同诱因促使人们不断放弃既有的基本权利 。
季卫东解释 ， 在无法理解和无法说明的场合 ， 算法就是黑箱化的 。
“要求人类介入和监控人工智能的运作 ， 当然是要确保人工智能的可控性 ， 但信息处理系统越复杂就越容易出现操作的失误 ， 当系统运作速度极快时 ， 人也很难对情况进行认识、预测以及掌握 。 ”他表示 ， 系统与系统之间还会产生目的冲突和互动 ， 在机器学习甚至深度学习的情况下 ， 不同人工智能系统之间的互动关系将变得复杂且变幻莫测 。
可以说 ， 机器学习的效果越精准、深度学习的功能越强大 ， 算法的涵义就会变得越来越难以理解和说明 。 中国围棋棋手柯洁与AlphaGo对弈失利 ， 就是例证之一 。
季卫东认为 ， 这样的算法黑箱化 ， 让人工智能具备了近乎不受约束的权力性 。 立法机构的决定、司法机构的判断、行政机构的具体处分行为都需要给出明确的理由 ， 以便据此防止主观任意性 ， 给相对人申诉和复议的机会 。 如果人工智能进行的预测、提供的结论无法说明其理由 ， 就无异于用“莫须有”的名义来做出决定 。
一方面 ， 在很多应用场景下 ， 人工智能很难被人类有效监控 ， 反而容易成为人类转嫁决策风险、逃避问责的重要手段；一方面 ， 应用人工智能对大数据进行分析和学习 ， 可以充分掌握社会心理和舆情的变化 ， 对不同群体以及个人的行为进行精准的预测 。 那么 ， 一旦不能相应提高民主问责的水准 ， 权力滥用的风险将加剧 。
中国社科院知识产权中心研究员杨延超告诉第一财经采访人员 ， 未来的社会必须设立一个裁判机构 ， 即算法裁判 。 “当算法决定人自由的时候 ， 算法本身要接受制约 。 ”他提出 ， 对于算法的审查 ， 需要一个由专业且综合型人才组成的机构来完成 ， 但这样的人才 ， 目前是相当缺乏的 。


推荐阅读


上一篇：特斯拉特斯拉股价“一天涨出一个福特” 华尔街预计2025年营收或破千亿美元

下一篇：私有化新浪私有化背后 传统门户时代早已终结