人工智能法纳入立法计划背后：专家建议划定红线，设置负面清单 _人工智能

日前，国务院办公厅印发《国务院2023年度立法工作计划》。其中值得注意的是，人工智能法草案等预备提请全国人大常委会审议，可见我国人工智能领域立法将迈上新台阶。

文章插图
资料图片图据IC photo其实，2017年国务院印发的《新一代人工智能发展规划》就提出“三步走”的战略目标，2020年，部分领域的人工智能伦理规范和政策法规初步建立。2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力。2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。
中国社科院法学所研究员、科技与法研究中心主任、博士生导师杨延超在接受红星新闻采访时表示，需要既考虑人工智能风险，又要考虑产业发展。人工智能还属于技术发展的初期，不宜将很多问题规定得过细甚至过严。法律还应当以鼓励产业发展为主，要确定大的红线和负面清单的立法思想。所谓大的红线和负面清单，就是考虑到人工智能可能给社会发展带来的几大危害，划定红线。比如人工智能不能用于诈骗、不能用于数据攻击等。
为什么说人工智能立法条件已经成熟？
过去几年，我国人工智能领域建章立制已经起步。2022年3月1日开始实施的《互联网信息服务算法推荐管理规定》（以下简称“算法推荐管理规定”）中，生成合成类算法被列为五大类算法推荐技术之一（生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类），受到监管。
2023年1月1日开始实施的《互联网信息服务深度合成管理规定》（以下简称“深度合成管理规定“）中，将深度合成作为算法服务种类中高风险的算法率先立法监管，进一步加强了对该领域的监管力度。
为了进一步推动人工智能领域的规范和发展，国家互联网信息办公室于2023年4月11日发布了《生成式人工智能服务管理办法（征求意见稿）》。
综合以上三份文件，随着算法和人工智能技术的发展，我国对其治理也形成了“算法治理——深度合成治理——生成式人工智能治理”的迭代路径。

文章插图
资料图片图据图虫创意中国社科院法学所研究员、科技与法研究中心主任、博士生导师杨延超教授长期研究人工智能立法问题。在杨延超看来，以上几部管理办法的出台，体现的是随着人工智能技术的进步，立法工作也进步。
杨延超解释，最开始出台的推荐算法相关规则是因为很多平台通过算法来提升服务，使用用户画像来计算用户偏好，用户不需要检索，平台就会自动推荐相关内容。推荐算法得到广泛应用以后，最先出台的便是关于推荐算法的管理规则。后来又出现了深度合成技术，包括“换脸”技术等，可以生成语音、图像。这个过程也引发了人们对于权利的思考，包括是否会侵犯人身权等问题，所以出台了深度合成的管理规则。今年年初，ChatGPT这种生成式人工智能引发了一系列挑战，而且目前各个领域都在用大模型来完成生成式人工智能，生成文字、图像，甚至代码、视频，可以看到人工智能已经具备了一定的资料整合、推理、逻辑分析的能力，这是过去人才具备的能力，所以会产生个人隐私、数据安全、知识产权保护等一系列问题。出于对这些问题的担忧，又开始制定生成式人工智能的管理规则。这是一个技术与法律进化的脉络。
之所以在今年提出要把人工智能法草案纳入立法计划，杨延超表示，是因为人工智能技术经过了多年的积累，今年得到了爆发式的增长。在整个技术产业中，大模型成为了一种突破，在此之前，某些局部领域，小模型解决了一定问题，但处在技术瓶颈中。这一次大模型的发展，带来了全新的可以实现的能力。AI target=_blank class=infotextkey>OpenAI的试验让人们看到，大模型时代AI产生了类人的能力。在这么一个特殊的时期，立法者、管理者在思考产业发展的同时，也会考虑到相应的风险，通过把规则制定出来，保证行业健康发展。
杨延超表示，过去我国已经制定的法律包括《个人信息保护法》《数据安全法》，以及上述关于推荐算法、深度合成的部门规章，还有智能驾驶相关规定，都成为人工智能立法的前期积累。
对外经济贸易大学数字经济与法律创新研究中心执行主任张欣在接受红星新闻采访时表示，上述几部法律规范虽然时间上有先后，但不是一个线性发展的过程，人工智能法草案其实早有筹备，并且一直在推动，在部门规章层面这种小切口的立法有较快推进。