江苏龙网

  1. 首页 > 社会 > >

欧美相继出台AI新规，整治蛮荒的西部

原始标题：人脸识别该不该禁？欧美相继出台AI新规 ， 整治蛮荒的西部欧盟委员会 (European Commission) 近日发布《人工智能白皮书》 ， 计划制定一套人工智能的新法规 ， 以保护公民免受滥用人工智能技术的伤害 。同时 ， 欧盟表示新法规将侧重于透明度和监督 ， 以区别该地区与美国和中国的做法 。 有趣的是 ， 欧美委员会将目前 AI 发展的现状比作「蛮荒的西部」 ， 并表示将重点关注「高风险」案例 。欧美相继出台AI新规，整治蛮荒的西部
AI 现状：蛮荒的西部？如今 ， 人脸识别已经成为一些执法机关追踪嫌犯时最强有力的武器；还有些医疗机构正通过分析人的脸部特征 ， 来诊断某些罕见遗传疾病……但它对公民隐私权构成的威胁 ， 也前所未有 。相较指纹等其他生物特征 ， 人脸识别的最大不同就在于 ， 它能远距离发生作用 ， 而无需直接接触 。 这意味着 ， 政府、公司等机构和个人可能未经当事人同意、甚至完全不知情的情况下读取并搜集其数据 ， 进而非法使用 。事实上 ， 人脸不仅仅能表明身份 ， 让人觉得美或丑 ， 还泄露许多其他信息 。 有研究表明 ， 通过大数据和算法 ， 有相当大概率能通过人脸特征来测算一个人的智力水平、性取向 ， 甚至政治倾向……欧美相继出台AI新规，整治蛮荒的西部
因此 ， 一旦这种技术被不恰当地使用 ， 就有可能产生严重后果——例如 ， 保险公司或可更精确判定一个人的健康状况 ， 从而制定出包赚不赔的保单价格；雇主可能会雇佣或拒绝一些特定的雇员 ， 以满足其偏见；一些政府则可能更加主动有效地对某些特定人群进行追踪、监控甚至迫害；在人种多元的国家 ， 脸部特征数据的运算结果还可能造成对某些族群人士的不公正认知……还有人认为 ， 人脸识别会反过来影响人们的现实交往和信任关系 。 如果都知道自己的脸部特征会对自己将在社会上遭遇怎样的对待产生重大影响时 ， 人们就会被训练成「表演大师」 。 长此以往 ， 整个社会将陷入巨大的信任危机之中 。再比如 ， 近几年来 ， 基于 AI 技术的 Deepfake 视频在网络上有泛滥之势 ， 该技术能够生成逼真的假视频或音频片段 ， 很多时候足以乱真 。 这些逼真的视频让人们发出「技术无所不能」的赞叹 ， 同时 ， 也引发了更多的人对技术滥用和不可控的担忧 ， 甚至是恐惧 。欧美相继出台AI新规，整治蛮荒的西部
Deepfake 的出现实现了「以假乱真」的合成技术与恶搞娱乐和公益相比 ， Deepfake 更多地显示了技术的「阴暗獠牙」 。 利用 Deepfake 伪造的演讲视频已经对马来西亚和加蓬的政治丑闻产生影响 。据 Deepfake 检测软件的 Deeptrace Labs 的一份报告称 ， 目前在线的 Deepfake 视频中有 96％是非自愿拍摄的「换头」色情片 ， 片中人的脸往往被换成了女性名人的脸 。 这已经超出了恶搞的范畴 ， 触及违法的边缘 。禁用人脸识别？根据欧盟发布的白皮书内容 ， 在未来的五年中 ， 欧盟委员会将专注于数字化的三个关键目标：为人民服务的技术；公平竞争的经济；开放、民主和可持续的社会 ， 白皮书还提出一系列人工智能研发和监管的政策措施 ， 并提出建立「可信赖的人工智能框架」 。近年来 ， 欧洲一直在寻求在技术政策方面强调公平和伦理 。欧洲内部市场和服务专员蒂森·布雷顿（Thierry Breton）表示 ， 新法规将与《一般数据保护条例》(General Data Protection Regulation) 相媲美 。 这部影响深远的数据隐私法于 2018 年生效 ， 也被称为史上最严数据保护法 ， 对侵犯网民隐私的违法企业 ， 罚金最高可达 2000 万欧元（约合 1.5 亿元人民币）或者其全球营业额的 4% ， 以高者为准 。 法规出台不久 ， Facebook 和谷歌等美国企业也都成为 GDPR 法案下的第一批被告 。根据新规 ， 欧盟将建议禁止在公共场所使用面部识别技术 ， 并且提到这些系统的运行将需要人的监督和审计 。 作为建议的一部分 ， 欧盟还希望成员国任命相关部门监督人工智能政策规则的执行情况 。欧美相继出台AI新规，整治蛮荒的西部
当然 ， 这些规定吓坏了硅谷的公司 。 即使 GDPR 这样的法规只针对欧洲 ， 也往往具有全球影响 。 布雷顿表示:「与 GDPR 一样 ， 我们有自己的规则 ， 我们将在这里执行 。 他们将确保我们在欧洲珍视的个人和基本权利得到尊重 。 」欧洲是世界上最大的工业大陆 ， 尽管人工智能等转型技术被称为关键技术 ， 但人们普遍认为欧洲落后于美国 ， 美国的发展由财力雄厚的科技巨头主导 ， 而中国则是中央政府主导 。 现在 ， 通过欧盟引入有关人工智能和面部识别等技术数据收集透明度的规则 ， 将领先迈出重要一步 。欧盟科技主管玛格丽特•维斯特格 ( Margrethe Vestager ) 在之前的新闻发布会上指出 ， 该规则将涵盖自动驾驶汽车和生物识别 ID 等用途 。 欧盟以外想要在欧洲部署其技术的公司 ， 可能需要采取具体步骤 ， 例如使用欧洲数据集重新训练面部识别功能 。 欧盟希望积累在制造业 ， 交通运输 ， 能源和医疗保健等领域收集的数据 ， 以保护公众利益 ， 并加速欧洲自己的初创公司 。同时 ， 欧盟将提议每年花费近 220 亿美元用于构建可以用作 AI 开发基础的新数据生态系统 。 该计划假设欧洲拥有大量的政府和工业数据 ， 并且希望提供监管和财务激励措施以汇总这些数据 ， 然后这些数据将提供给同意遵守欧盟法规的 AI 开发人员 。谷歌：支持政府监管 ， 但制定规则应谨慎谷歌 CEO Pichai 近日在布鲁塞尔举行的 Bruegel 智库组织的一次会议上说：「我认为政府和监管法规应尽早解决此问题 ， 并出台管理的框架规定 ， 这是很重要的 。 」


推荐阅读


上一篇：能否根据“同期用药”原则，给李跃华一个机会

下一篇：航司2月亏损超百亿 大航司每天亏1亿