江苏龙网

  1. 首页 > 人文 > >

钛媒体■欧美相继出台AI新规，整治「蛮荒的西部」


【钛媒体■欧美相继出台AI新规，整治「蛮荒的西部」】
钛媒体■欧美相继出台AI新规，整治「蛮荒的西部」
本文插图
文｜学术头条
欧盟委员会 (European Commission) 近日发布《人工智能白皮书》 ， 计划制定一套人工智能的新法规 ， 以保护公民免受滥用人工智能技术的伤害 。
同时 ， 欧盟表示新法规将侧重于透明度和监督 ， 以区别该地区与美国和中国的做法 。 有趣的是 ， 欧美委员会将目前 AI 发展的现状比作「蛮荒的西部」 ， 并表示将重点关注「高风险」案例 。
AI 现状： 蛮荒的西部？ 如今 ， 人脸识别已经成为一些执法机关追踪嫌犯时最强有力的武器；还有些医疗机构正通过分析人的脸部特征 ， 来诊断某些罕见遗传疾病……但它对公民隐私权构成的威胁 ， 也前所未有 。
相较指纹等其他生物特征 ， 人脸识别的最大不同就在于 ， 它能远距离发生作用 ， 而无需直接接触 。 这意味着 ， 政府、公司等机构和个人可能未经当事人同意、甚至完全不知情的情况下读取并搜集其数据 ， 进而非法使用 。
事实上 ， 人脸不仅仅能表明身份 ， 让人觉得美或丑 ， 还泄露许多其他信息 。 有研究表明 ， 通过大数据和算法 ， 有相当大概率能通过人脸特征来测算一个人的智力水平、性取向 ， 甚至政治倾向……
因此 ， 一旦这种技术被不恰当地使用 ， 就有可能产生严重后果——例如 ， 保险公司或可更精确判定一个人的健康状况 ， 从而制定出包赚不赔的保单价格；雇主可能会雇佣或拒绝一些特定的雇员 ， 以满足其偏见；一些政府则可能更加主动有效地对某些特定人群进行追踪、监控甚至迫害；在人种多元的国家 ， 脸部特征数据的运算结果还可能造成对某些族群人士的不公正认知……
还有人认为 ， 人脸识别会反过来影响人们的现实交往和信任关系 。 如果都知道自己的脸部特征会对自己将在社会上遭遇怎样的对待产生重大影响时 ， 人们就会被训练成「表演大师」 。 长此以往 ， 整个社会将陷入巨大的信任危机之中 。
再比如 ， 近几年来 ， 基于 AI 技术的 Deepfake 视频在网络上有泛滥之势 ， 该技术能够生成逼真的假视频或音频片段 ， 很多时候足以乱真 。 这些逼真的视频让人们发出「技术无所不能」的赞叹 ， 同时 ， 也引发了更多的人对技术滥用和不可控的担忧 ， 甚至是恐惧 。
钛媒体■欧美相继出台AI新规，整治「蛮荒的西部」
本文插图
Deepfake 的出现实现了「以假乱真」的合成技术
与恶搞娱乐和公益相比 ， Deepfake 更多地显示了技术的「阴暗獠牙」 。 利用 Deepfake 伪造的演讲视频已经对马来西亚和加蓬的政治丑闻产生影响 。
据 Deepfake 检测软件的 Deeptrace Labs 的一份报告称 ， 目前在线的 Deepfake 视频中有 96％是非自愿拍摄的「换头」色情片 ， 片中人的脸往往被换成了女性名人的脸 。 这已经超出了恶搞的范畴 ， 触及违法的边缘 。
禁用人脸识别？ 根据欧盟发布的白皮书内容 ， 在未来的五年中 ， 欧盟委员会将专注于数字化的三个关键目标：为人民服务的技术；公平竞争的经济；开放、民主和可持续的社会 ， 白皮书还提出一系列人工智能研发和监管的政策措施 ， 并提出建立「可信赖的人工智能框架」 。
近年来 ， 欧洲一直在寻求在技术政策方面强调公平和伦理 。
欧洲内部市场和服务专员蒂森·布雷顿（Thierry Breton）表示 ， 新法规将与《一般数据保护条例》(General Data Protection Regulation) 相媲美 。 这部影响深远的数据隐私法于 2018 年生效 ， 也被称为史上最严数据保护法 ， 对侵犯网民隐私的违法企业 ， 罚金最高可达 2000 万欧元（约合 1.5 亿元人民币）或者其全球营业额的 4% ， 以高者为准 。 法规出台不久 ， Facebook 和谷歌等美国企业也都成为 GDPR 法案下的第一批被告 。


推荐阅读


上一篇：『物联网』2020年中国智能物联网（AIoT）白皮书

下一篇：「财Sir」微保CEO刘家明：腾讯式保险成为疫情保障的“后盾”