江苏龙网

  1. 首页 > 人文 > >

国防科技要闻 【智库声音】人工智能与网络的结合将如何影响核安全( 二 )


4.滋生深度伪造风险
人工智能网络技术的发展还为煽动敌对国家间的冲突提供了新途径 。 例如 ， 国家A借助代理黑客使用生成对抗网络（GenerativeAdversarialNetworks ， 简称GAN）制造“深度伪造”（Deepfakes)视频或音频材料 ， 描绘国家B的高级军事指挥官密谋对国家C发动先发制人的打击 。 然后 ， 这段“深度伪造”视频被故意泄露给国家C的人工智能增强下的情报收集和分析系统中 ， 引发了国家C的战略误判并采取核对抗手段 。 国家B在这种情况下将不得不以同样的对抗方式回应 。 目前 ， 在新兴的“深造伪造”军备竞赛中 ， 检测软件的发展速度远落后于进攻性软件 ， “开发用于伪造内容的技术的人要比检测它的人多100到1000倍” 。 这给信息接收系统的“反人工智能”功能和其他故障安全机制提出了重大挑战 。
国防科技要闻 【智库声音】人工智能与网络的结合将如何影响核安全
文章图片
▲图：“深度伪造”成本低 ， 但影响力巨大
03
维护人工智能时代的核稳定须强化国际合作
为避免各国在人工智能网络战领域的军备竞赛与核武器结合后演变成毁天灭地的灾难 ， 作者呼吁国际社会携手应对人工智能对大国核战略的影响与冲击 。
1.加强各方在这一领域的研究、讨论与对话
第一 ， 为减轻人工智能网络安全关系所带来的不稳定和对抗升级 ， 大国间有必要增加对话以建立信任 。 在国际讨论中 ， 至少应包括外交官和军事领导人（特别是来自中国、俄罗斯和美国的领导人）、行业专家、人工智能研究人员和多学科学者 。 军事大国间应尽快建立一个治理、规范机器学习增强下网络能力使用的国际框架 ， 并在监管方面开展合作 。 第二 ， 智库、学术界和人工智能研究专家应集中资源 ， 研究人工智能网络对一系列潜在安全问题的影响 ， 比如：人工智能偏见对未来军事应用的影响；如何应对可能出现的通用人工智能；如有需要 ， 政府可采取步骤 ， 修订现有的法律定义以解释人工智能扩散所造成的潜在损害 ， 这些定义包括黑客攻击、数据注毒和信息欺骗等 。
2.研究和实施网络安全保护措施
研究和实施一些以网络安全为中心的措施可以预防和减轻人工智能增强下网络能力提升 ， 特别是涉及安全关键的核系统所带来的一些风险 。 首先 ， 在解决计算机安全时的成熟经验可以被应用于开发人工智能上 ， 例如可以采取红蓝对抗的方式帮助工程师和操作员更好理解并执行网络防御方案、提高进行防御性操作所需的技能 。 其次 ， 全球防务界应积极投资开发人工智能网络防御工具、以人工智能为中心的安全硬件以及其他故障安全机制 ， 以帮助降低因人工智能网络攻击带来的冲突升级风险 。 最后 ， 与这些措施相关的一些问题还需要进一步探讨 ， 包括：现有工具在多大程度上可以有效抵御人工智能系统中的漏洞？如何为跨多个军事领域的人工智能系统量身定制防御工具？在军事人工智能系统中是否有等同于“补丁”的功能？什么样的政策可以激励并确保对军事领域的现有硬件进行有意义的改革？
国防科技要闻 【智库声音】人工智能与网络的结合将如何影响核安全
文章图片
▲图：协商合作应成为国际共识
04
结语
武器装备无人化和智能化是未来军队发展的必由之路 ， 而核武器系统似乎没有理由不搭上新一轮军事技术革命的快车 。 在美国退出《中程导弹条约》、无意续签《削减进攻性战略武器条约》的今天 ， 世界“核军备竞赛”大有重启势头 。 然而 ， “核武器+人工智能”究竟是更多地增强了大国威慑力还是更多地把人类置于了灾难边缘？目前来看 ， 这一前景并不明朗 。 在人工智能、大数据、云计算等技术迅猛发展的当今时代 ， 我们应当提前研究和预判其中的风险 ， 并进行前瞻性预防和化解 。 应当看到 ， 人类文明的发展大势只能是走向互信和合作 ， 固守冷战思维只会使人类在猜疑与对抗中一步步走向自我毁灭的境地 。 特别是对待掌握地球“重启键”的核武器这一重大问题 ， 人类真的需要树立命运共同理念 ， 用合作替代对抗 ， 用信任消弭偏见 ， 才能共同塑造人类更美好的明天而非走向共同毁灭 。


推荐阅读


上一篇：产业气象站 这不是脑洞：无人驾驶将让谁被“失业”？

下一篇：九个头条网 原因何在？未来如何？背后的逻辑有点恐怖，拼多多市值反超京东