江苏龙网

  1. 主页 > 生活百科 > >

是时候开始担心AI黑客了吗？

黑客

未来AI会不会发起黑客攻击？当然有可能，而且可能近在咫尺 。AI攻击会先确定目标，然后获得反馈，不断优化提升 。如果某一天AI能开发出完全新颖的解决方案，甚至开始优化方案，那其杀伤力将是巨大的 。

是时候开始担心AI黑客了吗？

文章插图
系统模糊性是当前防御AI黑客的屏障对于围棋之类的游戏，规则、目标、反馈都算是简单的，确定的，没有什么外在的东西搅局，输或者赢就是反馈 。GPT-3 AI可以写连贯文章，因为它所在的世界只有文本 。正因如此，当前的黑客奖励活动有许多是在模拟环境下进行的，全是人为、全都受约束，所有规则都是为AI准备的 。
系统的模糊性才是关键所在 。我们可以将全球的税法全部输入AI，因为税法里有公式，用来确定欠了多少税 。即使如此，所有法律都有模糊性 。模糊很难转化为代码，AI处理起来很棘手 。所以即使有了AI，在可预见的未来还是需要大量税务律师 。
大多的人类系统模糊性更强 。AI能不能成为现实世界体育比赛黑客（比如曲棍球比赛）？恐怕很难 。AI必须理解游戏的规则，但还远远不够，它还要理解人体生理学、球杆和球的空气动力学，等等 。当然我们不能说绝对不可能，但肯定比应付围棋要难得多 。
在短期内，正因为社会系统极为复杂，存在模糊性，增强了系统对AI黑客的防御力 。未来一段时间不太可能会有AI体育黑客出现 。如果机器人亲自参与比赛，或者未来某一天AI极为先进，能从所有维度理解广阔世界，那时也许会有AI体育黑客诞生 。
同样的，赌场AI黑客、法律程序AI黑客也不太容易开发 。AI想模拟个体或者群体工作还需要很长时间，暂时做不到 。
但不要低估AI的非线性进化能力世界到处是AI黑客，这是一个科幻问题，但它并不是愚蠢的科幻问题 。AI飞速提升，它的进步是不稳定、不连贯的 。我们原本认为很难的问题可能是容易的，认为容易的也可能被证明是很难的 。几十年前我们可能会嘲笑AI，认为它不可能征服围棋，因为围棋太复杂：不是说规则复杂，而是棋步的可能性太多 。现在呢？AI已经拿下围棋 。
所以说，我们应该提前思考AI黑客问题，早早准备预案 。
首先我们应该重视的可能是金融系统中的AI黑客，因为金融系统的规则容易被算法利用 。高频率交易算法就是一个好例子，未来它会变得更复杂 。我们可以用全球的金融实时信息武装AI，加上全球的法律法规，加上新闻信息，加上其它相关信息，然后指派AI完成一个目标，追求“最大的合法利润”或者“尽可能获得最大的利润” 。到时可能会有一些黑客行为超出人类的理解，也就是说人类根本意识不到黑客行为发生了 。当然，这样的事情现在看来还有些遥远 。
在短期内，AI可能会配合人类完成黑客攻击 。AI可以寻找漏洞，有经验的会计师或税务律师协作，利用丰富经验判断是否可以利用漏洞牟利 。
成熟AI黑客的杀伤力不可估量纵观人类历史，黑客攻击一般都是人类行为 。AI如果开始发起攻击，一切都会改变 。AI不会限定于相当的方式，不会像人一样受到诸多限制 。AI根本不休息，它们像外星人一样思考，它可以以人类无法预料的方式黑掉系统 。
【是时候开始担心AI黑客了吗？】计算机会在四个维度增强攻击：速度、规模、范围和复杂度 。AI可以将攻击力增强很多倍 。
速度：人类发起攻击可能要几个月甚至几年，AI不需要，几天、几小时甚至几秒都有可能 。例如，如果你把整个美国税法全部输入AI，命令它找出一套方案，将某个人的税款降到最低，会怎样？如果是跨国公司，可能会让AI分析全球的税法，给企业降税 。
规模：一旦AI找到了漏洞，它可能会以超大规模利用漏洞 。当AI开始闯入金融系统，它们会统治整个行业 。到时信贷市场、税法、普通法律都可能向富人倾斜 。AI会让不平等加剧 。最先出现的AI金融黑客可能不是追求平等的研究人员开发的，而是跨国银行、对冲基金、管理顾问 。
范围：社会的确有一套方案应对黑客，但应付的主要是人类黑客，是人类速度的攻击 。如果AI可以快速从税法中找到几百个漏洞，国家如何应付，修正税法的速度根本跟不上 。
复杂度：在AI的辅助下，人类黑客可以发起复杂攻击，其复杂度超过无辅助人类的理解水平 。人工智能的复杂统计分析可以揭示变量之间的关系，找到隐藏漏洞，即使是最好的战略家和专家也可能没有意识到漏洞的存在 。


推荐阅读


上一篇：没有了

下一篇：苹果手机远程控制安卓手机，为什么不能发起控制？