操纵|技术有“黑入人心”的能力,是我们这个时代最大的革命( 四 )


最后,我们需要政府的监管,不仅仅是某个国家的政府,而是全球的政府,如果放任不管的话,有可能会造成一个大的危机,到最后谁也无法制止它的坏影响。特别是当涉及到最危险的事态发展时,我们需要某种国际协议。
比如,机器人杀手是非常危险的技术,全球各个国家政府应该达成规则协议。不然会出现这样的情况:我们安分守己,但是我们害怕竞争对手,在核武器或者AI的实验中违背协议,做一些可能对我们产生威胁的事情,这是一场AI军备竞赛。在这一场竞赛中,无论谁胜利了,最终伤害的都会是人类自己。
每一个人都害怕自己的竞争对手变得邪恶,然后自己就没有办法独善其身,这样会形成一个非常坏的恶性循环。
同样,在数据所有权领域,信息和数据该由谁来掌握?
我们正在经历另一场军备竞赛——数据军备竞赛,竞争的双方是中国和美国,中美之间到底谁来拥有全世界最主流核心的关键数据,大家彼此之间有很多的恐惧。现在如果想控制一个国家,并不需要派兵驻扎,只需要掌控这个国家的数据就可以。
设想一下,20年后世界上的某个小国,没有外来的军事驻地或军事威胁,但是这个国家的所有数据都被存放在别的地方,包括所有政治家、采访人员、军官的全部个人信息和医疗记录,这样的数据一旦泄露,这个国家就变成了数据殖民化的国家,不需要派兵,不需要打仗就能被别的国家控制。
所以,数据不仅是一种资源,而且是国与国之间竞争的一种非常重要的力量。过去的战争都是围绕土地,而今天数据正在成为一种新的竞相争夺的资源。我们需要在国际层面来达成协议,避免出现数据殖民主义或者数据帝国主义。
04 逆全球化的时代更需要合作
尤瓦尔·赫拉利(以色列历史学家):过去这几年,因为各种原因,全球的国际合作在退化。所以我们能够看到全球在应对新冠疫情的时候,科学界和政治界对疫情的态度存在着巨大的差别。
在科学方面,我们看到世界各地的科学家和医生进行着令人惊叹的合作,他们共享信息,然后共同研究这个病毒,找到病毒的源头,发现疫苗,提出解决方案。
在这次疫情期间,在科学层面上,人类合作的程度超过了历史上对任何一次流行病的应对。但是我们政治层面的合作非常糟糕,从疫情开始到现在差不多一年的时间了,但是在全球我们没有一个强有力的领导,也没有全球性的行动计划,国与国相互指责,故意散布错误信息和阴谋论。
我们也看到了对资源的争夺,各个国家打疫苗战,都想成为第一个拥有疫苗的国家,并利用疫苗来获得经济和政治优势。
我们人类现在共同面对的敌人是病毒,你可能觉得在这个共同的敌人面前我们合作应该很容易,但国际层面并进行没有很好的合作来对抗病毒和经济危机。此外,人工智能和气侯变化方面的合作也并不乐观。国际社会需要合作,但并不是说人类愿意合作。
我是一个历史学家,我太了解人性了,人是世界上最聪明的动物,我们都知道正确的方向是什么,但往往我们会往相反的方向发展。在20世纪的两次世界大战,还有其他重大灾难中,人类真的可以以愚蠢的方式行事。
我们现在最大的危险是人工智能和生物工程等新技术,以及气候变化的危险。随着技术的发展我们犯错的能力虽然看起来好像是减弱了,但实际上并不是。
历史上的前一次重大技术革命是始于19世纪的工业革命,在过去的一两百年里,人类一直在用不同的方式努力构建一个更繁荣、更好的工业社会,用蒸汽机,用汽车、火车、无线电为我们创造更好的生活,最终建出来的社会的确更好,21世纪初的世界比以往任何时候都更加和平和繁荣。
但同时我们也有一些巨大的失误,在工业革命之后我们经历了殖民主义,欧洲工业强国殖民和剥削了世界大部分地区。
我们还经历了两次世界大战、大屠杀、冷战,在经历一系列的失误后,我们终于得到了正确的结果。如果我们未来有第三次世界大战,以今天这样的技术,几乎没有人能幸存。


推荐阅读