我们如何面对人工智能时代的到来-?人工智能时代已经来临,我们应该如何应对( 三 )


人类的主观体验的某些方面显然可以追溯到人类的进化 , 例如与自我保护和繁殖有关的情绪欲望 , 比如吃东西、喝水、避免被杀等 。这意味着创造一个无法体会饥饿、口渴和恐惧这些感质的人工智能应该是可能的 。
如果一个高度智能的人工智能被设计出来并拥有一个野心勃勃的目标 , 不管这个目标是什么 , 那它就可能产生自我保护的行为 , 以便能够实现它的目标 。但是 , 如果它们是人工智能社会的一部分 , 那它们在面对死亡时可能会缺乏人类那样强烈的恐惧 , 因为它们只需将自己备份一下 。那么 , 即使它被消灭 , 失去的东西也并不多 , 最多是最近一次备份点到现在为止累积的记忆而已 。此外 , 人工智能之间可以随意复制信息和软件 , 这可能会削弱个性 , 而个性正是人类意识的特色 , 如果我与你事无巨细地共享着记忆和能力 ,  那你和我之间还有什么差别呢?所以 , 一群相距不远的人工智能可能会感觉它们是同一个生物 , 拥有同一个蜂巢智能 。
所以 , 虽然我们一直将注意力放在智能的未来上 , 但实际上 , 意识的未来更为重要 , 因为意识才是意义之所在 。哲学家喜欢用拉丁语来区分智慧(“sapience” , 用智能的方式思考问题的能力)与意识(“sentience” , 主观上体验到感质的能力) 。我们人类身为智人( Hom sapiens) , 乃是周遭最聪明的存在 。当我们做好准备 , 谦卑地迎接更加智慧的机器时 , 我们可以给自己起个新名字——意人 (Homo sentiens ) !
Tags:


推荐阅读