阿西莫夫诞辰百年:人类的远望探头

优秀的科幻作品中所包含的是某种超越时代的精神,只有通过与时代的反复关联,才能发掘出其中的现实意义。今年是阿西莫夫诞辰100周年,如何在问题重重的当下重温其作品、正确认识他的遗产,值得学界深思。中国当前对阿西莫夫的研究不能仅停留在讨论他如何尊重科学,或者他的作品如何更好地普及了科学知识、科学精神这样的话语上,更重要的是,他所担忧和警惕的问题至今仍然具有现实意义。
 阿西莫夫诞辰百年:人类的远望探头
文章插图
撰文 | 吴岩(南方科技大学人文科学中心教授 )、 陈发祥(南方科技大学人文科学中心研究助理)
来源:社会科学报社
如何在这样的年代重温阿西莫夫的作品、正确认识阿西莫夫的遗产,应该是思想界关心的一个话题。可惜的是,在中国有关这个话题的讨论还很少。究其原因,可能是多年以来我们一直把阿西莫夫定位为一个科普作家或科幻作家,认为他的工作是为了维护科学精神,或者撰写虚构故事以繁荣文化产业。事实上阿西莫夫的作品和个人经历远远超越这样的定位。
在南方科技大学的想象力与科幻相关课程上,阿西莫夫会被当成一个思想家来介绍,因为他的创作早已超越了作品中所传递的科学知识,超越了故事中所虚构的内容,构成了一系列重要的思想。他的科幻作品中思想性最强的,就是他对机器人跟人之间关系的探索,以及被放大到宇宙尺度的大国治理和国际竞争。而他在过往的年代中所担忧和警惕的问题,至今仍然具有现实意义。
三大定律约束的不单单是机器人
机器人三大定律
任何人都无法绕过阿西莫夫机器人三大定律。这三大定律最早是在阿西莫夫1942年的短篇小说《环舞》中首次被完整提出的。三个定律的内容主要包括:
第一定律:机器人不能伤害人类个体或看着人类被伤害而袖手不管(LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.);
第二定律:机器人必须服从人类的命令,除非这些命令与第一定律冲突(LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.);
第三定律:在与第一、第二定律不冲突的情况下,机器人必须保护自己的存在(LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.)。
在1942年,人类的第一台“电子数字积分计算机”ENIAC(Electronic Numerical Integrator And Calculator)还没有问世,有麦卡锡、明斯基、罗切斯特和山农等参加的首次人工智能讨论会也还没有召开,但阿西莫夫已经凭借他的科幻作品讨论了这一学科的未来发展及其所必定要面临的重要问题。这个问题就是智能化时代人工造物研发和生产过程中最重要的方法学和内容范式。只不过,他没有撰写论文,而是通过一系列具象的故事,将这些思考、观念或关怀展现出来。这些思考并非技术实现,在他看来,更重要的是机器人或人工智能(至少在他的前期著作中无法区分)的发展,必须与社会变化、生产矛盾、人类发展的阶段性相互适应。定律约束的不单单是机器人,更是人工智能研发的阶段性状态下的人类本身。
 阿西莫夫诞辰百年:人类的远望探头
文章插图
暗含了智能机器作为后人类物种的法定性
如果斗胆以今天的观念表述方式来重新阐述三大定律,在这个意义上,我们认为,第一定律和第三定律主要讨论了自主系统的安全、可靠和可信问题。而第二定律则重点提出了“科技向善”和人工智能研发中的道德底线。当然,这仅仅是一个粗浅的比喻。事实上,每一个定律看起来用词简单,但内容覆盖却非常复杂,且可能含有多个层次。
例如,第三定律中提到机器人保护自己的安全,这看起来应该是定律中最次要的(放在了最后),但由于暗含了将人工智能当成一个自主的智慧体的含义,它应该处于三定律中最为核心的位置。只有自我意识产生之后的个体才能保护以我为核心的存在的安全。如果只有第一和第二定律,人工智能跟受控且不自主的机器没有两样,撰写这样的定律根本就是多余。但由于有第三定律的存在,前两个定律才得以被纳入。


推荐阅读