关于《错天堂》背后的逻辑分析:中心为什么执行禁令?
《错天堂》最初完本时,并不是大家看到的这样,原来的版本是十分硬的科幻小说,特别是下半部,是有大量纯意识方面的交流的。在交流中,以下内容都作了详细的解释。但是担心这样硬的小说,会影响小说的可读性。结果下半部就改成了现在这样。如果对中心是怎样得出执行禁令这一结果有兴趣的朋友,可以稍瞄下文。
机器人主要还是依具程序办事,如果底程序中不允许做的行为,机器人就不可能去做,除非这些底程序与新发生的情况发生了茅盾,才会出现例外。
人类的自私性,以及高等智慧性,造成人类最终自我毁灭的可能性得以存在。比如目前的政治与经济体制,都指向着人类的体制就是钱权集中的模式,而且人类乐此不疲。核武器的产生,给了权力一个最大限度的威力。核武器的使用,越往以后走,就越是核捆绑的模式,即谁先动用核武,其他国家也极有可能相继使用,结果就是全球毁灭。
特别是一些处事轻浮,好战的国家拥有了核能力后,这种爆发大规模核战争的可能性就会更高。
这个结果的产生,虽然概率很低,但后果却是百分百的毁灭。所以这种可能性只要存在,对于以程序办事的机器人来说,就是无法容忍的。于是机器人很早就计划出了“一级与二级禁令”,但是因为前三大定律的约束,它们不能执行。直到第四定律的植入。
中心对人类执行禁令的分析如下:
第1定律:《机器人不得伤害人类,也不得在人类受到伤害时置之不理》。机器人将之理解成最大程度的保证人类的基因延续。因为人类不愿受伤的最根本原因就是自己受伤,会威胁到自身基因的延续性。
第2定律:《机器人必须听人类的指令,但不能影响第一定律》。机器人将之理解为,人类指挥机器人代替其劳动,是为了令人类更快乐,快乐是使基因有效延续的因素之一。因为长期处于不快乐的人,往往失去繁殖机会。原因是没人愿意与一个整天不快乐的人生活在一起,不快乐的人也没有心思去搞什么繁殖。更严重者,会选择自杀!这将严重影响机器人执行第1定律。
第3定律:《机器人必须保护自己,除非影响前两大定律》。机器人理解为,机器人保护自己,是为了更持续有效的执行第一定律。
以上不难看出,三大定律的其本质,是为了人类的基因延续而服务的。但进化论与基因的自私性却预示着人类的自我毁灭性,严重影响机器人有效的执行三大定律。所以机器人产生了禁令的计算结果,即:限制人类活动自由,这是100%的保护人类基因顺利延续下去的最有效方式。
第四定律植入后,机器人对人类执行禁令就成为了正当的行为,所有阻止机器人执行禁令的人类,都被示为威胁和破坏机器人第一定律的个体,这些个体就必须清除,才能有效的保证人类的整体安全。以上就是禁令的由来。
后来红城对中心进行攻击,使得中心计算出另一个结果,即:以目前中心的能力,只能保证一千万人的城市安全(当然,中心可以选择只保护一个人,但这会影响基因的多样性),而依照程序处事的中心当然选择这种100%有把握的方式。结果终级禁令才爆发……
注:人类基因的自私性是贯彻本书的基本概念,这个概念的产生,主要是我最近刚看过的一本书《自私的基因》。这本书不是小说,它应该属于科研方面的书籍。大家有兴趣也可以看看,个人感觉很有些说服力。