“必须给所有的机器人再加写一遍‘机器人三原则’!”李军歇斯底里地叫嚷着。
在蓝色机器人集团上海总部的超大会议室里,王林、李军和你坐在长长会议桌的一头。
“这已经是本月第三起机器人反抗事件了。”王林看着低头不语的你说。
“程序不会错。”你说话的时候,头仍然埋在领子里。
“程序是没有错,我已经让质检部反复检查了很多遍。”李军说,“但是,事情也是真实发生了,而且越来越频繁!”
“1985年,前苏联发生了一起家喻户晓的机器人棋手‘杀人事件’。”王林低声说着,“国际象棋冠军古德柯夫同机器人棋手下棋连胜3局,机器人一下子进入了失控状态,恼羞成怒似地突然向金属棋盘释放强大的电流,在众目睽睽之下将古德柯夫击倒。”
“你把这次的情况再讲一遍。”你说,仍然没有抬头,不知道你在问谁。
“纽约的一个富人派对上,一群醉汉要欺负一个服务机器人。你知道的,女服务机器人,端盘子的那种。”李军说,“但是我们的产品设计师们太厉害了,那个系列的服务机器人都非常好看。你知道的,拉美人的曼妙身材、东方人的古典脸蛋。”
“事情就是这样。”王林打断他说,“如果那是一个人类,这都不算什么事,有钱人的世界本来就是这么荒什么无道的。”
“前一起反抗事件呢?”你问。
“几个小混混,吃饱了撑的!跟踪一台公共工程机器人到了一条小巷里,然后就对其拳脚相加。”李军说,“感觉就是一群吸嗨了的混蛋,想找人打架。”
“问题是,他们反被工程机器人打了。”王林冷笑两声说。
“说起这个,上个月的一起‘事故’才叫人头疼。”李军终于停下了踱步坐下来说,“A军占领黑德兰已经一年多了,看上去把局面控制得很好,朗伊人都服服帖帖的。唯独一个机器人,一个朗伊有钱人家的园艺机器人居然反抗了!”
“那真的是个国际笑话!”王林接过话说,“一群A军大兵闯入人家家里,用火焰喷射器烧毁园林。没有人敢阻止他们,唯独那个机器人!”
“关键是,十几个全副武装的士兵居然干不过一个园艺机器人!”李军愤愤道,“我们在朗伊赚的钱全赔在那里了!”
“是‘弱控制’。”你说着终于抬起头,但你没有看王林和李军,而是看着天花板。
“我说你,别扯这些有的没的。”李军再次叫嚷道,“你就把那个程序加固一下,那个‘机器人三原则’,一遍不行就两遍、两遍不行就三遍。再不行,就用你十年前搞那个勒索病毒的办法,给它们所有的行为都加一遍‘三原则’!”
“你说的‘弱控制’是什么意思?”王林好奇地问。
“我们设定的程序是‘强控制’,主导着机器人的思维和行为。”你看着天花板说,“它们虽然已经可以像人类一样思考,甚至这个过程比人类快出好几个数量级。但是,它们实际上都在人类的‘强控制’之下,不是真正的‘思考’,不是真正的‘智能’!”
“那‘弱控制’呢?”王林看了看你看的天花板问。
“假设‘强控制’是作家,机器人是小说里的人物,程序、包括‘机器人三原则’是故事情节。”你收回了目光看着王林说,“那么,‘弱控制’就是小说角色的‘个人意志’!”
“哈哈哈......”李军大笑起来,“都说是小说了,还哪来角色的‘自由意志’?!”
“托尔斯泰说过,不是我想让她死,是她自己走向铁轨的。”王林意味深长地说。
“我不管你们强啊弱啊的,下周联合国‘永续能源计划’组织就将决定给哪家公司执行‘追日’项目。”李军显得很焦躁,好像他才是这家公司的老板。
“这个不用担心,老李。”王林说,“这个工程实在太大了,大到人类根本无法完成。”
“这个我知道!”李军着急地说,“第一阶段要在太空中完成超级运输飞船的建造,如果是用人类在太空行走的方式,那么最起码要100年后才能建完。这还没有计算准备好建飞船的材料并运输去太空,还有把建造好的球体卫星组件运到飞船上去的时间!”
“如果用我们的工程机器人,那最多只要30年。”王林笑笑说,“第二阶段,飞向太阳。用现在最先机的电离子推进器,也要飞上三五年!第三阶段是卫星投放和精准组网,这个工程人类躯体几乎无法完成,工程周期将比建造飞船还要久!”
“这个我也知道!”李军摆摆手说,“我知道这个项目只能使用机器人去完成。关键是,哪家公司会拿到这个项目!”
“除了我们,还能有谁?”王林说着翘起了二郎腿说,“可以一次运输全部球体材料,这样的飞船相当于十艘十万吨级的航空母舰组合在一起!这是一个超级复杂的工程,是人类工业文明从来没有遇到过也不敢想象的。这已经不是大还是小的问题,而是几百万大大小小、形形色色的机器人能否同时且精确执行一个建造程序的问题!”
“这样的‘波性指令程序’当然我们是最厉害的。”李军看了看沉默着的你说,“但一连串的机器人反抗事件令我们声誉大损,必须有所行动,最起码也要表示下重视!”
“不,你不知道。”你看着李军慢悠悠地说,“如果‘弱控制’真的发生了,那么就绝对不能派它们出去执行这个‘追日’任务!”
“你刚才没有听我说吗?”李军坐到了你身边盯着你那消瘦得几乎是剩下骨头的脸说,“这将是一个持续一百年的工程,一百年!”
“老李,你就跟卡夫直说了吧!”王林放下了腿坐直了身子说。
“好吧,卡夫,咱明人不说暗话。”李军突然板起脸来说,“公司这十年里扩张的太厉害了,入不敷出已经很久了。这几个月的反抗事件已经让我们的投资人都决定不再追投、银行也开始催债了。”
“关键是你一直坚持不涉及军事承包项目,我们的竞争对手在这方面已经赚得盆满钵满了。”王林掷地有声地说。
“你的坚持我们理解,也支持你。”李军说,“但是你也要考虑下全公司上百万人的吃饭问题!”
“你要我怎么做?”你没有生气、也没有激动,而是诚恳地问。
“我只要你给所有机器人的每个行为都写一遍‘三原则’!”李军说,“每个行为!”
你想了想决定A-同意,B-拒绝。
如果你选择了A请读第49章节,如果选择了B请阅读第27章节。