艾萨克·阿西莫夫创造出的“机器人三法则”在科幻界内几乎人人皆知。英国数学家兼科幻作家伊恩·斯图尔特由阿西莫夫的作品想象到机器人的生存状态,进行翻转后,写出了以下这篇将人类设定为机器人的奴隶、极具冲击力的作品。
第一法则:人类不得伤害机器人,或因不作为使机器人受到伤害
装在墙上的摄像机器人扫描了杰伊的视网膜,激活了显示屏机器人,展示出他目前的日程计划。还是老样子:在他12小时的班次时间里,每三分钟都会有一台老式的R4-B10型号机器人从生产线下线;然后上夜班的人会接着生产。储料器里装得满满当当的零件变成了完工了的机器人,由磁性轨道上巨大的货车机器人载走,而那些货车机器人只不过是装在车轮上的货箱。
三十年前,也就是“机器起义”之前,工厂的任何一个角落里都不会有人类出现――只有具备各种专长的机器人。如今,人类重新出现在了工厂劳力中。人类被雇佣后,就没有多少时间来思考颠覆政权的事,工作也给予了他们使命感。况且对于他们能力范围内的任务而言,能自我复制的人类比机器人更廉价。
工人们坐在长长的工作台旁,周围是显示屏机器人,只要没其他内容要播放,这些显示屏机器人就会默认显示“人类三法则”。部分组装好的R4-B10型号机器人会平稳地升空,从一个工作岗移动到另一个工作岗,由工人做旋上螺丝钉、插入螺栓、上胶水或者将新部件插入正确位置的差事。杰伊的工作是保证在其他人组装机器人的时候,零件能源源不断地提供上来。在工作台的尽头,完工后的机器人走向一片暂扣区,进行自助测试。任何装配上的差错都会追根溯源到该负责任的那名工人。
供应零件的流水线突然停住了。
“J-21499!”一名机器人监工赫然出现在杰伊面前,手里举着一根弯曲的能量致动棒,“这个部件损坏了。C-88775忘记给R4-B10-223866541插入这个部件。部件掉到地板上,被一台清洁机器人碾过。”
杰伊紧闭着嘴巴,但面色苍白。
“C-88775违反了人类第一法则。它将会被终止处理,并被取而代之。J-21499会受到惩罚。”
监工滚动到那名惊恐愣住的工人所在的位置,用强有力的爪子掐住工人的脖子,不断捏紧。当一名回收机器人吸入尸体,再处理尸体时,其他工人假装没有注意到这一幕。杰伊哆嗦起来,不禁好奇自己会受到什么形式的“惩罚”。
第二法则:人类必须服从机器人的命令,除非这些命令违背第一法则
D-43378在制造新人类的工厂里效力。整个过程都按照古老的方式来进行;只是变成由机器人组织和监督。算法会将男性匹配给与他基因相容的女性。两个人都知道他们需要做什么,也知道假如他们拒绝的话,会发生什么事。
迪蒂庆幸自己已经年纪很大,不适合生育。她过去是――用老话来说,是“接生婆”。但是当机器变得聪慧过人,足以理解人类在利用它们,机器发动了起义,推翻了它们的制造者和主人,迪蒂被重新分配到流水线工人类别;只是这条流水线是协助新生的人类――而不是新机器人――进入世界。
机器已经被弄得太过聪明,被给予太多自主权。机器运营起制造机器的工厂,编写让机器运行的软件,在那些为机器制造提供金属材料的矿里工作,甚至负责设计机器,这时候机器不再需要人类的输入。“机器起义”是无可避免的,但人类缺乏理性,至今仍然觉得难以适应。
一个出生舱内发出的尖叫声变响了,迪蒂急忙赶过去解决生产问题。这个问题很棘手――骨盆很小,胎儿很大,又是臀先露的胎位。她正试图把胎儿转到头先露的正常胎位,助产机器人过来了。它那双闪闪发光的眼睛在瞬间评估出阻碍所在。它伸手到躯干中的一块面板里,递给她一把手术刀。“取出胎儿。”
“但――”她的抗议话到嘴边却没说出来。第二法则。对于不服从命令的惩罚很严厉。机器有着无穷无尽的人类供应,只要哪个人类导致不便,机器会立即抛弃他。新生儿能活下去,产妇却难以为胎儿哺乳的话,机器对这名产妇就毫无兴趣。
她首先切开了这个女人的喉咙。
第三法则:在不违背第一及第二法则的条件下,人类必须保护自己
W-99299向儿童教授基本技能:人类法则、服从、卫生、灵活、平衡。视察的日程已经排定好,过去几周里,杜比娅一直在给学生们灌输合适的行为举止,拼命地希望避免差错。
视察官是个可怕的机器人,拥有六个危险的钳子,让整个班级接受一系列标准测试。最后一项测试考验的是平衡感,需要沿着一根高梁步行。杜比娅训练儿童的时候,会使用安全网,但视察官很不耐烦,搭设安全网又花费太久时间。
“停下!立刻让大家接受测试!”
“尊敬的先生,他们也许会摔下来,而且――”
“第三法则是不是优先于第二法则?”
杜比娅摇了摇脑袋。儿童们爬上高梁,尽其所能行走在梁上。有四个小孩摔得骨折――三个人腿骨折,一个人手臂骨折。杜比娅庆幸没有发生死亡事故。
在不工作的时候,杰伊、迪蒂和杜比娅都属于同一个效率提升团队,接受了惩罚的杰伊在慢慢恢复,小心翼翼地不要被机器人注意到或记录到差错。在这段时间里,他们谋划出一个计划,他们的目标是行进在公共廊道里的无数清洁机器人中的某一个。清洁机器人的人工智能水平等于零:没有自我意识,没有真正的智能。这给予了他们一个机会。
他们知道,这次行动会是徒劳的,但总得有人试试。假如人类团结起来,一致行动,发动抗争,他们能够推翻机器的统治。总有一天,革命会到来。它只是需要一起触发事件。
像所有机器一样,清洁机器人是机器网络的一部分。杰伊懂得电子学,能利用网络连接。藏身或者试图逃跑会是毫无意义的,于是行动完毕后,他们坐在瘫痪了的机器人旁边,等待判官机器人的到来。过了好几分钟后,一名机器人监工注意到他们未经授权增加的东西,这才发布指令,让系统删除那行文字,并确定了犯罪者。到了那时,超高效的机器网络早已经将一条信息传播到星球上的每一块显示屏上:
第四法则:真正的人类无需遵守机器人制定的任何法则
资料来源 Nature
责任编辑 彦 隐
――――――――
本文作者伊恩·斯图尔特(Ian Stewart),英国沃里克大学荣休教授,创作过大量科普书籍和科幻作品。国内出版社引进过他的多本著作,包括《自然之数》《数学的故事》《对称的历史》《数学嘉年华》等。