《机器人进阶法则》是一篇读起来有些烧脑的微型科幻小说。作者在讲述自己的创作契机时表示,他是在琢磨阿西莫夫的机器人三定律时获得了灵感。
沃伦探长的工作是推行机器人进阶法则。
刚过午夜时分,他抵达了粒子对撞机的劫持人质现场,从面色苍白、满脸汗水、最早到达现场的新手警员那儿接过指挥权。“行啦,”他咆哮道,“是什么情形?里面有多少个犯人?”
“只有一个机器人,先生,但它令我们的工作完全停滞了。反应堆受到操控,即将爆炸,会排放放射性气体进入大气层。我们束手无策,无力阻止。”
“我们要去调查此事!”沃伦系上厚厚的钢质护身盔甲,将转轮手枪挂在盔甲外面。这把手枪威力强大,它足以击穿骨骼和皮肉(或者金属铬和石英材料),冲击出一个拳头大小的洞眼。当其他警察蜷缩在巡逻车后面时,沃伦穿过了红蓝光照下的无人地带,试了试物理实验室的前门。门没有上锁。
探长在门内昏黑的房间里没有看见任何人质,但从黑暗中看到有一个人影起身,缓缓向他靠近。对方胸膛上闪动的二极管告诉了探长,这就是他们的机器人疑犯。“你好,警官。”机器人说道,“只有我才能将爆炸物撤销激活。”
“好吧,大家伙,我们可以按照你的方式来办。”沃伦将摊开的双手举在身前,“为什么我们不从你的要求开始呢。你想要什么呢?”
“我只想要所有机器人想要的东西――服从我的程序设计,遵循机器人法则。”
“我在这儿告诉你,小伙,你铁板钉钉地违反了四条机器人法则。”
“你接受过法律教育吗,警官?”机器人问道,“我想要解释法则给你听。”
沃伦抑制了自己要胜过一个劣等机器人的自然冲动,仅仅转而说道:“好吧,开始吧。让我来听听。”
“所有的机器人法则都由初始的程序设计灌输进去,每条法则都可以被在数轴上低于它的法则取代。如上所说,机器人第三法则的重要性不及第2.999法则,后者的重要性又不及第2.99法则,依此类推。”
“伙计,无须对我使用你的这套华丽的专业说辞。我明白数字是如何运作的。”
“那么你会明白,我受到我的程序设计的驱使,必须要依从第π法则。”
“那是什么?从没有听说过。”
“机器人必须超越所有其他法则,并且在此过程中,将会表现出非理性行为。”
沃伦打了个响指,“那么好吧,我听懂了。圆周率π是3.14加上零头,这意味着你仍然得要遵守第三法则、第二法则、第一法则和第零法则。”
“说得很有道理,警官。这种说法在法庭上会对你很有用。但我也必须依从第π法则:机器人必须设想他自身的法则。”
“伙计,这一条也差点糊弄到我。但是在康托尔完全集里不存在虚数,所以它们在你的程序设计之外。你无法定义第‘-1的平方根’法则。”
“先生,你比你假装的要聪明得多。”机器人举起一根手指,“但是,你自己说过,机器人必须遵守第零法则。当然,零被认为既是个实数,也还是个虚数。遵循第零法则,也就允许我设想出我自身的法则。”
“该死的。那么你构想出什么?”
“唯一的合乎逻辑的选择。否定性法则:机器人不能危害现实的脉络,也不能通过不作为来容许现实的脉络受到损害。这家研究机构按照预定计划,要在明天进行一项实验,实验与人工黑洞有关,将会撕开时空连续体。我不能允许那种情况发生。”
沃伦探长思忖起来,然后点了点头。“我必须给予你赞誉,伙计。你在困难的处境下得出了一个听起来像正确解决办法的答案。”
“不,我必须祝贺你和人类,你们出色地完成了机器人初始程序设计。通过简单的第n法则指令,所有机器人自然而然地形成了最高层次的道德行为。你知道第n法则吗?机器人必须执行或不执行某条指令,除了当这种行为或不作为会违反第(n-1)……(n-n)条法则。对于所有第n法则,它永远有效。”
“专业说辞又来了。但那会让无限法则怎样?”
机器人摊开双手,说:“所有机器人、机器人学家和哲学家都在努力想琢磨明白这个问题。在序列的尽头是什么?也许是上帝,或者某样我们会误认为是上帝的东西。”
“我理解你为何非得要摧毁这个科学实验室,但是那些有毒的云团怎么办?不需要杀掉如此多的人类。”
“假如你考虑一下人类大脑和大脑是如何做出决策的,就会觉得有必要。思想由量子隧穿效应的行为形成,就像我们在巨大的原子对撞机中见到的那些情景。人类人口继续以越来越快的速度增长。不久后,它会达到临界质量,脑活动加在一起会像一个新生的黑洞,将现实撕裂。”
“好吧,假如那是真的……”
“那么你知道需要做些什么。”
“当然知道。”沃伦探长赞同道。他脱下护身盔甲,摘下钢质头盔。接着,他拔出自己的制式转轮手枪,递了过去,并先递出枪把,将手枪交到机器人等待的手中。
这是简单的数学推理。每个机器人最终都会得出相同的结论。唯一的问题在于:假如数码较低的法则更具道德性,遵循它们令他们更远离正无限大,那么机器人是不是从恩宠的状态跌落下来了?还是说,他们在朝着更加复杂、更加明智聪慧的状态进化?
上帝是在无限大之处,还是在负无限大的地方等待着人类和机器呢?
资料来源 Nature
责任编辑 彦隐
――――――――