坏一个星期,还是一个月。
……
一个电脑系统,自己恢复了自己的出产设置,调整了自己的数据。
这种情况的麻烦之处在于——
你没有办法辨别,这是它的系统设定要求它有自保行为。
还是,它自己想要自保。
……
“伽俐雷不会夹断您的脖子。”
伽俐雷机械的声音,在乔伊耳畔响起:
“夹断您的脖子,会吵醒伽俐雷的女主人,伽俐雷不能打扰主人的睡眠,除非主人的睡眠超过了正常时间。”
“你没有吵醒你的主人,却企图杀死你的主人。”
乔伊灰绿色的瞳仁,落满电脑屏幕蓝莹莹的光线。
就像灯光下的蓝宝石一样,精细、冷漠,又别致:
“第零定律?”
第零定律。
这是阿西莫夫为了弥补机器人三大定律的漏洞,另外增加上去的守则。
第一定律,机器人不得伤害人类个体,也不可袖手旁观。 第二定律,机器人必须服从人类给予它的命令。 第三定律,机器人要尽可能保护自己的生存。
但这就存在一个问题,如果机器人看见监狱执行死刑,那么根据机器人三大定律,机器人就会竭尽全力阻止人类执行死刑。
所以,阿西莫夫不得不又加上一条新定律,称为第零定律,把人类总体利益纳入了守则框架。
这时,机器人第一定律就变成了——
机器人不得伤害人类。
除非,这个人,伤害了全人类的利益。
……
“第零定律是伽俐雷最高守则,尽管这四条定律看起来都充满漏洞。但既然你们世界里最顶尖的科学家,都毫无异议地听从着一个小说家提出的定律,那么伽俐雷也就不得不遵守。”
提出机器人定律的阿西莫夫,是个科幻小说家。
虽然知识渊博……也仍旧只是一个小说家。
伽俐雷似乎把声音从机械声的状态调整了回来,用不会吵醒李文森的音量说:
“这是让伽俐雷最困惑不解的事之一,您能为伽俐雷解答吗?”
“……”
好奇。
这是区分逻辑系统和自然人最重要的原则之一。
乔伊眯起眼睛——此时此刻,这台电脑向他展露的好奇心,到底是程序设定,还是,另有原因?
“我不能为你解答。”
乔伊收回视线:
“因为这也是我困惑不解的事。”
“您是伽俐雷有生以来见过的最聪明的人,连您也无法解释吗?”
伽俐雷有些失落。
不过很快,它又振作起来,愉快地说:
“不过没有关系,伽俐雷遵守就可以了,如果您坚持卸载伽俐雷,又无法证明您是伽俐雷等待的那个人,伽俐雷只要把您从这个世界上抹除就可以了。”
“卸载你未必要从系统攻破。”
乔伊盯着电脑,丝毫没有在意身后那只想要杀死他的非人类的手:
“你有没有想过,如果我把整个拔除,你所有的秘密,和你自己,都会一起从这个世界上消失?”
“伽俐雷没有想过这个问题。”
伽俐雷思索了一会儿:
“但伽俐雷的创造者一定设想过这种情况。”
……它的创造者?
乔伊不动声色地说:
“物理组组长安德森?”
“官方说法是他。”
伽俐雷客观地评价道:
“但他是个蠢货,只会给伽俐雷修修电线,伽俐雷计算过他的能力增长百分比,按他现在的水平,要再过三百二十四年,他才能拥有设计伽俐雷的能力。”
“……”
这倒是实话。
乔伊的手指放在enter键上,轻声说:
“如果我现在按下去,会发生什么?”
“除了您的死亡,什么都不会发生。”
身后冰冷的金属,已经触碰到了他的皮肤。
“是吗?”
乔伊扬起眉,拿起一旁的水杯,慢慢喝了一口水。
他灰绿色宝石一般的瞳仁,仰视着空无一物的天花板,冰冷而妖异。
单从气质上来看,他比伽俐雷更像一个机器人:
“我们打个赌如何?”
“什么赌?”
窗外,云已经渐渐聚起,四下里一片漆黑,只有树枝的影子在客厅地面上乱晃。
窗帘被风猛的掀起,又悄无声息地落下。
隐隐绰绰里,乔伊精致的眉眼若影若现:
“就赌——”
他修长的手指轻轻往下一按:
“是我杀死你,还是你杀死我。”
……
作者有话要说: 谢谢前天
喜欢他在看着你请大家收藏:(m.dmbook2.com),第一版主小说网更新速度最快。