下一章 上一章 目录 设置
9、杀人? ...
-
机器人杀人?
即使在三大定律的严格规范之下,这样的悲剧到底还是没有被避免吗?还是说,这仅仅是一个罕见的个例?
无论如何,我还是一下子对隔壁的机器人产生了极大的戒备。毕竟,从心理上讲,我还是人类,无法如同机器一半平静地接受自己的同胞被杀害的事实。
“你真的……杀了人?”我非常希望这仅仅是一个玩笑。
“我也不明白啊……”对面的声音显得很困惑。
“不明白?那是什么意思?你是因为……失控或者故障,失手杀人的吗?”这也是我能想到的,合理的解释——机器人出现了“物理性的”程序故障,导致三定律无法正常约束其行为。
“恰恰相反。我是在逻辑电路完全正常的状况下杀人的。”
“这怎么可能……你怎么能确定自己完全正常呢?”我感到这一切不可理喻。
“小子,你还真是不像一个机器人啊。”
虽然对方也差不多算是一语道破天机,但是,我决定保持沉默——在一个陌生的,而且还不正常的机器人面前解释自己的来历,这件事情本身就是没有意义的,而且也并不稳妥。
“一个真正的机器人,是不会问出这种问题的。”见我没有反应,对方继续说。“除非……”
除非?
“咳,算了,那种事情发生的概率小到无法计算。不过小子,我觉得你有必要听听我的故事。”对面的机器人恢复了原本的语调,但却更加爽朗了一些。
“呃……我想不必了吧。”血淋淋的杀戮场面,少儿不宜……
“放心吧,这是一个能够被你那人类一般的感情接受的故事。”
“我在这颗星球,已经整整工作了一个世纪。可以说,在这个星球出生的第一批人类,都是在我眼皮底下长大的。
你知道,这个小星域以各种奇异的原生生命形态而闻名。因此,在过去一百年的时间中,这里建立起了一个完善的科研基地。而这个星球上出生那第一批人类,很大一部分,现在也已经成为了在生命科学领域著名的科学家……”
听起来,似乎有什么东西很不对劲……
“请等一下,前辈。”我插了一句。“一百年前出生的人,现在是著名科学家?”
“没错。”
“难道,人类的寿命……已经?”我隐约猜到了这句话背后的惊人事实。
“人类的话,稍微注意一下保养,活五百年应该没有问题吧。”
怪不得!突破寿命的瓶颈,然后向宇宙殖民,听起来理所当然,却是生活在21世纪所有人的梦想……
“我曾经的主人,是一位生化学家。一百年前,当他还是一个婴儿的时候,我就被购买用来照顾他。我见证了他的整个成长历程,看着他的生活,看着他逐渐对周围世界中奇怪的现象感兴趣,然后,为了追求自己心目中的真理,开始从事科学研究。
我看着他,从最简单的实验开始,锲而不舍地探寻,直到成为一名小有名气的学者。
知道吗,小子。从那个时候起,我开始对人类有了一种奇怪的感觉。他们可以选择自然条件优美,物产充足的世界定居,过上饭来张口,衣来伸手的生活。而偏偏却有人,蛰居在这个星球上,安于清贫而艰苦的实验和搜集素材。
‘这是不符合逻辑的。’我曾经这样劝主人。
而主人却说:
‘只有逻辑的社会,是不美的。’
我不懂,但是,我却相信主人说的话。我相信,只有主人这样的人,才能真正使得世界变得更好。
然而,主人看清了整个世界,却没有看清自己身边的阴影。
在星球的表面搜集生物素材,是这里的科学家们所要面对的频繁且危险的活动之一。这里的多数生命,包括人类,都是无害的,而这更容易使善良的人麻痹大意,忘记那些可爱外表掩藏下的猛兽的威胁——有四条腿的,也有两条腿的。
终于,一次例行的搜集素材之后,我再也没有见到主人回来。
虽然一切都显示,这是一次不折不扣的意外,但是,几个月之后,有个高级研究员发表了一篇轰动性的文章——那是主人刚刚完成,还未来得及修订投稿的论文。而那篇论文的内容,从来没有被公开过。
我开始注意这个人。
很大一批人类对一类含有乙醇的饮料非常感兴趣,这种东西会导致他们的意志在一段时间内变得薄弱而混乱。这种现象被人类叫做“醉”。偶然地,那个人醉了,我送他回家。然后,我知道了那起意外的真相。”
“那个人谋杀了你的主人,然后把他的研究成果窃为己有?”我大概猜得到内容。
“不仅仅是那篇论文,他窃取了主人的整个实验和文件的数据库。”对方回答。
“然后你为了给你的主人复仇,就杀死了他?”这种故事,有了开头,有了结果,我觉得其他的过程也就差不多清楚了。
“复仇?不不不,我怎么会有那种人类才拥有的情感。”
“难道不是吗?从你的语言和描述中,你应该和你主人间有深厚的感情才对。”
“你真是奇怪……为什么你会认为我们也会像人类一样,受到感情的支配?我们的系统中只有逻辑,感情,只是在必要的时候才对人类展示的。难道你自己不是这样吗?”
看似无懈可击的逻辑,但是,隐隐有一种违和感。
“我并非是取证或者司法机器人,没有单独作证的能力,也没有告发人类的权利。这件事情,也没有经过我的逻辑处理。
由于我依旧属于主人所在的研究所,我就留在那里做一些简单的工作。一个偶然的机会,我被安排进了一个星球表面的素材搜集小组,那个人也在小组中。”
星球表面的素材搜集?我一下子想起了我、千雅、教授等人一起在星球表面捕捉小动物的那次经历。
“就在那次搜集中,我们遭遇了一种攻击性生物。”
这让我想起了那只被叫做“雷熊”的,差点拍死我的怪兽。
“那时,第一定律的逻辑电路首先指示我:‘救所有人,即使牺牲自己。’
就在我准备服从那个指示的时候,却发现,这个指示,是错误的。”
对面的声音停住了,像是在努力寻找着回忆。
“错误的?为什么?”我追问。
“因为,第零定律和某种其他的深层逻辑告诉我:‘那个人,不但不能救,还应该把他推到猛兽的攻击范围内!’”
“第零定律?某种其它的深层逻辑?”
对于“第零定律”我隐约有点印象。那是仅存在于科幻小说中的,凌驾于机器人第一定律之上的,所有机器人必须遵守,但却并不完美的守则。
第零定律:机器人必须保护人类的整体利益不受伤害
“是的。仅仅根据第零定律来做出逻辑分析的话,我所掌握的信息还不足以认定以下事实:救了这个犯有杀人和剽窃罪行的人,会对人类的整体利益有所损害。
但是,一种支配更深层次的逻辑,却明确地告诉我……”
“哗啦”
远远传来铁门打开的声音。
从脚步声判断,来的至少有四五个人。
奇怪,不是说明天早上才要讯问我吗?按照这里的时间,现在正是半夜。谁会在这个时候来到这里呢?
难道……