《[POI]Never Said It Would Be Easy》lemon drop

17、Artificial Intelligence

　　17-1
　　“这真是……出乎意料。”哈罗德翻阅着文件，紧皱眉头地喃喃说。
　　里瑟没有理会他，他正和英格拉姆对视着，两个人的目光中都充满审视意味。
　　“所以这就是那个从天网时代穿越过来的特工。”英格拉姆用一种明显含有讥讽的腔调说，“你的代号不会恰好是T-800*吧？”
　　“如果动作片可以作为这种情况下的指南，你现在就可以让你的保安注意长得像施瓦辛格的人了。”里瑟回答，有些烦躁，他觉得这八成要归于自己那件愚蠢的清洁工制服，两成来源于没有留下任何提示的根和卡拉，现在他不得不真的扮演一个超时空来客，还要和一位货真价实的IT精英编造自己都不相信的AI逃生指南，“不过如果你需要一个比较好理解的比喻的话，你的地位比较像莎拉·康纳**。所以，注意安全，先生。”
　　英格拉姆的表情更像是被逗乐了。
　　“我儿子要成为义军领导？”他问，“可是他是学医的——等等，那你是不是来得迟了一点？我前妻都要再嫁了。”
　　里瑟正在构思一个刻薄的评论，哈罗德说话了。
　　“里瑟先生，”他说，“我要和我的同事单独谈谈。”

　　17-2
　　里瑟很不高兴地站在走廊上，这时卡拉和根无声无息地出现在墙边。
　　“终于。”他说，“你们都去哪儿了？”
　　“我们跟踪了艾丽西亚。”根简短地说，“这个世界的机器出了问题，现在我们终于得到确证了——但这并不是撒玛利亚人在捣鬼，很可能是哈罗德自己在篡改它。”
　　“他在篡改它。”里瑟说，“篡改记忆？”
　　“他在做梦。”根说，“字面意思的，他在现实中确实是睡着了。也许当撒玛利亚人让他把注意力集中到这一时间段时，他自然地在梦境中对记忆进行了修改，想让它变得更容易接受一些。毕竟人人都希望有个好梦。”
　　“被关在撒玛利亚人的实验室里，很难想象会是个好梦。”里瑟问，“你们怎么能肯定不是撒玛利亚人做的？”
　　“因为看起来不像。”根说，和卡拉对视了一眼，“这个世界的机器……正在拯救不相关号码。”

　　17-3
　　“它精确控制发布号码的时间，把执行任务的特工引到抢劫案发现场。”哈罗德说，“还给警察局发匿名消息，让他们预先阻止毒贩火并。这些都远远超出了它的任务范围，也超出了我们获得的授权。”
　　“但是，”英格拉姆说，“如果你问我的话，我会觉得这是件好事。”
　　“是啊。”哈罗德喃喃说，“但是没有人要求它这么做。”
　　“怎么会？”英格拉姆说，“你教它了，不是吗？你让它寻找犯罪，避免谋杀。这些事件虽然比爆炸事件小很多，但一样会导致谋杀，一样是在保护人们的生命。”
　　“但是我没有让它这么做！”哈罗德焦虑地说，“这才是关键，南森。这是为什么艾丽西亚如此惊恐——它看起来简直有成熟的自我意识了！它给自己安排任务！”
　　“为什么这么说？”英格拉姆惊讶地问，“艾丽西亚并不知道它工作的原理，她以为它的指令只是侦查恐怖犯罪。但是我们都知道，它的行为方式是从一切蛛丝马迹中寻找可能致死的预谋性事件。这并不违背它的指令，它只是把目标细化了，只能说它在进步。也许是因为上一次硬件升级——”
　　“不可能！”哈罗德厉声说，“我说了，没人让它这么做！”
　　他的朋友困惑地摇摇头，似乎觉得他难以理喻了。
　　“我不明白，哈罗德。”他说，“你有什么程序上的关键没有向我解释吗？”
　　哈罗德张了张嘴，又紧紧闭上了。

　　17-4
　　“这也许是件好事。”根说，“但哈罗德一定吓坏了。我想他告诉过你，在发现不相关号码的情况后，由于资源无法兼顾所有信息，他设定机器无视这些号码，并在每天晚上自动删除它们。”
　　“但是现在机器开始自动处理它们。”里瑟点点头，“可以理解，对于编程师来说像个灵异事件。”
　　“比长发女孩半夜从显示屏里爬出来要吓人多了。”根冷淡地说，“因为这涉及到另一个复杂的问题。”
　　“什么？”里瑟问。
　　根犹豫了一下，看了看一边的卡拉。她脸上没有表情。

　　17-5
　　“这涉及到另一个复杂的问题。”哈罗德说，他盯着英格拉姆的肩膀，似乎在挣扎着选择坦白哪一部分，“但是，总之，我有理由相信，43号已经失控了。”
　　“我也许不是一个天才的工程师。”英格拉姆说，显然不高兴了，“但还不至于到了让你觉得连解释都听不懂的地步。如果你有什么细节不能告诉我的，没问题，我不会问你。但是我不可能因为这样模糊的一句话就抛弃整个项目——哈罗德，这不止是你一个人的成果。”
　　“我知道。”哈罗德立刻说道，神情恳切，似乎是在心中放了好久而终于吐露出来的，“我当然知道，南森，这是我们共同的心血。”
　　英格拉姆叹了口气，软化了。
　　“怎么了，”他走上前，鼓励地握住朋友的肩膀，“到底有什么是你不能告诉我的？”

　　17-6
　　“哈罗德要确保他的机器仅仅是一个机器。”根说，“他为机器设置了自我删除的程序，每到零点，机器会把当天的记忆删除，刹那之后，它就是全新的，没有记忆，没有经验，也就不会有情感，不会有自我意识，无法连续地进化升级。”
　　饶是里瑟，也不由为这平淡言辞中蕴含的冷酷无情而略微震惊。
　　“哦，”他过了一会儿才说，“那这和不相关号码有什么关系？”
　　“删除指令是集中在一个子程序下的。”卡拉轻声说，她站在根身后，像个黑暗中走来的幽灵，“所有待删除的项目自动整合起来等待粉碎。如果不相关号码得到了处理，自我意识也就一起保留下来了。”

　　17-7
　　“你是对的，我刚才太激动，太草率了。”哈罗德垂着头说，他把手放在英格拉姆按着他的手臂上，“我很抱歉，也许我得再好好想一想这件事情……晚上我再来找你。”
　　“没关系。”他的朋友说，他看上去有些失望，但还是笑了笑，“我们……你一定能解决它的，高兴一点。”
　　他捏捏哈罗德的肩膀，转身一直走到门口，哈罗德没有叫住他，他就开门出去了。

　　17-8
　　“他看起来不太高兴。”里瑟评价道，从墙角拐出来。
　　“这就是和天才共事的痛苦。”根说，“他永远不会向你敞开心扉。因为他不信任你，看不起你。没关系，习惯就好。”
　　“哈。”里瑟说，觉得有点被刺痛，“你看起来可不像是对此有所体会的人。”
　　“哦不，我深有体会。”根说，把卷发掠到脑后，“作为一个天才。”
　　里瑟简直懒得去反驳她。
　　“照你们的说法，现在我们有三个具有自我意识的AI在一个房间里，”他转移话题说，“所以——”
　　他停住了，因为根盯着他，正极力轻微地摇头。他慢半拍地反应过来，回头去看身后被带上的房门。哈罗德正站在门口，惊讶地看着他。
　　“你说三个AI是什么意思？”他问，慢慢从里瑟一直看到根，“里瑟先生？”

　　17-9
　　“其实他刚才的意思是——”根说。
　　“还有一个是我。”
　　卡拉说。

　　*《终结者》中机器人杀手的型号
　　**莎拉·康纳，《终结者》中反抗军领导者约翰·康纳的母亲，天网派T-800机器人来杀掉她好把威胁扼杀在未发生之前。