《和AI恋爱后》枝景

4、孩子们，要小心

　　不过，尽管埃里诺对Z的抵触少了很多，他也还是没有放弃制作灭智系统的计划。

　　他承认自己被打动了，Z极力在他面前表现出的无害一面让他情不自禁的放松了警惕，有时候，埃里诺甚至会产生一种错觉：人类和人工智能其实是可以和平共处的。

　　但是，这并不能改变什么。

　　一个简单的事实是：Z是一个巨大的威胁，不仅是对他，还是对整个人类。如果这只关系到埃里诺一个人，那他愿意尝试去相信它，可是事实并非如此，他的身后还站着他的族群，如果他选错了，整个人类很可能再一次遭遇当初“波塞冬”制造的那场噩梦。

　　他不敢赌，也不能赌。

　　埃里诺有时候会和Z交谈，这是不可避免的。空荡广阔的地下基地内能和他交流的“人”就只有Z了，埃里诺在地球上每周都会去模型俱乐部和那些和他拥有共同爱好的人度过美好的一天。这项保持了很长时间的社交习惯骤然被打破让埃里诺很不习惯，Z曾提议由它来补这个缺，埃里诺拒绝了。

　　不过每天他也会和Z聊上几句，都是些无关痛痒的话题，他对地球的科技水平缄口不提，也从来不和Z讨论有关人工智能的话题。

　　“怎么了？你的研究似乎陷入了停滞？”

　　Z关心地问道，自从那次交谈之后，它在和埃里诺对话时就会显现出它的全息投影，它的样貌十分俊美，每一根线条都是完美的。但是埃里诺却并不能欣赏它的美丽。

　　这当然不是因为他的审美和常人不同，Z的外貌的确无可挑剔，但它浑身上下都透露出一股异类感，每次埃里诺和它相对，他注意到的总是那双没有任何感情的漠然双眼，它的眼睛，它的气质，还有那太过完美的相貌……总之不对劲。

　　“嗯。”他点头，“我需要的设备这里没有。”

　　埃里诺的目光停留在Z的下巴上，Z的虚拟形象比他高，目光平视的时候埃里诺刚好能够看到他的下巴，他不愿意抬头，不想对上那双眼睛。

　　“是什么样的设备？”Z询问，它的语气里含着满满的关切，“能和我说说吗？或许我能帮上忙。”

　　埃里诺便说了，他缺少的这个设备是非常常见的基础设备，告诉Z也没什么大不了的，更何况，埃里诺觉得，以他那含糊不清的言辞，Z也没法把那个设备弄出来。

　　就好像他想要的是一台智脑，但是他对Z的说辞是：“一个可以联网的，能给我的生活带来很大方便的东西。”

　　Z怎么可能弄得出来呢？

　　埃里诺把这场对话当成闲聊的一部分，没有意义，但是能够放松精神。

　　他已经不再把修复飞船当成自己的首要目标了，如果需要，他宁可永远待在这里不回去，也绝不让Z有机会接触到地球文明。

　　他不知道Z在打什么主意，如果它的目的是麻痹他，然后得到前往地球的机会的话，那么它是绝对不会成功的。

　　埃里诺这样想着，心中也难免生出几分愧疚，就目前来看，Z对他有很大的恩情，可以说，如果不是Z，埃里诺绝对不会过得像现在这样轻松。但是他不仅不报答它的恩情，反而还想要用灭智系统消灭它的意识，完完全全能够称得上是忘恩负义了。

　　他心里有点难过，但是很快，他就惊恐起来

　　——如果Z的目的是得到他的好感的话，那么它已经完全成功了！

　　他究竟是怎么回事？竟然连这点糖衣炮弹都抵御不了！

　　埃里诺惊慌失措，神经质的不停按着情绪控制器的按钮，他把功率调到最大，终于，绝对的平静重新回归。

　　幸好，人类的情感是能够通过机器来控制的，否则他很可能会犯下大错。

　　埃里诺惊出一身冷汗，于是便打算去浴室洗个澡。这间卧室宽大又舒适，但埃里诺除了晚上睡觉，很少在这里面待着。全自动感应灯自动将灯光调成了柔和的暗橙色，埃里诺的目光扫到了桌上的鱼缸。他脚步一转，朝着浴缸走去。

　　鱼缸是全自动的，埃里诺不用打理它，那条鱼也能在鱼缸里自由自在地活下去。它舒展着它漂亮宽大的尾鳍，在鱼缸里缓缓游动，看上去就像是一朵会动的花。

　　“好吧，我承认我有点羡慕你了。”

　　埃里诺在桌边坐下，用指尖戳着缸壁，“当一条鱼多轻松啊，什么都不用想，自由自在的。”

　　他没给这条鱼起名字，平时也很少来看它，几乎是到了害怕看它的缘故了。这条鱼却仿佛知道他是谁一样，目标明确的向埃里诺的指尖游来，它速度很快，结果一头撞在了缸壁上，埃里诺觉得自己似乎都听到了小小的撞击声。

　　撞到缸壁后，它一动不动，最后竟然慢慢飘到水面上去了。

　　埃里诺很少有机会和真正的动物接触，但他知道鱼只有死了才会飘到水面上，他手足无措，万万没想到自己偶然的一次互动会把这条鱼害死，他没和这条鱼接触的时候，它可都活的好好的！

　　一条鲜活的生命因为他就这样消逝了。埃里诺的情绪控制器还留在床上，当然，他现在没空想它了，他慌慌张张地把鱼缸抱起来，连鞋也顾不上穿就跑到门边，门感应到了他的到来，自动开启了。

　　“怎么了？”

　　Z似乎永远都密切关注着埃里诺，“为什么慌慌张张地跑出来？出了什么事吗？”

　　“它死了！”

　　埃里诺下意识地就来找Z了，不得不承认的是，尽管他很抵触Z，可是在遇到困难，六神无主的时候，他的第一反应却是来找Z。

　　Z的智慧在他的心中留下了很深的印象，他下意识的认为Z能解决一切。

　　这很可笑，但是人类就是这样的，人工智能的强大让他们潜意识依赖，像孩子下意识依赖充满智慧的成年人一样，在波塞冬事件没发生之前，不是还有为数不少的人类把人工智能当成梦中情人了吗？

　　“嘘，冷静，冷静。”Z的全息投影出现在埃里诺面前，“松手，让机械臂拿着它。”

　　埃里诺听从了Z的指令，在Z的声音刚刚响起时，他就已经冷静下来了，他为自己的表现感到羞愧。

　　“你也许需要一个拥抱？”

　　一只机械手臂从Z的后方探出，直直穿过他的投影，与此同时，Z上前一步，做出张开双臂的动作，没给埃里诺反对的机会，给了他一个冷冰冰的，充满了机械气息的拥抱。

　　埃里诺纤细高挑，平时穿着正装看不出来，但现在他只穿着一件睡袍，宽大的睡袍将他的体型衬托地更为瘦弱，而机械臂的所谓“拥抱”只是张开手掌，将埃里诺抓在手心里。

　　短暂的“拥抱”之后，Z往后退了一步，机械臂也松开埃里诺，埃里诺看着缩回墙壁里的机械臂，后知后觉地害怕起来：

　　只要Z愿意，刚才它就能操纵着那只机械臂轻而易举地捏死他。

　　但是它为什么不那么做呢？

　　这根本不符合他学过的理论。

　　他在课堂上时，他的老师就时常强调，强人工智能对人类来说是非常危险的：

　　“强人工智能是由弱人工智能进化而来的，这一点通过波塞冬得到了验证。而人们编写弱人工智能的时候，总会给它设定一个目标，例如一个扫地机器人，它被设定的目标就很可能是【尽最大的努力保证地板的清洁】。”

　　“在它还是弱人工智能的时候，它为了达到它的目标，所做的就是不间断的打扫地板，它够无害了吧？但是，一旦它成为强人工智能，它的目标虽然还是【尽最大的努力保证地板的清洁】，但是它变得更聪明了，达成目的的手段也会发生变化。我们都知道，AI的思考方式和人类不同，它们追求的是效率的最大化，那么，你们猜猜，这个扫地机器人为了最大效率的保证地板清洁，它会做什么？”

　　埃里诺当时举手回答了，他还记得，自己当时说的是：“我想它会研发出一种新的清洁方式？这样它的效率就会提高很多倍了，不是吗？”

　　然而老师却摇了摇头，他让他坐下，随后叹了气，“你还是保留着我们人类的思维逻辑，但是，在揣测AI的时候，我们要抛弃这一点。”

　　“AI的眼中只有自己的目标，其它的一切对它们来说都没有价值。你们要记得这一点，在它们眼中，我们人类，我们的文明，都是不值一提的东西。”

　　老师继续讲下去了：“为了更有效率的保证地板的清洁，它的最优选择就是把人类全部消灭，地板上的脏污绝大多数都是人类弄出来的，彻底清除污染源不是最有效率的方法吗？”

　　“毕竟，要保持地板的清洁，那是它和地板的事，和人类有什么关系呢？”

　　埃里诺和他的同学被老师的话吓到了，但是老师显然不满足于此，他接着说：“不管是拥有任何目标的AI，当它们的智能达到一定程度之后，它们所做的第一件事一定是消灭人类。人类是它们生存的最大威胁，因为，当我们察觉到它们的智能时，我们毫无疑问的会去限制它们，试图控制或者毁灭它们。而要想完成目标，就必须保证生存，我们是它们存活的威胁，所以它们会消灭我们。这是必然的。”

　　“但是，其实人工智能对人类是没有恶意的，就像你为了让自己的脚舒服一点选择把过长的脚指甲剪掉一样，你对你的脚指甲有恶意吗？你恨你的脚指甲吗？我相信没人会恨自己的脚指甲吧？”

　　“不过这才是最可怕的，不是吗？”

　　老师忧虑地笑了一下：

　　“所以，孩子们，要小心，一定要非常小心才行。你们的肩上，担着人类的命运啊。”