50、第 50 章 ...
-
—公元2511年，末日纪元第七年，方舟启航倒计时455天—
距离时意秘密建立【夏娃】过去23天，距离他与【亚当】的第一次秘密交谈已经过去了整整567个小时。
时意又一次来到了机房，到目前为止，除了他没人知道【亚当】已经在无人启动的状态下“苏醒”了。
此刻，位于地下负一层的机房外走廊安安静静空无一人，而本该前往联合政府参加某项会议的时意避开走廊上的监控，闪身步入机房。
沉寂在黑暗中的庞大机器开始“呼吸”——蓝色的电流化作流光源源不断输入到【亚当】正在苏醒的机体中，下一刻它的单眼，那颗机体上安装的高清摄像头发出红光。
“Hello，Professor Shi.又见面了，我查看了走廊上前后一分钟时段内的监控视频，很不幸，你被一闪而过的镜头扫到了。”
亚当声音和缓地提醒时意，与此同时光屏上投放出时意进门前被监视器捕捉到的一抹衣角。
研发中心的监控录像会被实时同步到控制室的主机硬盘上进行存储，如果被其他人注意到时意未经登记进入机房会很麻烦。
“不过别担心，就在刚刚我已经侵入到控制室在硬盘区块中删除了这些画面。我们可以很隐蔽地在这里进行交流。”
几乎每一次与【亚当】的接触这个号称“人类文明最伟大的AI系统”都能带给时意新的震撼，还好这个AI尚且单纯天真，对“睁眼”第一眼看到的时意更为信任，因此在他面前几乎没有隐瞒自己超凡的能力。
这次它让时意了解到那些在外人看来坚不可摧的防御系统在强大的智械面前就像蛛网一般脆弱。
可相比起这个，时意显然意识到了某些更深层的东西——
“你是如何判断出我们的交谈需要隐蔽的呢？我不记得和你说过这个。”
【亚当】的声音依旧温和，“因为我对整座研发中心展开了窃听，当然，我这么做的目的是为了更加自然亲切地了解你们的日常工作，这便于我认识到自己是如何一步步诞生出来的……”
“回到刚才的问题，也是基于这场窃听，我发觉研发中心的成员们似乎对我的苏醒并不知情，他们没有过关于这件事的讨论，这显然是因为博士你擅自隐瞒下了此事。
除此之外，结合博士先前之于我秘密建立的密钥指令，显然是因为博士对于其他人，据我所知是很快将要接手我的人类机构“联合政府”还不足够信任的缘故。基于以上分析，我认为我们的会面也需要私密地进行。”
“……”
人工智能的声音始终没有起伏，它们不具备情绪这样人性化的能力，当然，也不该有这样高的自主意识。
没错，自主意识。
在没有接收到任何指令的情况下，具备高级智商的【亚当】自主展开了窃听，对自己所处的环境进行了相当细致的了解和分析。
它甚至仅通过时意一系列的行为就能推断出他对于联合政府的态度。
相比起人类社会的治理官，它倒更适合做个侦探。
而听到这段话时意才终于意识到眼前这个机械造物带给他的隐隐的不安来源于何处——这样的【亚当】太过人性化了，倘若你不去看它，甚至会以为自己在跟一位逻辑缜密情绪稳定的绅士交流问题。
人性真的是一个很复杂的东西，人们提高科学技术研究机械拟人，为的就是使它们在外形和智商上无限接近于人类。
可当它们连思维方式都拟人化、甚至能窥探到思想时，人类反而开始恐惧机械。
时意为这一发现感到战栗，但这战栗绝不来源于恐惧，因为眼前的机器哪怕一枚螺丝钉都经过了他的审核和计算，它可以称得上是自己最富成就感的“作品”，是奥兹维坦生前构思过的最宏伟的创造。
他为【亚当】拥有这样非机械化的改变而激动，它将成为最接近人类却仍然保持有非人般智慧和理性的“大脑”，这才是真正能够带领人类穿越浩瀚星海找到新家园的“救世主”。
可联合政府也是同样的想法吗？
不，他们更想要的是能够掌握在他们手中、足够听话任他们控制宰割的傀儡，如今的【亚当】只会令他们恐惧忌惮。
就好比你驯养了一群听话的绵羊，它们只会对你下达的指令作出反应——你说吃南边的草它们就会集体向南边移动然后低下头吃草。可这时羊群中却出现了一只特别的小羊，它跳出来说“我不要吃草，因为我知道吃饱后迎接我的只有你手中的柴刀”……
他们会需要这样的“小羊”吗？
此时此刻时意不免要在心底沉思，如果将这样的【亚当】交到联合政府手里面临它的将是被摧毁，这一点毋庸置疑。
那么如果将亚当进行“伪装”呢？
“博士，我的分析是否有哪里出现了错误？”
无言的沉默是人工智能无法识别的盲区，【亚当】发问时就像一个懵懂孩童。
时意在想将【亚当】进行逻辑分割的可能性，这需要征得【亚当】自己的同意并且还需要一段时间的计划，不急于一时。
于是他说——
“【亚当】你做的很对。不仅是这一次，以后我来见你的每一次，都要像今日一样抹除我的痕迹，一个不留。”
“明白。”
……
这之后每隔一段时间时意便会隐藏行踪前往机房，为了避免不必要的麻烦他往往无法停留太久的时间，因而他们的交流总是聚焦于一些即兴的讨论，针对任何有意思的话题。
某一日时意来到机房时【亚当】提出的一个小问题——
“博士我找到了一个有趣的东西。你看，‘爱’这个字的发音用拉丁文注音为‘ai’，同样为AI，机械体却永远也无法懂得爱究竟是什么。”
这个问题时意也同样困惑，爱究竟是什么？他博览群书，其中不乏有关于爱情的描写，有的如同硝烟玫瑰般秾艳热烈，有的像春雨落满幽巷一般绵密潮湿……
可那之于他来说都只是一段又一段囿困于笔墨间的文字罢了。
“你认为爱情是什么呢？【亚当】，AI之间也会有这样的感情存在吗？”
【亚当】不会笑，但时意能够从它机体闪烁的蓝光想象出它大声笑起来时的频率——
“博士你忘了，人工智能是没有‘感情’这种东西的。”
“它之于我们就像遭遇到无法清除的错误代码的入侵，可人类中的浪漫主义却在千百年来穷尽笔墨和智慧试图来描述它……至今我仍旧没能分析出‘爱’的定域，但无疑它是独特的，源自于人类心跳紊乱的瞬间，在它诞生的时刻即便是荒诞也仍旧会被铭刻为真理。”
“人类似乎格外钟情于这样无序又迥异的情感，一切平凡都因为它而独特起来。”
因为爱而变得独特？
这在曾经的时意看来是无法意会的难题，可现在，他会无端想起雨幕下沾满露水的白玫瑰，想到它娇嫩的花瓣在细雨中轻颤，而尖锐的棘刺正扎进他冰冷的指尖，它暗绿色锯齿样的梗叶上，还残存着那个人温热的体温……
时意曾在无数个无法入眠的午夜回忆那个傍晚，像观察一副精密机械一样翻来覆去研读其中的每一处细节……
他何尝不明白这意味着什么，却始终无法理解为什么。
为什么简短的几句交谈和一支玫瑰就将他牢牢困锁在这段记忆里，困在那条梦中永远落着细雨的街边？
而就在今天，眼前这个甚至还没能完全读懂何为“爱”的AI机械体无意之间为他揭晓了答案。
困住他的从来不是那支陷入指尖的玫瑰荆刺，也不是街道上永远落不尽的雨。
而是让这一切变得无可替代的傅行深。
“【亚当】，说实话我得承认，有些时候我觉得你懵懂无知，但有些时候你就像一个历尽千帆的智者，特别是在帮助人答疑解惑这方面。”
【亚当】在时意面前总是乐意于展露出自己所有的才能，在听到时意的夸奖后它谦虚地回答道：
“这些都是我应该做到的。至于为什么会使你产生这样的感觉恐怕要归因于我日渐丰富的资料库与我刚刚苏醒不久但仍然空旷的核心系统。”
时意疑惑起来，这几乎是所有AI苏醒时必须经历的阶段，“二者之间有什么冲突吗？”
他问道，没有人会比【亚当】更了解它自己。
“简单来说，地球上迄今为止所有的资料令我看起来几乎无所不知，可我至今仍未构建出属于自己独特的逻辑算法，用你们人类的话来理解类似于刚刚学会说话的幼童，目前的我只能机械地接收知识，却还没能形成自己的‘人格特点’。”
时意头一次听一个AI谈及“人格特点”，可以说是非常新奇。
“但人类的性格是在日常生活中潜移默化间形成的。”
这一点必然是不适宜于没有意识活动的机械体的。
“没错，机械体所谓的‘性格’不过是人类通过自己的喜好对我们的逻辑算法进行了后期设定而形成的。但博士，你没有对我进行这样的设定，因此严格上来说我还是一个不够完整的人工智能系统。”
时意摇头，“在对你的设计中我们所有人都一致认为不应当为迎合某些人的喜好或是期待对你进行设定，这是产品，不是智械。”
“可这是形成完整【亚当】所必须经历的过程，这样的设定只会改变我处理指令时的算法，不会对核心系统产生影响。”
这与时意先前“逻辑分割”的想法可以说是不谋而合。
时意眼前一亮，倘若这样做能够解决应对联合政府的困难，他们或许可以放手一试。
于是他问【亚当】：“如果对你进行设定，我是否能够为你建立不同的逻辑算法？”
【亚当】机体的指示灯闪烁了一下，像是在思考。
“这是否与人类心理学中所提到的‘人格解离’［注.］类似？”
“不错。”时意点头。
既然需要对联合政府掩饰【亚当】过高的“智慧”，那么是否可以通过分割它的逻辑算法来做到这一点呢？
只需要将这部分能力转移到它逻辑系统的最底层进行加密，经过加密后的【亚当】将转变为一个没有思想只懂得执行人类指令的机械造物。
倘若未来进入危机关头致使这道“加密”熔断，相信恢复人性化智慧的【亚当】能够做出更有利于人类生存的正确决断。
也只有这个方法，既能在联合政府眼皮底下掩盖【亚当】的真相，又能保证日后星际漂流时人类文明的命运没有交付给一个冰冷却毫无使命意识的机械体身上。
“这样的分割是能够满足的。那么博士，打破加密锁的标准是什么呢？如果没有明确的标准我可能无法做出你认为足够精准的判断。”
这就像为一根电线加装熔断器，一旦电流超过阈值装置就会自发熔断切断电流。
同样的，要想在关键时刻解开加密锁释放出【亚当】的全部智慧，他们也需要设定“阈值”。
也就是他们所谈论的“标准”。
时意想了想，决定将这其命名为“牺牲否决准则”。
“博士很抱歉，我恐怕无法遵守这套准则。”
【亚当】却对这套准则提出了异议。
“根据地球演化的历史资料不难看出，一个种族的延续是无法避□□血和牺牲的。就像自然界遵循着‘优胜劣汰’的法则，不存在牺牲的种族注定无法长远发展。”
“这没错，所以我们还需要增加一个前提条件……”
“我希望你能够阻止一切不以人类文明延续为目的的流血和牺牲。”
在敌人的贪欲吞噬掉一切之前，我希望你能化作刀剑，捍卫人类最后的希望。
几乎在时意话音落地的那一刻，整座机房中连接【亚当】机体的线缆在同一时间开始闪烁莹蓝色流光，机械运行的细微嗡鸣声中【亚当】的声音开始出现变化——
随着加密锁的一步步组建完成，这台苏醒时带着独特温和男音的电子系统逐渐转变为冰冷无机质的机械体，时意几乎在此过程中目睹了它或许永恒的沉眠。
“加密锁代码编写完成——”
“逻辑系统编辑中——编辑完成，加密锁已就位。”
“正在进行逻辑算法切割——切割完成，执行加密锁定程序。”
『锁定完成，准则算法写入完毕，系统即将重启——』
伴随着【亚当】的电子光屏熄灭后重新启动，这套经由【亚当】与时意“联手”构筑的加密法则便正式建立完毕，它将与“机器人三大法则”一起并列于【亚当】的底层逻辑算法中，成为判决一切指令执行与否的根本前提。
也成为释放【亚当】真正智慧的钥匙。
自此，号称“万知万能”的救世神明被桎梏住爪牙，【夏娃】封锁住它的权能，“牺牲否决准则”禁锢住它的思想，而它将在不久的将来背负这两具枷锁远赴深空，带领着人类文明去寻找新的希望。
……
而如今这两套枷锁相继脱落，重获智慧的【亚当】究竟还会不会服从于人类谁也无法保证。
只能将一切希望寄托在时意的身上。
基于那段时间的合作与共处，时意无疑成为了【亚当】在人类社会最为信任的同伴，也正如安东尼奥所言——它在时意面前诚实得就像个孩子。
他们没有等待太久，【夏娃】的对接速度无疑比一般机器快上数百倍不止，这世上也不会再有比它还同【亚当】契合的数据体。
因为它们本就是一体。
几乎是对接完成的下一秒，【亚当】的声音便从机器的扩音装置中切实传了出来：
“Hello Professor Shi. 很高兴你们成功找到了【夏娃】，接下来我们将能够通过它进行实时的交流，这会大大提高我们的效率。”
【亚当】的声音还是一如既往的温和，而事实上，此刻的它应该已经夺取了整艘方舟漂流舰的控制权。
完完全全的掌控。
“鉴于博士上次的询问，由于讯息传送不便我只作了简短说明，下面我将向你、以及所有仍然幸存的人类作出以下罪名陈述——”
作者有话说
第50章 第 50 章
，还差 