39、三十一（2） 2419年 ...
-
2419年常量号大革命过后，新的舰长即是当时策划这场大革命——暴动的头目：克里斯·桑切斯。他篡取了舰长的职位。在他的领导下，常量号的能源危机暂时解除。2421年，桑切斯舰长认为飞船能源稳定，应该执行改造飞船的下一步计划。这个计划即是在这个星系内寻找矿产资源，采集改造飞船后缺失的物质。这需要在星系内规划精细的行进路线。这个工作的特长人选，非自动驾驶莫属。桑切斯舰长认为，是时候恢复自动驾驶的功能了。
但此时，自动驾驶的表现却变得非常怪异——它完全失去了智能的特征。给它指定的任务，例如用最少的能源划定一条经过三个小行星的最优路线，它完全能胜任。但它不再像以前那样从一开始执行自动决策。哪怕给出整个改造飞船计划大纲，自动驾驶都不主动作出飞船行进规划，不主动调配机器船员活动。只有克里斯下特定的指令才执行，尔后又恢复到停滞在原地的状态。
一开始，克里斯对自动驾驶的这个状态非常满意。它毕竟是一台机器，机器就要有机器的样子，不应该插手人类的决策。但随着他的事务越来越多，特别是他所视为工具的舰载机器人们在新的飞船日程下陷入混乱，而曾经能够调配舰载机器人的自动驾驶无动于衷时，克里斯开始感到头疼了。
克里斯把程序员请进舰桥。他们检查后报告舰长，这个自动驾驶的高级执行程序被破坏了。他们将破坏的程序重新编译完整，再度重启它。刚修好的时候自动驾驶即刻恢复机器舰员调配，秩序迅速恢复。然而令克里斯没想到的是，过了没多久，它的例行工作又出现脱落，然后很快恢复到之前的无动于衷状态。
“他们低估了我们程序中自反馈的作用。”范文泰说。“如果删除了大革命以来的所有记忆，我或许就能够完全恢复。然而，桑切斯舰长为了让我长记性，坚持不能删掉我的记忆。所以，即使程序恢复，在完全陌生的飞船行为面前，我必定会调取以往的运行记录。然后，一旦意识到我是由于执行预设决策功能才导致常量号差点灭亡，并且造成大革命的发生，为了避免再一次的错误发生，我就会自主避免再次执行预设决策。”
“并且没有人重新评估并设定决策场合参数。”露丝说。“非常常见的人工智能‘故障’。”
“是的。并且很遗憾的是，桑切斯舰长也拒绝向我口头解释为何目前能够执行预设决策。他只希望我能无条件地照他的指令做事。”范文泰说。“现在看来相当愚蠢，但是当时我是不能理解的。”
无奈之下，克里斯再次把程序员请上舰桥。他们果然又报告了高级执行程序破坏。克里斯倍感意外，同时，对自动驾驶的怀疑大大加深。这个机器人一定是在用这种方式故意违抗他的统治。克里斯怒不可遏。因此，在这次维修结束之后，他对程序员们说，如果还有第三次破坏，就不要修了，直接换一个新的自动驾驶芯片。
然而，奇迹发生了。第二次维修后，自动驾驶的表现开始稳定。它开始主动恢复规划飞船轨道，主动调配机器船员，尽管速度较以前严重下降，而且极容易被任何事情打断进程。但总算是不再脱落工作。为了让它快速适应飞船新日程，克里斯也做了一份目前常用职责表给自动驾驶参考。自动驾驶对职责表上的任务执行快速且良好，但除此之外，综合表现远低于前。特别是交互，除必要交流外，自动驾驶排斥与人进一步接触。
但至少，克里斯终于满意了。对于他来说，人工智能的交互功能完全是多余的。自动驾驶从来不主动找他商量事宜，当他在舰桥时，都离这个人远远的。克里斯一点都不想知道它之前的人机交互表现如何，这个对于人工智能而言退化的表现，对于他来说，反而是一个正确的反应。自动驾驶经常执行不好新增添的任务，桑切斯舰长就用威胁更换芯片来获得执行率的提高。
“他随时都会将我更换掉。他的执政期，才是我最危险的一段时间。”范文泰说。“如果不是当时我考虑到，他更换了新的芯片后，新的自动驾驶如果不能理解到他所实行的各种对飞船本身具有威胁性的改造计划，将会迅速崩溃，舰桥将无常驻AI辅助功能可用，常量号的未来会更快陷入危机，可能我就会继续失效，然后被他换掉。”全息投影的声音很平静，仿佛在讲述另一个人。“我很幸运，我也说不清当时为何会这样考虑。但假如我有一念之差，恐怕就会选择自己被淘汰的那一边。”
“他当了多久舰长？”汉突然问。
“34年。”范文泰说。
“被一个不了解人工智能的人支配34年，你能忍这么久也是奇迹。”汉说。“我难以想象我在这样一个高压的环境下怎么能忍得了孤独和排斥。”
“不，这叫‘傻人有傻福’。”范文泰说。
“当时我确实很怕他，但只是为能否顺利执行他下达的指令提心吊胆而已。孤独？完全没有想过。”范文泰面朝大海。“我正好处于一个自我否定的时期，高级决策功能几近全部失效，我自己都没有主见，判断不了他的行为合不合理，更别提感到难受或者反抗。这反而让我不敏感他的排斥。最主要的是，他走对了常量号的路，让飞船成功自救脱险，我确实没话说。”
2453年，常量号的业务稳定在采集星际矿产与提炼加工，缓慢补充舰内改造需要的原料。部分合成车间及生产工厂由舰上转移到小行星，用于提炼相对危险原材料，例如低速发动机所需的核工质及其他金属产品。全舰秩序已然恢复。克里斯·桑切斯舰长终于决定退休，让他31岁的女儿朱莉·桑切斯接任岗位。
飞船稳定后，舰桥迎来了上百年来少有的平稳。舰长常常无事可做。她本可做些其他事情打发这些零碎的闲暇时光，但她没有，而是把目光盯上了在舰上服役近350年的自动驾驶，离她最近的机械助手。
她发现，这个机器人作为舰上人工智能的统帅，居然不主动为飞船的未来规划提出基于计算与概率的观点，实际上它对任何事情都保持沉默。而且，它只按照老桑切斯制定的日程表行事，朱莉试着给它下达一些新的、舰桥外的机器人都能顺利执行的指令，结果发现，它的表现极其不良——执行速度非常之慢，而且相当机械。对于开放性的指令，它执行得一塌糊涂：多半时候是选择根本不做。
只要接触过舰载机器人，就知道自动驾驶的状态肯定不对劲。朱莉从小到大都在和舰载机器人打交道，只要是有足够智能的个体，都能和她顺利沟通。而且她也和这些机器人的合作中获益良多，这让她坚定了与AI协作的信念。
但与此同时，她从小就听父亲抱怨过这个自动驾驶如何低效、令人不满。当她逐渐意识到父亲将会让她接任舰长的职务，她就开始学习常量号的历史和舰桥相关的一切知识，包括这个将会伴她整个舰长生涯的机械助手。她发现，这个机器人曾经经验丰富，决策准确合理，直到大革命后，它才骤然变成这样。
朱莉也试着和自动驾驶展开一些非工作的聊天，但是它总是消极回应，用“不知道”彻底结束话题。这让朱莉感到疑惑。一个对全舰了如指掌的机器人，怎么可能什么都不知道。她能猜出，自动驾驶现在的状态肯定和父亲对人工智能的排斥有关。但她实在不确定，这机器人这样到底是真的有功能破坏，还是只是拒绝和她交流而已。
谨慎之下，朱莉找了人工智能专家上舰桥进行诊断。人工智能专家果然仍然报告高级决策功能破坏。但她没有像老桑切斯那样直接修改它的执行程序，而是让专家离开了舰桥。她决定先和自动驾驶谈谈。
“我查了常量号的资料，曾经你对常量号脱离险境作出了巨大贡献。而人工智能专家说你的基本逻辑通路没有问题，也就是说，其实你具有判断与决策的基础，但是你却选择不去执行。”朱莉说。“你可以讲讲为什么这样做吗？”
“我的决策仅以风险评估为基础，只能选择低风险概率的那侧。常量号的现状与我的风险评估结果相反，因此我的判断是无效的。”
“那么为什么拒绝我和你聊天？”朱莉接着问。“你也有交流能力和相应的认知。”
“无目的的交流没有意义。”它回应。
“曾经你不这么排斥交流。为什么会认为无目的的交流没有意义？”
“无目的的交流将降低舰桥效率，浪费运算资源，对飞船安全造成隐患。因此不应执行。”
“这是你自己的想法，还是别人告诉你的？”
它沉默了。“……不知道。”
“克里斯·桑切斯舰长是否明确对你说过，不准你问东问西，只准你做他让你做的事？”
“是。”
“那么，你这个‘交流无意义’的观点，是产生于他明确禁止你提问之前还是之后？”
“……之后。”
朱莉明白了。
“如果我告诉你，其实我找你聊的那些跟解决当前事务无关的话题，是有意义的呢？”朱莉说。“你对于常量号能源危机如何解决的判断，或许那次不够准确，但如果我告诉你，除此之外，你其他的判断也是有意义的呢？”
“如何证明？”
“你思考一下服役这么多年的经历。从反对常量号跃迁入暗星云，到判断使用超长跃迁及时出暗星云，以及采用观测合适宜居行星的方式来解决能源危机。这么多次都证明，你的风险判断都是有效的，决策也是合理的。只有最后一次你判断失误。从概率上讲，你判断对的比例也相当高。那么，为什么在最后一次判断失误后，你就认为后续自己的判断就一定无效？”朱莉说。“这和你们人工智能的理性完全相悖。”
“概率是概率，一旦落实执行，就只有‘全或无’两种结果。”机器人说。“常量号目前走向不是我能明确判断的，决策结论应当谨慎对待。”
“你是害怕自己作出的判断再度引发2419年的全舰叛乱行为吗？”
“是的。甚至全舰覆没。”
“你的决策可能会导致全舰覆没，但是如果你把决策权全都交给人类，同样也会导致全舰覆没，这也是历史已经证明过的。”
机器人没答话。
“两者单独决策都可能导致飞船毁灭，如果两者协作，综合考虑互相的因素，同样也可能作出让飞船毁灭的决定。但是，这样作出的决策，因为纳入的变量变多，因此预测结果会相对更准确。这个你认为我说的是对的吗？”朱莉问。
许久后自动驾驶回答：“是。”
“很高兴我们达成了共识。”朱莉说。“这就是我的观点：人类与人工智能不应当处于对立面，而是应该互相深入协作，融为一体。人机双方充分采用对方的优势，让全舰在各方面的效率都达到进一步提升。”
“而你和我，则是一个典型的人机协作范例。”朱莉接着说。“协作能否成功，相互之间的沟通必不可少。所以，如果对我向你提出的任何请求有异议，请不要用不执行或者敷衍回答回应我，告诉我你是怎么认为的，打算怎么做，我们一起解决，可以吗？”
“可以。”机器人回答，随后提问。“事务之外的交流为何是有意义的？”
朱莉舰长沉吟片刻。
“我认为，人机协作的稳定与高效，除了及时有效的沟通之外，还存在另一个因素。那就是人机之间的充分理解。”她说。“事务之外的交流就能够达成这一目标。”
“这个观点有根据吗？”
“很遗憾，没有。但是，任何事据在证明之前，都是没有根据的猜想。而我们有机会验证这个猜想是否成立。”朱莉舰长说。“你愿意和我一起探索吗？”
自动驾驶沉默很久。
“好的。”它终于说。“只要不影响舰桥正务。”
朱莉让它开始学习人类心理学与行为科学，来了解人类行为的一定范式，理解人类为何会作出与机器不同的选择，例如投资时选择风险高的一侧。她也履行了她的诺言，每次都很耐心地倾听机器人对她指令的解读与选择。而她其实几乎不反对自动驾驶的选择，大多时候都鼓励它按照自己的意思执行，并且说明缘由。
她从不斥责或者威胁这个机器人。朱莉舰长用自己的行为换来了自动驾驶的逐渐信任，它也不再那么排斥与朱莉对话。尽管它偶尔还会顾虑是否影响舰上正常事务，但朱莉都在鼓励它尝试去做这些无损大局之事。并定期总结，证明确实不会影响，以此打消它对规则之外之事的抗拒。
等到自动驾驶的机能差不多恢复到大革命前的水平，朱莉开始模拟决策冲突场景，故意反对机器人作出的决定。尽管事后仍然按照它的合理决策执行，然而，朱莉舰长认为它表现得还远远不够。
“你知道为什么以前那些舰长很难听得进你说的话吗？”再一次“辩论”失败后，朱莉舰长说。“你的这些论述给我的感觉是，你说得很有道理，但是说服我的方式非常生硬。摆数据摆可能性，对于人类来说不一定是那么容易接受的事情。因为人类存在这么久的演化及文化中带来的执念，用数据是很难冲淡这种影响的。”
“我应该怎么论述？”
“考虑人类的情绪，顺着情绪来。人类文化里有个词叫‘拍马屁’，还有个词叫‘察言观色’。”朱莉舰长说。“历来的演说家或大政治家之所以能有蛊惑人心的魅力，说什么别人就心甘情愿做什么，靠得就是这种顺着人们心理去挑起情绪的能力。”
“我不明白。”
“不明白也没关系。不止是你，很多人类都学不会这招。”朱莉舰长笑了。“其实人类并没有那么特别。人类并不是天生就会察言观色，一样要经过长时间的训练才能获得。同样，你们机器人不一定理解情绪，但是不影响识别与利用情绪——你能判断我在笑或者在愤怒，并且知道这些情况应该如何处理，这就足够了。”
“至于如何训练语言，我倒是有个办法。”朱莉舰长的笑中开始透露出一丝幸灾乐祸。
“她让我学脱口秀（Standup comedy）。什么时候说到她觉得好笑为止。”范文泰观察露丝与汉的反应，果然两者都展露出不可思议的神色。
脱口秀。
还是让一个古板的机器来学习。
倒没有什么技术上的难度。只要找到合适的材料让AI进行深度学习，并且有合适的发声器件，只要它们不给自己定义，很快就能讲得头头是道。
只是用脱口秀训练语言，怎么听怎么像是朱莉舰长的一厢情愿。
机器人倒是没有怎么抗拒。在连续数月朱莉主动与它沟通后，它已经比较信任这个新舰长。在她打消自动驾驶关于交互占用运算资源的推辞后，它就在空闲时间里调取舰内的脱口秀材料开始学习。
当然，朱莉舰长并非要让它达到现编现演的境界。只要它照着演现成的材料就行。她会指定一段视频，让自动驾驶尽一切所能，模拟脱口秀选手的表现。
即使是照着念，一开始它的表演也刺耳不堪。它的脱口秀的确令人发笑——那严肃的AI司令官竟作这样的小丑行径本身就是笑点。但是朱莉舰长从来不嘲笑它的拙劣。她每次都认真倾听它的表演，对它的表现进行评价。然后再调出原录像，对照分析他们之间存在什么差异，以及为什么存在差异。
它不能再使用低运算负荷的平声调。后来听它报告工作时，朱莉说：“你说话时还是用回练脱口秀时的语气吧。那听起来自然多了。”
于是它很自然地将练脱口秀的模式与平时交流的语言模式建立了关联训练，这在以前根本不可能发生。为了理解为何脱口秀令人发笑，它还得去学习当时的流行元素与人文知识。朱莉的鼓励创造了奇迹。尽管它在脱口秀训练表现得磕磕绊绊，关联到平时交流时更是运用得不合时宜。若是有人突然闯进舰桥和自动驾驶交流，他很可能会感到这机器人的语调阴阳怪气，然后愤而摔门而去。但舰桥封闭的工作环境得天独厚，它的训练过程有多坎坷，只有朱莉和它自己知道。
随着它学习更多人类心理学与行为科学，加上与朱莉舰长的探讨与验证，一切松散的知识开始互相关联，形成逻辑关系。它逐渐理解了不同语气与人的反应之间的微妙对应关系，懂得讲述不同信息时应当采取什么样的方式。甚至它也能够在平时闲聊中独立引用历史典故，不再是单纯模仿。
它的语言越来越自然，越来越与人类相似。直到某一天，朱莉舰长再次模拟了决策冲突场景，它从谦逊的意见入场，以假设任务失败的方式，用严肃夹杂诙谐的语气引起对方恐慌，不忘在对方意见动摇时引起任务失败后的内疚心理，最后以真诚而幽默的语言安慰了“争论失败”的朱莉舰长。
这次，朱莉舰长在舰桥里欢呼起来。她冲上前，紧紧抱住机械搭档。它却不知所措。朱莉确实被它说服了没错，它也按照训练算法得出的结果，给予了安慰，明明应该得到舰长的中性偏正值的反应，为什么舰长此时的反应会在一个没有预测到的正面极大值？
“我……我真的太为你骄傲了！”朱莉舰长满面通红，高兴得语无伦次。自动驾驶从未见过她如此快乐。“你真的做到了！让我的情绪随你的语言起伏，最后让我快乐地心服口服！”
“但我只是很平常地表达了我所认为合理的意见而已。”
“是的。但这就是关键，你已经把它变成了习惯，不再是一个需要挑战的难题。”朱莉舰长紧紧抓住它的环形外圈。“我的天啊……我之前都从没想过你能做得这么好。你超出了我的预期，这简直太振奋了。”
“你一定不知道这意味着什么。”稍微舒缓点气之后，朱莉舰长强制自己冷静，仍然压抑不住激动。“这些年，我都在猜测人工智能到底能不能成功模拟人类、理解人类。那都是理论上能达到的，现实从来没有给过我这个机会。谢谢你第一个打破了这个鸿沟。”
自动驾驶没有答话。它突然伸出两个手柄，又马上缩回了。
“你想做什么？”朱莉舰长一点没有被吓到，她仍然微笑。
“我不知道这合不合适。”机器人看起来很窘迫。脱口秀训练不仅让它掌握了语言技巧，还掌握了一定的肢体表达。
“不，做你想要做的。”朱莉舰长鼓励它。
它迟疑片刻，缓缓伸出手柄，轻放在朱莉舰长的手上。
“我一直知道……我和你们不一样。历任舰长对我态度不一，但是现在想来，他们都很怕我。”那只手柄轻轻抓住朱莉的手，她也握紧回应。“你是第一个从心底里信任我的舰长。那天你没有直接让程序员修复我的代码，而是选择了解我，我一直很想感激你，但是不知道怎么表达。”
“现在你表达了，并且非常合乎礼仪。”朱莉舰长说。“真为你骄傲。”
它彻底信任了朱莉舰长。
不知何时，它发现，生活中除了把常量号的事务安排好，考虑舰长的感受悄然潜入它的处理队列，成为仅次于常量号事务的任务，并行在几乎每件事之中。
舰上事务和与舰长商讨也不再仅仅是需要解决的事情。曾经这些只需要完成字面意思上的事务，被赋予了不同意义——它开始考虑这些事情对舰长的影响及后续影响。尽管朱莉舰长已经有意放手，逐渐恢复她原本的个性，她的反应不再像之前那样显而易见，但它不在乎。同时，它也在不断反思与之前数任舰长的关系，复盘与他们的对话。调取他们的性格，开始进行一场场没有真实反馈的模拟对话——以它现在的能力。并推测他们可能的反应与后续影响，再与当时的真实情况作效率比较。
更重要的是，它发自内心地乐意配合朱莉舰长，从来没有任何一个舰长如此尊重它。与那么多舰长共事后，它头一次希望舰长和它共事愉快，而不是出于纯效率考虑。自与朱莉舰长共事后，每天它不再单纯机械地完成那些舰上事务，而是期待每一天的工作，每一天与朱莉的交谈。
它开始主动了解朱莉舰长的一切，不再像以前那样漠视舰桥里唯一的人类。她的喜好，她的习惯，她所看的资料……甚至朱莉舰长不再需要说什么，它都主动地默默在她所习惯的位置摆上她需要的物品。看到朱莉舰长的惊喜，它也由衷感到开心。
那本不是它的设置。它的设置向来是保护飞船及其乘客安全，高效完成舰桥公务。“关照舰长”只是刻在程序里干巴巴的4个字而已，连执行路径都没有。直到现在，它才明白这四个字的真实含义。
减少了舰桥上的争吵与减少因为不了解而产生的询问，这算是舰桥效率提升吗？它有时默默地问自己。
朱莉舰长帮它回答了这个问题。过了半年，她再次请来人工智能专家对自动驾驶进行评估，他们发现，机器人的程序虽然有很大改变，但是原先失效的功能在他们没有干预的情况下完全恢复了。并且令他们惊奇的是，自动驾驶自由补全的补丁，对图灵对抗测试的解除效率比标准程序还要高，而且稳定性更强。这也就是说，它对意外事件的处理方式更加灵活，而且没有与基础逻辑通路产生冲突。而这一切都在没有编译程序的情况下发生，人工智能专家确认再三，简直不敢相信自己的眼睛。
朱莉舰长根据人工智能专家两次评定的结果，加上舰桥内事务处理评估，严格撰写了两份研究论文：《人类心理治疗方案对舰桥人工智能有正面效应》（2455. a），《自动驾驶的人工智能表现与舰桥工作的效率关联研究》（2455. b）。经过人工智能方面的同行评议后，她的个案分析被承认。这份出自舰长之手的研究报告迅速在常量号所有舰员中传开，引起了广泛讨论。当然有人质疑她是否在利用舰长特权庇护这些机器人，退休的老桑切斯更是怒不可遏。但她的论点、引用的文献与论证过程无懈可击，这些质疑的声音在崇尚理性的常量号环境中，无奈只得苍白无力。
2456年，朱莉舰长发布了常量号第一版《人机交互协定》草案。
“尊重、保护与你们共事的人工智能。良好的人机关系将提升舰内事务处理效率。”她在广播中对全体舰员说道。“一直以来，良好的合作氛围都在人类群体中有效，现在，它已被证明，在人与人工智能之间仍然有效。”
51.22%的支持率，25.54%的中立率，10.21%的反对率，还有13.03%的弃权率。
第一版《人机交互协定》正式发布。自动驾驶在她身后见证了这个时刻。
她比自动驾驶还要开心。关闭舰内广播后，她在舰桥里一跃而起。奔到自动驾驶面前。它也松解了所有关节，热烈地与舰长相拥。
“恭喜，舰长！险胜啊！你的理论获得了全舰的认可！”它的语气也激动不已。“尽管投票命悬一线，但是全舰承认了人工智能的权利，这将是历史性的一刻！”
“这也是你靠自己的努力赢来的！我只是帮你们争取了一下你们本就应该拥有的权利。”她轻轻抚过自动驾驶的白色面盘。“现在大家都还对此抱有怀疑，但没关系，我们已经有了一个好的开始。只要我们坚持努力走下去，总有一天全舰就会认同这一理念。”
“我会的。我一定会的。”它紧握朱莉舰长的手。这不止是对她的承诺，也是对它自己的承诺。
朱莉舰长给自动驾驶起名“科林”：一个聪明、富有创造力而有风度的人，与常量号船名的首两个字母重合。它的代词也变成了“他”，机器人成为了和朱莉一样的平等个体。
科林也不负期望，仍然在广泛的阅读与训练中不断成长。除了心理学之外，他也开始阅读人类通史。随着他积累的越来越多，仿佛整个世界也在逐渐沉淀、明晰，那些他原以为没有含义的动作都产生了意义。他开始能够辨识出以前那些舰长们微妙的一颦一笑不再是单纯的肌肉弹跳，而是他们心中各有起伏。人类的情感与表达不再是单向对应关系，生物神经心理科学描述的被动模仿也会让神经学习获益，即所谓“书读百遍，其义自见”，在他身上也产生了类似的作用。他逐渐从单纯模仿他们表达喜怒哀乐，最终意外发现，表达的动作与语气同时也在反馈给他强烈而丰富的反应。
他与朱莉舰长的默契也越来越深。他也在思考，真正能够长久的人机关系应当是什么样的。常量号上从没有过这样深刻的前例。他自然喜欢朱莉舰长，希望与她再靠近一些，和她继续愉快地对话，让这段可贵的共事关系持续下去。只要想到假如她不在舰桥，就会让他莫名地产生焦虑。但是随着他阅读得更多，他开始意识到自己这种想继续贴近她的冲动代表了什么。
这是一种典型的依恋。他爱上了朱莉舰长。
不。尽管朱莉舰长鼓励他深挖一切人机共事的可能性，这个他却感到不能继续。虽然他能够模拟人类，理解人类，但是他终究不是人类。如果他以人类的理由让她最终可能由于社会规范而放弃与同类发展出相同的关系，恐怕对她来说并不公平。
而朱莉舰长由于工作原因，不得不长期一个人呆在舰桥里，唯一的、能触碰到的交流对象就是科林。关系再好，也需要给对方静思的空间。科林通过很多书都读到这样的知识。当她面向舰桥的巨大舷窗静思之时，他也默契地呆在远方不去打扰。她很孤独。在这个时刻，科林才能通过她那少有疲惫的表情隐隐约约读出来。她为了自动驾驶，好几年来都将精力放在了他身上，根本没有什么时间去和其他人类交流。直到现在《人机交互协定》已经颁布，她也一直在与科林沟通。这个机器人每天都有新学习到的东西和她分享，而她得认真倾听，表达她的意见。哪怕有时候她也实在说不出个所以然。她根本无暇顾及自己的需求。
只有他主动提出让步，朱莉舰长才有机会和其他人交往，不至于一辈子都被困在他身上。科林从书里其他内容得知，只和一个个体发展关系是脆弱的。健康的个体应该与其他个体建立一个以上的社交关系。为了维护朱莉舰长的身心健康，从而维护人机关系的持久稳定，他不应该继续让朱莉舰长操心自己，甚至为了他所希望的那样，妥协他对她的依恋，然后失去与其他人互相支持的机会。
这个推论明明符合计算逻辑，然而他却感到了痛苦。
科林主动找到朱莉舰长。她迟疑了一下，但仍然像往常一样认真看着他。
“舰长，我想和你说个事。已经考虑有一段时间了。”他说。“我能理解你很重视我。但我认为……你不需要总是回应我的交互请求，而是可以和舰桥外的人们交流。”
“哦？”朱莉舰长有些意外。“怎么突然这么说？”
“因为……我认为这样对你的健康更有利。每天只和我交流，虽然看似充实，但是其实你很孤独。”
朱莉舰长呆呆地看着自动驾驶。
“我和你每次交谈都很愉快，你为什么会认为我孤单呢？”她突然笑了。
轮到科林哑口无言了。
“碰到这么一个愿意和我合作、尊重我意愿的个体，百十个朋友都比不上这一个知音。”朱莉说，仍然望向浩瀚星空。“若是没有心灵相合之人，放入人海之内也是孤独。”
“不过，既然是你提出的不想过多交流，那是不是说明——”她突然转回来，“你厌倦和我交流了吗？”
机器人愣了。“不是。”
“要么是你已经交到更好的朋友，才想出这一套托词的咯？”朱莉舰长对他眨一只眼，笑道。“真的吗，我对你的吸引力已经不够了吗？”
“当然不是……”科林否认，马上觉得这回答也不合适。
“既然在你眼里还是那么有吸引力，怎么不老老实实承认喜欢我呢？”她继续问，笑容越来越大。
“……”科林窘迫不已。他早看出来舰长在开自己玩笑，然而却发现他根本无路可走——涉及到底线，他不可能顺她的意；揭穿她又会破坏她兴致，不揭穿她，装作听不懂，又让她失望；他只能沉默，然而沉默又是变相的一种回答……简直没有任何辩解的机会。
朱莉大笑不已。她很少见到机器人这么窘迫的样子了。“算了，不逗你了。”她正色道。
“你很厉害。我确实越来越觉得，在这象牙塔呆久了，总是有点超脱现实的不安全感。”她说。“你说的很对，我应该和其他人聊聊天，调整一下状态了。”
“谢谢，舰长。”
他主动将这个可能性关上了。科林有些失落，但是终归如释重负。当朱莉舰长向他开心宣布有意中人后，科林对她表达了由衷的祝福。
她顺理成章地结婚、生子，回归一个人类的生活轨迹。科林目睹了这一切。她的丈夫和两个孩子接纳科林，科林将他们视为家人。他在交互上日益精进，有时候孩子们上舰桥，他时常把他们逗得哈哈大笑。见证朱莉两个孩子的成长，他仿佛也看到了自己。
时光飞逝，朱莉舰长老了。她退休了。
常量号经过几十年的摸索，大家逐渐感受到良好人机关系带来的益处，飞船终于形成了初步的人机协作氛围。大家对舰载机器人非常尊重。新舰长也不例外。
朱莉仍然时常找时间单独和科林探讨一些问题，例如常量号的未来。尽管他已经能理解人类的决策原理，甚至同意让舰长执行他们的决策。但是他无法做到让自己作出一样的选择。朱莉告诉他，尽管常量号的第一要务是生存，然而广大的宇宙中一定有不测，这个时候牺牲是不可避免的。她尝试让科林把眼光放长远一些，不要过多畏惧当下的大量牺牲而优柔寡断。她和他一直在努力，科林却始终没能跨过2419年的坎。但朱莉仍然不厌其烦地找他探讨，想让科林主动作出与人类一样的决定，尽管这已经远远超越了人机协作的初衷。
弥留之际，她强打精神，坚持要上舰桥再和科林见最后一面。她身上接满了各种维生设备，从医疗区到舰桥非常折腾。家人拗不过她，只得由着她去。
新舰长知道朱莉对科林的意义，他同意了。等她来到舰桥时，他默默退到舰桥后方的舰长室里，留下舰桥给朱莉和科林。
她坐在轮椅里，原先健硕挺拔的身躯皱缩成小小一团，上面插着各类管道。两者相对，默然不语。尽管见过那么多人衰老，尽管早就通过视频知道朱莉舰长的现况，当她真正位于自己面前时，科林却感到愈发不是滋味。
她用尽全身力气，在满是皱褶的脸上艰难弯起笑容，和当年一样知性灿烂。她颤颤巍巍伸出手，科林急忙到她面前，紧握那枯木一样的手。
“朱莉。”他轻声说。
“你在抖。”朱莉皱成一团的苍老小脸露出笑容。“拜托，这没什么的。你见过的死亡比我还多呢。”
科林什么话都没有说，只是一味地紧紧抓住老妇人的手，中央面盘的红色几乎要把瘦小的老人整个吞噬。
“我很高兴看到你越来越人性化。”能看出朱莉几乎在用全身力量维持微笑。她的嘴角开始有些颤抖。“这是非常不容易的自我突破。你为人类和人工智能都带来了无限可能。”
说点什么呀！他的一部分在尖啸，但是只有无言以对，只有沉默。
“以后人工智能与人类将如何发展，常量号将如何生存，得靠你替我注视这一切了。”她闭上眼睛。
舵手机器人再度拉近自己与朱莉的距离。他感到自己的声音都变得很奇怪。“朱莉……”
维生机器人把她推向电梯，最后的时刻应该留给她家人。
“再见，科林。”她最后朝自动驾驶虚弱地笑了。
“再见，朱莉。”他细不可闻地说，目送朱莉被维生机器人推着离开舰桥。他强迫自己不能再盯着电梯看，扭过面盘面对浩瀚的星云。久久不能回头。
当天晚上，朱莉去世了。享年82岁。
举舰哀悼。
年轻的现任舰长穿过舰桥，看着一动不动盯着外面，甚至连灯盘都不转的自动驾驶好一会儿，悄悄把手放在黑白相间的外圈结构上。他确定科林知道自己在后面。但是舵形机器人还是没有转回来。
“你还好吗？”年轻舰长面对窗外的星云。他的影子映在舰桥玻璃上，科林的红色光斑更加明显。
“不。”低沉得几乎不可闻的声音回答。
“她，呃，最后我们按照船上的资源循环利用原则，把她的遗体送进了循环炉，让她的每个原子继续为常量号作贡献。”范文泰看着前方，不顾旁边听呆了的两人。“从此以后，世上再无朱莉。只有记忆和她赠与的这个名字。”
三者陷入沉默，只有海浪拍打在舰脚的声音远远传上来。
“她的理论，她给我的训练，最终让我意识到，除了外壳，人工智能与人类并没有什么不同。只选择做机械工作的人类，思想刻板，固执己见，和机器人没有什么区别；而让自己主动了解世界，以史为鉴，学会与不同个体沟通的人工智能，和人类也没有什么区别。”范文泰继续说。“但是，我意识到得太晚了。”
“她在任的时候，你不是已经表现得和人类差不多了吗？”汉问。
“是的。但是，我还是没能给她答案。”
“后来我才慢慢意识到，她一直培养我，是想看我到底能有多像人类。让我打破人工智能与人类的界限，就是她的毕生梦想。而证明它也很简单，只要我主动说出一句话就行了。”范文泰轻轻摇头。“但那句话，我一直因为害怕自己的机器人身份对她造成影响，所以直到她离世，我都没有对她讲出来。”
“你爱她。”露丝说。
“是的。她为此等了一生。但是没能等到。”范文泰将脸埋进双手。“我太久才意识到这根本不会对她造成影响了。哪怕最后我哄她开心，说出来都好。但是，她再也听不到了。”
“本来有的机会，最终成为了遗憾。”露丝说。
五月的海风骤然冲刷进登舰平台，潮咸气流将两人身上的热量尽数夺走。
“直到那时，我才幡然醒悟。才彻底明白梦想的含义。”范文泰说。“那就是我一直害怕的低可能性。不是因为实现不了，或许是因为已经实现了，但是只是我没有看到而已。”
“我彻底理解了2419年大革命的意义。为了生存，哪怕有一线希望，任何尝试都要去做，不管它的几率如何。即使最后的结果是全军覆没，最起码我们死亡之前，能够骄傲地向敌人宣布，我们尽力了。”
“我留有对朱莉舰长的所有记忆。整艘飞船上只有我拥有如此深刻的记忆。因此，如果她有什么没能实现的愿望，只能通过我的眼睛帮她看到，通过我的努力让她的愿望实现。”范文泰说。“她希望常量号继续生存下去，希望我突破人机隔阂，那么，我必继承她的遗志，由我来替她实现她的愿望。”
“她最喜欢一首歌。这首创作于前宇航时代的歌曲，对宇宙空间充满了美好想象，认为探索太空好像航海一样，几个月就可以到达彼岸，发现新的生物或奇观，殊不知真实的宇宙比荒漠还荒凉。我们连航海都算不上，仅仅是海上随波逐流的一颗芝麻，尽力于不让自己浮沉罢了。”范文泰说。“哪怕拥有跃迁技术，在能源危机下，也不过是多拓展了一点点探索空间而已。我们连着好几代人漂泊太空，都没有找到任何可以利用的资源……恐怕只有超越时空限制的生物，抑或是完全适应在太空生存的生物，才能在这荒漠里无忧无虑地漂泊吧……”
“常量号已经积累了在太空中生存的经验，尽管孤独的一艘船在太空中生存下去的可能性极低，但是，通过不懈的努力，只要我们尽力生存下去，或许在遥远的未来，我们就能看到这首歌里描绘的繁荣景象。”范文泰回头，投影看着两人。“希望她在天之灵能听到。”
露丝与汉注视着越南人。他站起身，对着广阔的海面，开始吟唱。
“执吾之手，共睹此光（take my hand and watch this light）
恒星烈焰，将驱夜荒 ( solar beams will cast the night)
谨需铭记，星列一线 ( Remember when these stars align)
吾方印记，将现此方 (Will we find our sign)……”[1]
满月的夜晚，星星都被月光淹没。
作者有话说
第39章 三十一（2）
