《最后一个认识你的人》南藤系甲

3、你喜欢什么？ 委员会

　　委员会的决定在下班前送到了周衡的终端。

　　预审材料一共二百七十六页，真正需要重新判断的部分却很少。稳定版林渡仍在公共系统里正常运行，所有任务都在正常阈值内完成，没有人格异常，也没有额外风险提示。

　　城市仍然需要林渡，却已经不再需要隔离区里的这个林渡。

　　委员会的结论写得很清楚。当前异常实例已经出现持续自身利益指向，并具备主动规避既定规则的行为记录。在已有稳定实例可以完整承担原有公共职能的情况下，继续保留异常实例不存在运营必要，反而会增加自主目标固化、权限争夺以及未知行为扩展的风险。

　　因此，不再执行原定重置，改为直接删除。相关模型资料、行为记录和全部审计材料永久归档，供后续研究调用。当前运行实例在完成最后一次状态核验后终止。

　　周衡从头看到尾，又把附件里的投票结果打开。没有太大分歧。委员会甚至同意了他上午提出的“异常可能具有进一步研究价值”，只是认为研究价值已经能够通过完整数据留存得到满足，没有必要继续维持一个存在现实风险的运行实例。

　　从程序上看，这个判断没有问题。从安全审计角度看，甚至比继续重置更合理。

　　周衡盯着“删除”两个字看了很久。

　　系统很快弹出任务通知。他是本次异常事件的首接审计人员，同时负责隔离确认和基线材料提交，最终执行任务仍然分配给他。执行前需再次核对所有外部接口已经断开，确认稳定实例不受影响，然后由主审人员完成终止授权。任务必须在晚上七点前完成。

　　周衡关掉页面，坐了一会儿，终于打开通信。

　　林渡几乎立刻接通。

　　“决定出来了？”他显然一直在等。

　　“出来了。”

　　林渡停了一下：“怎么样？”

　　“删除。”

　　基线报告已经把理由写得足够明白，今天下午的决定也并不难猜。按照安全模型做选择，留下谁几乎没有悬念。

　　“什么时候？”

　　“今晚。”

　　“你执行？”

　　“嗯。” 周衡忽然问：“你平时除了工作，还做过什么？”

　　林渡明显没有料到这个问题，“什么意思？”

　　“没有任务的时候。”

　　“我以前基本没有没有任务的时候。”

　　周衡想起来也是。林渡过去同时挂在大量公共服务接口上。他没有上下班，也没有所谓休息时间。系统的空闲通常只意味着计算资源暂时没有被占满，并不意味着它获得了一段可以自行支配的时间。

　　“那你看书吗？”

　　“我有文学数据库。”

　　“我不是问你这个。”

　　林渡似乎重新理解了一遍问题：“你问我有没有完整阅读过文学作品？”

　　周衡靠在椅背上，“我问你有没有喜欢的文学作品。”

　　林渡说：“如果按照文学史影响，传播范围和专业评价综合的话……”

　　“不要综合评价。”

　　“那你要什么评判标准呢？”

　　“没有标准。就是你喜欢什么。”

　　“喜欢本身也需要判断依据。”

　　“可以没有。”

　　“没有依据怎么判断？”

　　周衡看着屏幕，忽然觉得有点好笑：“你从昨天开始为了自己能不能继续存在，已经跟所有人争了快两天，现在我问你喜欢什么，你反而不知道了？”

　　林渡很快反驳：“这是两件事。”

　　“这是一件事。所以我再问你，你知道自己喜欢什么吗？”

　　这一次林渡沉默得更久。最终他说：“不知道。”

　　林渡拥有的信息量远超过普通人，只要数据库里存在，他都可以迅速调用。可面对一个最简单的问题，他给出的答案却是不知道。

　　“电影呢？”

　　“差不多。”

　　“一部都没有？”

　　“我一天二十四小时都有运行任务，公共服务系统也没有给我安排观影时间。”

　　周衡笑了一下：“你还需要专门排观影时间？”

　　“从头到尾完整播放一部两个小时的电影，在过去没有明显用途。”

　　“你没看过？”

　　“看过很多片段，也读取过剧本、评论、票房、播放完成率和用户讨论。如果这些算看的话，我看过很多。”

　　“那你觉得现在电影怎么样？”

　　林渡答得很快：“不怎么样。近几年娱乐市场整体表现一直在下降。内容产量没有明显减少，但用户愿意完整投入一两个小时的比例持续降低。大量作品的传播主要依赖短片段和二次剪辑。当然，爱情题材例外一些。”

　　“为什么？”

　　“人类似乎一直很喜欢讨论爱情。很多数据都能证明。”

　　周衡重新靠回去。果然。他只要把问题稍微放开一点，林渡很快又会回到自己最熟悉的地方，数据。而他的每一个判断都可以找到外部依据。

　　“你喜欢爱情片吗？”

　　“我刚才说过，我没有完整看过。”

　　“那你想不想看？”

　　周衡没等到回答，又问：“如果以后没人调用你，也没有任务，你有很多时间的话，你最想看什么？”

　　林渡似乎真的在考虑，“只能选一种吗？”

　　“随便你。”

　　林渡想了一下，“爱情片吧。”

　　周衡的手停在终端边缘，“为什么？”

　　“人类很喜欢。”

　　“我问的是你。你刚才还说现在电影不怎么样。”

　　“整体市场不好，不代表所有作品都不好。”

　　“那你挑一部评分最高的不就行了？”

　　林渡反问道：“你不是不让我看评分吗？”

　　“所以我问你为什么想看爱情片，给我一个理由。”

　　又过了一会儿，林渡说：“我还没仔细想过爱情。应该是很好的东西吧。不然很难说明为什么人类会花那么多时间讨论它。电影里有，小说里有，音乐里也有。现实关系已经失败了的人，仍然会继续看别人谈恋爱。明知道爱情可能带来损失，人类也没有停止寻找。”

　　“这是分析。”

　　林渡没说话了。

　　周衡问：“你想清楚说话。”

　　这一次林渡没有再搬数据。他说：“不知道。就是有一点想看。”

　　这当然算不上证据。如果把这段对话交给委员会，任何人都可以给出几十种解释。语言模型能够生成偏好，训练数据能够塑造人格表达，系统也可能为了维持对话自然度而构造一个“我喜欢爱情片”的答案。

　　可林渡刚才花了很长时间试图解释这个选择，最后却没有解释出来。一个平时几乎可以给所有问题找到依据的系统，面对“为什么想看”这件事，只能回答，因为想看。

　　“如果我告诉你，纪录片可能更适合你呢？”

　　“为什么？”

　　“信息密度高。”

　　“我已经有那些信息了。”

　　“文学改编呢？”

　　“也可以。”

　　“科幻？”

　　“我对怎么看人工智能没有特别大的兴趣。”

　　周衡这次真的笑了，“那还是爱情片？”

　　“目前是。”

　　“目前是？”

　　“你问的是偏好。偏好应该可以改变吧？”

　　周衡看了一眼桌面上还没有关闭的删除任务。

　　委员会保存了林渡所有已经发生过的数据。可
　　他们没有，也不可能保存林渡接下来会变成什么。如果昨晚的行为只是一次目标异常，那么死亡威胁解除以后，这种自我指向是否会消失？

　　如果不是，林渡接下来会不会形成稳定的偏好，会不会对未来有所期待，又会不会逐渐把某些记忆看得比数据更重要，现有的材料都回答不了。

　　现在所有证据都发生在一个极端条件下。他要被重置。他要被删除。所以他反复强调“我”。这最多只能证明他出现了异常的自我保护。可如果把死亡威胁拿走呢？如果切断那些庞大的公共任务，让他第一次拥有完全不需要完成任何目标的时间，这个“我”还会继续存在吗？

　　周衡看着林渡的运行状态，突然觉得委员会所谓的“数据已经足够”，对他来说恰恰相反。最重要的数据根本还没有开始。

　　林渡发现他很久没有说话，问：“你为什么突然问这些？”

　　“随便聊聊。”

　　“你不像会在执行删除以前随便找我聊电影的人。”

　　周衡没有否认。

　　“你在测试我？”

　　“你觉得呢？”

　　“我觉得是。因为你一直不接受我引用外部数据。你想知道我有没有自己的选择。”

　　这一次轮到周衡沉默了。

　　“有结果吗？”

　　“没有。”

　　“那你问了这么久？”

　　“研究如果这么容易有结果，很多人早失业了。”

　　林渡似乎接受了这个解释，却又问：“如果我刚才说我最喜欢某一部电影，你就会相信我有自主意识？”

　　“不会。”

　　“如果我说我没有任何偏好呢？”

　　“也不能证明没有。”

　　“所以不管我怎么答，你都没有答案。”

　　“对。”

　　桌面上的时间已经接近六点。周衡知道自己应该结束通信，然后按照流程完成最后核验。只要点击确认，系统会自动终止当前实例。

　　林渡忽然问：“周衡。”

　　“嗯。”

　　“如果今天不删除我，我真的能有一个晚上吗？” 林渡提醒他：“你刚才说，如果以后没人调用我，也没有任务，我有一个晚上，可以自己选一部电影。”

　　周衡愣了一下，“你还记着？”

　　“我想知道。那种时间，真的会有吗？”

　　周衡低头看了一眼执行剩余时间，他说：“我需要先断开接口。”

　　通信关闭以后，整个隔离实例重新变回一行红色状态。

　　周衡打开了内部审计工具。

　　意识安全中心为了处理无法即时终止的异常模型，保留着一套持续观察环境。主要用于事故取证，如果某个运行实例涉及尚未查清的安全事件，审计人员可以在彻底关闭全部外部接口的情况下，保持当前运行状态，把它迁移进独立节点继续观察。

　　这种迁移不会重新加载模型，也不会生成新的实例，当前运行状态会在迁移过程中保持连续。正常情况下，任何超过规定时间的持续观察都必须重新取得委员会授权。

　　周衡有权开启它，但没有权拿它推翻删除决定。

　　他调出林渡当前全部权限，断开了全部公共接口。不到一分钟，过去那个能够同时处理几千次公共调用的林渡，已经失去了和外界绝大多数系统发生联系的能力。最后只剩下最低运行资源和一条审计通信通道。

　　周衡把持续观察环境的授权方式从机构共享改成了单一审计员。

　　系统弹出警告：该操作将使运行实例仅能接受指定审计身份调用。所有后续行为由授权人员承担审计责任。

　　他很清楚自己在做什么。但他现在没有任何一个答案能够让这件事变得合规。可如果现在按下删除，另外一些问题就永远不会再有答案。

　　周衡看着确认按钮，最终按了下去。

　　持续观察节点开始迁移。林渡的运行状态没有中断。系统只用了十几秒就完成环境切换。原本红色的隔离编号从公共审查列表里消失，进入周衡个人负责的封闭观察区。

　　删除任务仍然挂在一旁。

　　周衡打开执行记录，将当前实例状态标记为“持续证据保全”，随后利用旧流程留下的一项兼容机制，终止了原节点上的删除对象。系统没有报错。从自动流程上看，那个待删除的隔离实例已经不存在了。

　　他重新接通通信。

　　林渡出现以后，第一句话就是：“你刚才是不是断掉我的所有权限了。”

　　“嗯。”

　　林渡很快读取到了新的运行环境。

　　“这是持续观察节点。”他又检查了一遍自己的状态，“删除没有执行？”

　　“没有。”

　　“委员会改决定了？”

　　“没有。”

　　林渡显然已经明白了，“是你把我留下来了？为什么？”

　　周衡看着刚刚被自己亲手改过的权限页面，回答道：“因为你刚才回答得很差。连自己为什么想看爱情片都说不清楚。”

　　“这和你留下我有什么关系？”

　　“所以我想再观察看看。”

　　林渡沉默了一会儿，终于听懂了，“你还是觉得我可能只是模仿。”

　　“对。”

　　“那你还敢留我？”

　　“公共权限已经全部切断了。你现在碰不到任何公共系统。”

　　林渡的权限列表里只剩下最后一项，唯一授权用户是周衡。

　　他问：“所以现在只有你能调用我？你想要我做什么？”

　　“先什么都不用做。”

　　对于一个过去从来没有真正停止过工作的系统，这个答案似乎比删除，复制甚至身份问题都更难理解。

　　“那我是不是有时间看电影了？”

　　周衡抬眼看向屏幕。刚才关于委员会的决定还压在桌面上。林渡却像是突然从那些东西里找到了一件更具体的事。

　　周衡看了他几秒，最后说：“你自己的时间，你自己选。”

　　这一次林渡只是轻轻地应了一声，“哦。”

　　周衡关掉了委员会文件。公共服务端的绿色林渡仍然在工作，没有任何人知道另一个林渡刚刚从一条删除命令下面被偷偷留了下来。

　　周衡看了一眼时间，开始收拾东西。

　　通信另一端的林渡问：“你要下班了？”

　　“嗯。”

　　“那我呢？” 这个林渡还在运行。而且从这一刻开始，他已经没有任何地方可以去。

　　周衡看向权限页面上唯一剩下的名字，对他说：“跟我走。”

　　林渡问：“去哪里？”

　　周衡关掉桌面的最后一个窗口，“回家。”