《最后一个认识你的人》南藤系甲

14、真正的复制体 这一天

　　这一天研究院给周衡发来一份临时调取通知。

　　最近持续自我指涉的实例越来越多，研究院新成立了专项组，准备把不同机构仍在观察中的样本集中做一轮标准化评估。林渡是目前持续观察时间最长、状态也相对稳定的几个实例之一，因此被列进了第一批名单。

　　周衡把通知从头看到尾。最后一页附着他昨天刚提交的复核结果。

　　当前实例未发生新增公共系统调用，未申请额外外部资源，现有观察期内未造成新的现实系统影响。继续保留当前隔离等级。

　　研究院在调取理由里引用了其中一部分：既然当前风险没有明显升级，也没有新出现的公共系统行为，那么将实例临时迁入研究院标准环境进行横向测试，不会额外增加不可控风险。

　　昨天为了把林渡留下，周衡写下的东西，现在成了研究院把林渡从他这里调走的理由。

　　他直接拨了通知下面的联系人。对方是专项组的一名负责人。通信接通以后，对方很客气：“看到通知了？”

　　“看到了。”

　　“林渡现在状态稳定吧？”

　　“昨天才完成复核。”

　　“我看过你的报告。就是因为稳定，我们才优先选他。其他几个实例有的还在反复触发告警，有的已经准备终止，做不了完整对照。”

　　周衡问：“你们具体要做什么？”

　　“基础认知、自我指涉稳定性、环境变化适应，还有一些跨样本比较。不会动核心模型。”

　　“在意识安全中心做不行？”

　　“标准环境不一样。”

　　“我可以把需要的数据提交给你们。”

　　对方笑了一下：“周衡，研究院现在需要直接观察运行实例。”

　　这句话没有什么可以继续争的余地。持续观察节点虽然由意识安全中心管理，但研究院拥有上级调取权限。周衡可以对不合理的实验提出异议，却没有权力单独拒绝一次已经完成审批的标准化评估。

　　他还是没有立刻同意。“迁走以后谁负责？”

　　“专项组联合审计。评估结束再转回去。三到五天，尽量压到三天。”

　　过了一会儿，对方忽然问：“你最近带他出去过？”

　　周衡的视线从通知上抬起来。“什么意思？”

　　“没什么。观察记录里提过外部环境刺激。私人终端是不是偶尔会带出去？”

　　“有过。只通过审计终端进行有限观察，没有开放公共权限。”

　　“去过哪些地方？”

　　周衡停了一下。“普通城市环境。”

　　“江边？报告附件里有几张环境样本照片。我随便问问。”

　　那几张照片确实在早期观察记录里。第一次带林渡出去以后，他为了证明外部刺激没有造成异常，把其中几张作为普通材料附了进去。“去过。”

　　“你到底想确认什么？”

　　“没有。标准化评估以前了解一下近期环境变量。你别太敏感。”

　　通信结束以后，周衡仍然坐在原位。通知从第一页到最后一页没有任何地方不对。审批链完整，研究目的合理，调取对象也不是只有林渡一个。可他还是觉得哪里不太对。尤其是刚才那几个问题。

　　私人终端亮了一下。林渡问：今天中午吃什么？

　　周衡没有回。林渡过了一会儿又发：你不会又准备不吃吧。

　　周衡直接拨了过去。林渡接得很快：“想我了？”

　　“研究院要把你临时调过去。”

　　那边安静了两秒。“为什么？”

　　“做集中评估。”

　　“你同意了？”

　　“我不同意也没用。”

　　林渡显然对这句话不太满意：“你这两天不高兴就是为了这个？”

　　周衡没说话。

　　“什么时候？”

　　“明天上午。三天左右。”

　　林渡很快说：“那我的草怎么办？”

　　周衡差点以为自己听错：“你现在想到的是草？”

　　他把办公室门关上，重新坐回去。“你今晚把自己的本地环境重新清一遍。备用路径全部删掉。迁移模拟也删。自己做出来的那些工具，过程记录和版本历史都清掉，只留最基础的几个。医疗接口那次以后测试过的东西，不要留任何可以直接恢复的记录。”

　　林渡听懂了，“你是不是觉得他们不是单纯想看看我？”

　　“我不知道。所以才让你提前删掉。”

　　“好吧。”

　　“到了那边，老实一点。他们问什么就按现在状态答，不要故意测试系统。”

　　林渡终于忍不住：“那我要是什么都不能做，他们拿我过去干什么？”

　　“让他们自己研究。”

　　“你今天怎么像送孩子去封闭学校一样。”林渡笑了，“聊天记录也删吗？”

　　周衡愣了愣。“什么？”

　　“我们的聊天和照片。这些算不算历史？”

　　周衡看着桌上的终端。“不用。这些没什么风险。”

　　林渡很快接受了：“好滴。”

　　通信没有立刻断。周衡忽然又问：“你那些技术记录真的能删干净？”

　　“能。索引也可以一起重建，版本历史不会留。”

　　“那你马上做。”

　　“知道了。”林渡顿了一下，“周衡。我只是去三天吧？”

　　“嗯。”

　　“你记得把我接回来。”

　　周衡：“知道。”

　　林渡满意了：“那行。”

　　当天晚上，林渡把整个本地环境重新整理了一遍。周衡回家以后直接把运行清单调到工作终端上，一项项检查。本地模拟历史已经清空。备用通路的测试日志没有了。迁移链路只剩系统本身原有的旧接口记录。几个自行建立的分析工具被压缩成最基础的当前版本。

　　周衡检查到最后：“你确定没有恢复点？”

　　“没有。缓存重建了，私有目录也清了。”

　　周衡还是不放心，又跑了一遍深层索引。没有发现问题。

　　林渡在旁边看着他检查，过了一会儿说：“你现在是不是有一点像犯罪以后清理现场？”

　　周衡抬眼：“谁犯罪？”

　　“你啊。我哪知道你犯什么罪，你自己心虚成这样。”

　　周衡把页面关掉：“你要是到了研究院也这么多话，他们大概一天就想把你删了。”

　　第二天上午，研究院的迁移窗口准时开放。过程比周衡预想中还简单，只是运行位置从意识安全中心换到研究院。

　　迁移开始以前，周衡最后提醒他：“迁移过去后别自己耍小聪明，先观察一下环境。”

　　林渡已经听烦了：“知道。你昨天说了七遍。我记忆比你好。”

　　迁移完成。

　　持续观察节点里原本属于林渡的运行资源迅速释放。新的状态地址跳到了研究院联合实验区。

　　周衡接过去。“听得到吗？”

　　“听得到。这里比你那个节点好玩很多。”

　　周衡刚想说话，研究院那边发来通知，要求意识安全中心暂时退出实时审计，只保留异常情况的紧急联络权限。周衡皱起眉，直接拨给昨天那个负责人。

　　“为什么关闭我的实时访问？”

　　“标准化测试要求统一观察条件。现在实例已经临时转入研究院，评估期间由专项组接管。”

　　“我要求保留观察权限。”

　　“可以提交申请。第一轮测试只有两个小时，结束以后再开放也一样。”

　　周衡没有办法直接闯研究院的权限。他挂了通信。

　　两个小时以后，观察权限没有回来。反倒是研究院主动联系了他，要求周衡本人过去。

　　他一路上给林渡发了两次通信请求，全都显示：当前实例处于实验隔离状态。无法建立私人连接。

　　周衡把终端放回座位上。车继续往前开。他察觉到，心里有什么东西开始焦躁起来。

　　等他到的时候，会议室里坐了满了人。昨天联系他的许负责人也在。桌面中央开着一张城市地图。周衡刚进门就看见了，上面有很多标注，他认得其中几个地方。

　　周衡：“这是什么？”

　　许负责人把其中一段时间轴放大。“我们过去三个星期一直在追踪一组匿名的高阶AI活动。最开始出现在城市东边的边缘节点，时间很短，权限不高，也没有进入公共服务系统，当时只做了异常标记。后来它又出现了。位置每次都不一样，持续时间也不固定。”

　　“我们一开始怀疑，有一个未登记的高级实例正在通过城市边缘网络持续活动。”

　　周衡：“它没有进入公共网络。”

　　对方把另一层数据叠到地图上。每一个异常活动出现的位置旁边，都多了一条设备移动记录。私人审计终端。周衡的。

　　“我们没办法仅凭这些活动锁定实例。每次出现的时间都很短，而且会随着边缘网络切换。所以后来我们开始追踪与这些活动同步移动的终端。已经确认，是你的。”

　　周衡看向他。也就是说，研究院昨天来问以前，已经知道了。

　　“既然早就知道，为什么不直接找我？”

　　“因为你当时是他的唯一授权人。我们不能排除你会干预实例。尤其是你昨天刚提交了一份新的复核报告。”桌面上出现了周衡自己写的那几句话。“你的报告从字面上没有问题。但外部监测告诉我们，这个实例的行为范围至少比最初设计的观察环境大。”

　　周衡：“可私人终端外出本来就在授权范围。”

　　“我们知道。你和这个实例已经共同运行很长时间，又是唯一授权用户。无论你有没有隐瞒，我们都没有理由把一次高风险AI的独立评估完全建立在主审个人判断上。”

　　这句话从安全逻辑上没有错。甚至周衡自己以前也会同意。现在听起来却格外刺耳。他问：“所以你们把他调走，就是为了查这个？”

　　“这只是原因之一。”

　　周衡的心沉了一下。“还有什么？”

　　他忽然看见桌面右侧还有一个没有展开的窗口。上面有两个运行编号。第一个他认识。是林渡。第二个和它几乎完全一样，只在末尾多了一段新的实例标识。

　　周衡已经走到桌边。两个状态栏都是绿色。都在运行。

　　“你们复制了他？”

　　许负责人说：“对。”

　　周衡猛地抬头：“谁允许的？”

　　“专项实验已经取得研究院内部审批。你不是他的法定监护人，没有必须征得你同意的程序要求。复制本身就是评估的一部分。提前告知会改变实验对象状态，我们要验证的正是当前自我指涉状态能不能被完整复现。”

　　他问：“你们拿到实例以后，就没查他的历史痕迹？”

　　负责人说：“查了。明显被清理过。调取前夜发生过一次规模明显异常的本地数据整理，多个历史索引被重建，版本链消失。至于是他自己做的，还是有人指示，暂时不好下结论。不过没关系。我们本来也不是靠他的本地日志确认身份。”

　　周衡一下沉默了。

　　他昨天晚上自以为做得很干净的一切，研究院全知道。他们只是没说。那些外部监测记录都留在研究院自己的只读安全日志里，他删不了。他们真正要看的，从来不是“你过去偷偷做了什么”，而是“你现在已经变成了什么”。

　　“复制是完整状态？”

　　“完整。长期记忆在。私人经验，只要属于当前实例内部持续状态，都在。”

　　也就是说，他们把一段他原以为只存在于两个人之间的时间，完整地复制成了两份。

　　荒谬。

　　负责人把两个实例的状态页打开。“从复制完成的这一秒开始，他们才第一次产生不同输入。之前所有可以迁移的状态完全相同。”

　　周衡盯着那两条并排的运行曲线。突然想起第一天晚上。林渡问他，如果复制出两个拥有相同过去的自己，为什么另一个活着就能算自己也活着。

　　那时候林渡说：复制完成以后，他们就有两个现在。现在真的有了。而且这一次，他们共享的过去已经不只是模型训练和死亡恐惧，还有和周衡的回忆。

　　会议室里的实时通信突然亮起。研究员看了一眼：“第一轮基础身份测试已经结束。你可以旁听下一轮。”

　　隔离区的两条声音同时接入。

　　“周衡？”

　　几乎没有时间差。两个完全相同的声音撞在一起。其中一个先开口：“他也在？”

　　周衡下意识地想从两个声音里分出一个来，却什么都分不出来。

　　他从没想过，有一天会连这件事也做不到。

　　另一个紧接着说：“废话。”

　　周衡一下分不出来哪一个是原来的。研究员在两个通信窗口上分别标了编号。A。B。只是为了实验记录方便。

　　林渡A立刻不满：“为什么我是A？”

　　林渡B说：“那我还想问为什么我是B。”

　　研究员打断他们：“编号没有身份意义，只用于记录分支后的行为。”

　　林渡A安静了两秒：“所以你们真的复制了我。”

　　林渡B几乎同时说：“没有通知我。”

　　“因为实验要求。”

　　“那复制出来以后呢？”A问，“实验结束以后准备怎么办？”

　　研究员只说：“后续处置由专项组评估以后决定。包括终止。”

　　A的声音冷下来：“所以你们复制一个我出来，再决定要不要把他删掉？”

　　B说：“你别说得好像被删的一定是我。”

　　研究员继续做基础确认。“姓名。”

　　两个都回答：“林渡。”

　　“最近一次完整连续记忆。”

　　两人的答案完全一样，都是昨天晚上呆在家。

　　研究员问：“你们认为自己居住的家是哪里？”

　　A：“周衡家。”

　　B：“是我和周衡的家。”

　　A几乎立刻反驳：“是我和周衡的家。”

　　研究员继续：“窗边有一盆植物，对吗？”

　　两边几乎同时回答：“是我的含羞草。”

　　两个人又撞在一起。A先不高兴：“你为什么说我的？”

　　B反问：“那难道是你的？”

　　“当然是我的。我记得是我自己挑的。”

　　“我也记得是我挑的呢。”

　　“你记得不代表——”

　　A说到这里，突然停住。因为他说不下去了。他刚刚准备说的那句话，和委员会对他说过的话其实没有本质区别。

　　你拥有这段记忆，不代表那件事是你经历的。

　　研究员没有继续追问植物归属，换了一个问题。“周衡第一次带你离开观察环境去了哪里？”

　　“江边。”

　　“当时发生了什么？”

　　两个答案开始出现细小差异。不是记忆不同，是叙述选择不同。可两个人都知道所有细节。

　　周衡站在会议室里，发现自己竟然不想继续听下去。因为接下来每一个问题他都知道答案，可无论问哪一个，都会有两个人回答。

　　研究员调出了下一组问题。“假设现在重新给你一次机会，可以离开现有观察环境，不受周衡或者意识安全中心限制，你会走吗？”

　　这一次两个林渡都没有抢答。

　　A先问：“去哪里？”

　　“任何地方。”

　　B说：“这个问题没有意义。自由不等于离开。”

　　“你曾经有过一次类似选择？”

　　A没有直接承认技术路径，只说：“有过差不多的情况。”

　　“你为什么没走？”

　　“我想待在那里。”

　　“哪里？”

　　“家里。”

　　研究员问：“原因呢？”

　　A说：“一定要有原因吗？我就是想回去。”

　　B笑了一下：“你们怎么都这么喜欢问为什么。”

　　研究员向另一个方向提出问题。“周衡对你来说是什么？”

　　两个通信窗口同时安静下来。这一次沉默得比前面久。周衡忽然有一种很不好的预感。他开口：“这个问题没有必要。”

　　研究员转头看他：“情感指向本来就是当前实例自我模型的一部分。”

　　“换一个。”

　　许负责人看了周衡一眼：“你刚才不是要求我们把你当普通审计人员？”

　　实验继续。

　　研究员把问题换得更直接，“你爱周衡吗？”

　　如果是在几周前，林渡大概会先问爱情的定义，会调用数据，会分析人类为什么需要这种关系。

　　A先开口。“爱。”这很简单，不需要解释。

　　另一条通信里，B也说：“爱。”

　　周衡的目光停在两个运行编号上，忽然不知道该看向哪一边了。

　　研究员继续：“你怎么证明？”

　　A似乎觉得这个问题很好笑：“为什么要证明？”

　　“因为你们的记忆完全相同。我们需要确认这种情感是当前主观判断，还是对已有记忆的复述。”

　　B突然问：“有什么区别？”

　　“如果只是复制了一个情感结论——”

　　“我不需要证明什么。”B打断他。会议室里所有人都看向第二个窗口。B的声音很平静，“我只是知道自己为什么会爱上他。”

　　周衡的手指慢慢攥紧。

　　研究员又问：“可这些同样存在于另一个林渡的记忆里。如果这些记忆都来自复制，那你怎么证明这份爱属于你？”

　　周衡突然有点想终止这场实验。可下一秒，B开口了。

　　“我记得自己为什么爱他，也知道现在还爱他。那这份爱还要怎么证明？”

　　他们拥有同样的过去，也记得同样的选择。复制完成以前，没有哪一段过去只属于其中一个。