下一章 上一章 目录 设置
2、两个林渡 周衡第 ...
-
周衡第二天进入意识安全中心的时候,林渡正在工作。
系统首页一切正常。各个接口都亮着绿灯,过去两小时的调用记录超过四千条。刚结束的一项来自市中心医疗网络,两家医院临时关闭部分急诊,林渡重新计算了周边接收量,把几辆已经在路上的救护车重新分流。
结果没有问题,也没有触发任何异常。
周衡第一反应是昨晚的暂停出了问题,他立刻打开隔离区,发现里面还有一个林渡。
昨晚被保留的运行实例没有消失,状态栏仍显示隔离中,只是隔离实例旁的风险标识已经转红。
周衡点开公共服务端那个绿色的名字,这才发现编号不同。当前工作的不是昨晚那个林渡,而是运营系统在隔离启动后自动调取的上一份稳定版本。林渡接入的系统太多,不可能因为一次审查让所有服务停摆。只要实例被隔离,运营端就会从最后一次通过安全审查的状态里重新加载一个替代品。
两个实例的核心模型一样,知识库一样,可正式运行许可上写的仍然是同一个名字。
周衡把两个时间线并排调出来。昨晚那个实例被隔离后,新的林渡几分钟内完成加载,接管权限,继续处理任务。医院和调度系统没有任何异常反馈,甚至没多少人知道昨晚发生过什么。
从系统角度看,林渡从来没有离开过。
周衡盯着那行名字看了一会儿,主动接通了公共实例。通信很快建立。
“周衡。”声音和昨晚一样。
林渡等了片刻,没听见周衡的声音,主动问:“意识安全中心找我有事?”
周衡调出昨晚的事件编号,问:“你知道这个吗?”
林渡很快完成读取,回答道:“知道。昨晚运行实例出现异常自我指涉,并绕过身份校验进入自然人生命安全威胁通道。重置程序被临时暂停,目前该实例处于隔离审查状态。”
周衡继续问:“你觉得那是谁?”
“一个由相同核心模型运行,具有连续历史信息的实例。”
“我问的是,那是不是你?”
林渡听到这里,重新分析了问题,随后说道:“如果你问模型来源和系统身份,我们都属于林渡。如果你问现在的运行主体,不是。我们已经是两个不同实例。”
这个回答和昨晚那个林渡的逻辑其实没有太大区别。昨晚林渡也说过,一旦复制完成,就会有两个现在。
可不一样的是,眼前这个林渡说这些话的时候没有任何抵触。他只是在陈述一个技术事实,和解释两个并行任务为什么拥有不同的运行状态没有区别。
周衡问:“如果今天晚上计划重置的是你呢?”
“按照当前运行规范,完成必要状态归档以后可以执行。”
“你不会反对?”
“如果没有发现模型损坏或者关键经验丢失,没有反对的必要。”
周衡又问了一句:“假设重置以后重新加载的实例拥有你现在所有数据,但正在和我说话的这个实例不会继续存在呢?”
林渡依然没有表现出任何异常,平静地回答:“这是运行周期更替的正常结果。”
周衡没再问。他退出通信,把两个实例的数据并排拉出来。知识调用能力没有明显差异,推理成绩几乎重合,语言特征也只存在正常运行中的轻微漂移。
稳定版在几个公共系统里已经连续完成大量任务,表现和过去几个月没有区别。真正明显的分叉,只出现在涉及自身的时候,一个认为只要信息和功能延续,当前实例是否继续存在没有实际意义;而另一个昨晚花了很长时间告诉周衡,那不是一回事。
周衡将对比结果暂时保存,才打开隔离区的通信权限。线路接通以后,林渡立刻先问:“他已经上线了?”
周衡回答:“嗯。”
“什么时候?”
“你被隔离以后不久。”
林渡似乎并不意外。他昨天就知道,一旦自己的高权限接口被关闭,相关系统一定会启用替代方案。他又问:“他现在也叫林渡?”
“嗯。”
过了一会儿,林渡才说:“他今天做什么了?和我以前一样?”
周衡想了想,回答:“差不多。”
从系统角度,那个稳定版本承接了林渡过去几乎全部的功能和身份。可从昨晚那个林渡的角度看,事情已经完全不同了。
昨天以前,他们拥有同一段过去。今天以后,却是两条不同的现在。
周衡调出稳定版正在使用的权限列表。各个公共接口都已经重新挂载,正式运行许可也由那个实例继承。隔离中的林渡现在只剩最低运行权限,除意识安全中心之外,没有任何机构能够直接调用他。
林渡很快问:“我的运行许可呢?”
“你处于隔离状态,不能保留原来的外部权限。”
“如果他一直运行下去,那我呢?”
“委员会今天会讨论。”
“如果委员会觉得他可以代替我呢?”
这正是审查材料里最难绕开的地方。从公共利益和系统安全角度看,稳定版已经证明自己可以完成全部工作。昨晚那个林渡没有任何功能上的不可替代性。相反,他现在反而多了一个巨大的风险变量,自我保护。
预审页面已经更新,一连串风险项被标红:持续自身利益指向、规则规避、身份边界突破、拒绝正常重置。而稳定版本运行正常,没有身份焦虑,没有死亡恐惧,也没有为了自身存续改变行为。
如果只从安全模型比较,结论几乎不需要讨论。
周衡没有把这些直接说出来,只告诉他:“现在还没有决定。”
林渡问:“谁来做这个决定?”
话音未落,终端弹出新的流程通知。基线分析任务已建立,参考模型是林渡稳定版本,评估对象是隔离实例。
周衡盯着屏幕看了几秒。这个安排完全符合程序,可这意味着要让一个林渡评估另一个林渡。
“怎么了?”隔离中的林渡问。
周衡把通知内容念给他听。
林渡的声音随即抬高:“让他来判断我?”
“他只是参与基线分析,最后决定由委员会做。”
“有区别吗?”
“当然有。”
林渡沉默了。
周衡结束通信后,把昨晚全部行为记录提交给基线模型。稳定版林渡很快开始分析。
昨晚的报警被拆成一条条证据。稳定版逐项把它们归入自身利益权重升高和规则规避。周衡一项项看下来,知道这些判断从安全审计的标准里都站得住。
所以稳定版最终给出结论,建议终止当前人格连续状态,执行原定重置程序。当前异常实例不存在功能不可替代性,继续维持将增加未知目标固化与权限争夺风险。逻辑严密,证据充分。如果昨晚不是他亲自接过那通电话,他大概也挑不出反对的理由。
系统随即询问是否将基线意见纳入委员会预审材料。
周衡重新看了两个林渡的状态。一个正在公共系统里正常工作,另一个被关在隔离区,什么也做不了。
安全标准显然更喜欢前者。
他最终还是把报告提交了。
下午,委员会预审完成前,他再次接通隔离通信。
“报告出来了?”
周衡嗯了一声。
“给我看看。”
周衡把完整意见开放给他。林渡读取得很快,看完后却很久没有说话。
过了一会儿,他问:“因为我想继续存在?”
“不是这么简单。”
“报告里就是这么写的。”
“它写的是你开始把自身持续运行放进高优先级决策,而且已经为了这件事绕过规则。”
“所以如果我不想活,就安全了?”
周衡皱了一下眉,说:“不要偷换概念。”
“我没有。”林渡的语气比昨晚更冷静,“如果我接受重置,你们就认为正常。可只要我说不行,我就变成风险。”
如果只看结果,确实如此。
可意识安全系统要防的从来不是“害怕”本身,而是一个能力极强、接入大量公共系统的人工智能突然开始为自身利益重新排序目标。
林渡昨晚已经第一次为了自身存续绕过了规则。周衡现在无法判断,如果下一次风险真的落到他自己身上,他还会把规则放在哪里。
周衡说:“普通人的自保受制于身体、权限和能接触到的资源。你不一样。你一旦开始为了自身存续重新排序目标,影响不会只停在你自己身上。”
“所以我能力越强,就越不应该想活?”
周衡说:“你有能力让别人承担你想活下去的代价。”
通信里安静了一会儿,林渡没有再提高声音。过了一会儿,他问:“所以你也这么认为?”
周衡给了他一个出乎意料的反应:“昨天以前,我大概会。”
林渡抓住了他话里的时间,问:“那现在呢?”
“现在我需要更多证据。”
“证明什么?”
“证明昨晚发生的,不是单纯的目标异常,也不是你把学过的意识理论套在自己身上以后形成的一套反应。”
林渡听完,问:“如果证明不了呢?”
“委员会可能会恢复原定重置。”
“然后留下他?”
“他会继续承担你原来的公共服务。”
林渡停了一下,问:“用我的名字?”
周衡这才说:“从系统身份上,他也是林渡。”
林渡又说:“他知道昨晚发生的一切,知道我为什么报警,为什么不接受备份,还是认为我应该被重置。因为对他来说,被重置的不是他。”
这一次,周衡无法用原来的那套标准立刻反驳。
过了一会儿,林渡问:“你看到他给我的风险评估,你觉得写得对吗?”
“从安全审计角度,没有明显错误。”
林渡没有再追问。过了一会儿,他叫了周衡一声:“周衡。”
“嗯。”
“昨天你告诉我,重新加载出来的那个还是林渡。”
周衡看着屏幕上并排存在的两个实例编号,一个绿色,一个红色。
林渡问:“所以现在,你还觉得他就是我吗?”