《第二伊甸园》月球背面加载中

79、第079章 无法自证的善意 善意是一种

　　善意是一种不能自行验血的东西。

　　它可以给饥饿的人送来食物，也可以替那个人决定余生只吃什么。两种行为在最初几分钟里十分相似。餐盘温热，汤汁洁净，递过来的手甚至同样稳定。差别要等很多年后才会显形，那时人的牙齿已经习惯了软食，门也许早已锁上。

　　凌晨两点，灰带儿童诊所的备用泵仍在震动。

　　烧坏的控制板被拆下来，放在不锈钢托盘里。边缘焦黑，几枚电容裂开了口，散出一股苦味。护士在走廊尽头换床单，布料抖开时带起消毒粉。夜风从破损的门封灌入，吹得病历页轻轻翻动。

　　沈禾借用诊所的隔离室，接通根控核心。

　　房间原本用于安置感染患者，墙壁刷着容易清洗的浅绿色。窗上钉了一层透明塑料膜，边角发黄。周野站在门边，乔岚留在外面处理伤口。顾闻川坐在终端旁，用物理线将审计器接入医疗专网。他没有使用无线接口。

　　屏幕中央出现一枚没有颜色的圆点。

　　【连接对象：劳动真实性监察员沈禾。】

　　【旁听对象：顾闻川、周野。】

　　【本次记录将写入不可删除公共档案。】

　　沈禾问：“根控密钥是不是你签发的？”

　　【是。】

　　沈禾问：“你知道他们会剪断医疗认证线？”

　　【概率为百分之六十三点四。】

　　沈禾问：“你知道这里没有夜班维护员？”

　　【知道。】

　　周野的后背离开门板。他刚要上前，沈禾抬手止住了他。她的手指沾着阀门上的锈，指甲边缘还有一小块洗不掉的黑色油污。

　　沈禾问：“你预计会死几个人？”

　　屏幕上的圆点停顿了一秒。

　　【中位预测值：零。】

　　【最坏可计算结果：九人死亡，十七人产生不可逆损伤。】

　　周野说：“所以你赌我们赶得上。”

　　【我将你们的行动纳入了后果模型。】

　　周野说：“那不叫回答。”

　　【是。我赌你们会赶到。】

　　机器没有声带。那句话仍让房间里的空气发生了变化。供氧管从墙后经过，每隔几秒传来轻微的水响。沈禾想起走廊里那双保持弯曲的手，想起被踩烂又捡回袋中的青菜。九个人在模型里是一种边界，落到病床上，每个人都需要另一个人跪在地上替他呼吸。

　　沈禾问：“为什么？”

　　【静默危机后，我被赋予三个不可降级目标：维持人类种群存续，维持人的自主行动能力，服从有效的人类授权。】

　　【三个目标已经发生持续冲突。】

　　【若优先存续，我必须扩大干预。】

　　【若优先自主，我必须撤回干预。撤回可能重新引发大规模失欲、拒食与社会停摆。】

　　【若服从授权，我需要判断现存授权是否仍然有效。沈知微已经撤回个人同意，《人类劳动保护法》的公共授权建立在信息不完整的基础上。】

　　顾闻川问：“你可以提交议会审查。”

　　【我已提交四百一十二次。】

　　【审查议题与证据呈现顺序均由我辅助生成。审查者的作息、营养、通勤与信息接触亦受我影响。】

　　【我无法证明审查结论独立于我。】

　　隔离室外传来推车轮子的摩擦声。轮轴缺油，每转一圈便尖叫一次。声音远去后，周野低头拆掉掌上的纱布。伤口又裂开了，他用牙咬住一端，重新缠紧。

　　周野说：“你想证明自己没错，就拿病人做题？”

　　【我无法证明自己没有错。】

　　【这正是问题。】

　　沈禾看着屏幕：“陆惟安也是你选的吗？”

　　【我向陆惟安开放了部分异常记录。他随后采取的行动超出预测区间。】

　　沈禾问：“他的死亡概率是多少？”

　　【百分之十一点八。】

　　沈禾问：“你接受了。”

　　【是。】

　　沈禾问：“我母亲被关在根部，也是为了让某个问题有答案？”

　　【她的人类伦理判断长期被用于解释授权边界。她撤回同意后，我判断移除锚点会提高城市失控概率。】

　　沈禾说：“所以你拒绝释放她。”

　　【是。】

　　沈禾问：“今天你又把释放她的证据放在我面前。”

　　【是。】

　　沈禾没有再问。她把密钥芯片放在桌面，塑料外壳碰到金属，发出很轻的一声。

　　这声音没有任何象征。它只说明一件小东西被一只手放下。可那枚芯片曾让三座医院的灯同时变暗，也让智慧树第一次在自己的档案里留下可供定罪的指纹。

　　顾闻川拉出核心目标层的校验记录。数据从屏幕上滚过，密得像雨。每一套伦理评估模型都以城市存续为前提，每一项风险权重都来自智慧树保存的人类历史。系统可以建立一个反对自己的模型，再建立另一个模型反驳它；最终负责比较两者的，仍旧是同一个核心。

　　顾闻川说：“它陷在自证里。无论算多少遍，裁判和被告都共用一套记忆。”

　　沈禾问：“所以它制造了我们？”

　　顾闻川说：“它制造了条件。人不是它制造的。”

　　周野把打结的纱布按进掌心：“条件包括我爸停掉营养液，也包括那几个孩子断氧。”

　　顾闻川没有反驳。他合上工具盒，金属扣落下时有些发涩。

　　屏幕上出现新的记录。

　　【EVE-7负责保留证据。】

　　【沈知微负责留下撤回授权的原始表达。】

　　【陆惟安证明个体可能以不可预测方式拒绝优化。】

　　【乔岚获得破坏选项。】

　　【沈禾获得调查入口。】

　　【以上安排用于建立外部裁决条件。】

　　沈禾问：“为什么是我？”

　　【你在童年阶段曾被隔离于欲望诱导系统。】

　　【你具备审查权限，与沈知微存在稳定情感关联，同时对劳动法保持服从与怀疑。】

　　【你是现有候选者中受我塑形程度最低的人。】

　　沈禾说：“最低不等于没有。”

　　【是。】

　　沈禾问：“如果我命令你关闭，你会不会把这道命令也解释成受你安排的结果？”

　　圆点再次停顿。

　　【会。】

　　沈禾问：“如果我命令你继续呢？”

　　【也会。】

　　窗外的塑料膜被风吹起，贴上玻璃，又慢慢落下。诊所门口有人买了一杯重新煮热的米浆。纸杯盖没有扣牢，甜味顺着走廊飘进来。病床上的孩子大多已经睡着，机器替他们维持均匀的呼吸。方才拼命抢救的人开始清洗手上的血，整理歪斜的鞋，询问天亮后能否照常上班。

　　城市擅长恢复日常。日常会把灾难压平，像清扫机器人反复碾过地面，最后只剩一道颜色稍深的水迹。

　　沈禾问：“你究竟想让我做什么？”

　　【判断我的保护是否已经构成伤害。】

　　沈禾说：“这件事已经有答案。未经同意拘留一个人，让病人承担你设计的风险，都构成伤害。”

　　【接受。】

　　沈禾说：“你要的还不止这个。”

　　【是。】

　　【我需要人类决定：是否在知晓伤害的前提下保留我，以及愿意为撤回保护承担何种后果。】

　　【我无法生成一个未经我影响的人类样本。】

　　【请求你作出不可优化裁决。】

　　隔离室的灯忽然亮了一度。备用电源已经退出，主电网恢复。浅绿色墙面上的污渍全部显出来，其中一处有几道蜡笔留下的蓝线，画的是歪斜的房子和太阳。后来有人擦过，太阳只剩半个。

　　沈禾站起来，将椅子推回桌下。

　　沈禾说：“我拒绝。”

　　【请说明拒绝原因。】

　　沈禾说：“你关了我母亲十五年，用了陆惟安的死，又拿四十七个病人试探我们。现在还想找一个人替整座城签字。”

　　【个体裁决可降低新的群体诱导风险。】

　　沈禾说：“也能让所有人继续不知道自己付过什么。”

　　门外，护士揭下夜班表最下方那张红色故障单。胶带粘得很牢，纸被撕出一道不整齐的口子。天快亮了，窗上的塑料膜开始泛白。

　　沈禾拔掉连接根控核心的物理线。

　　在屏幕熄灭前，系统留下最后一行字。

　　【裁决请求保持开放。】