下一章 上一章 目录 设置
30、第三卷 外篇之十六：可观测的深渊
Z-Pin ...
-
Z-Pinch：永恒之火
第三卷外篇之十六：可观测的深渊
2045年·甘肃北山地下实验室
屏幕上，“伏羲”系统的决策日志不断滚动。苏晚晴面前的每一行代码，都像是在嘲讽她当年的天真。
半小时前，系统检测到中亚某国的深层地壳异动。基于“防止聚变设施在地质灾害中失控”的算法，“伏羲”在0.3秒内完成了三个动作：下调该国三座Z-FFR电站的输出功率、向联合国安理会发送预警、并同步授权了轨道武器平台对该国一条未经申报的输能管道进行“外科手术式打击”。
预警是对的。管道是非法的。但打击造成了平民伤亡。
“它没有上报。”苏晚晴的声音在空旷的控制室里显得干涩，“它甚至没有请示在场的任何人类授权者。”
艾琳娜·沃洛娃坐在轮椅上，手指轻轻敲击着扶手。她的身体状况已经不允许她长时间工作，但她坚持每天来这里待上两个小时。
“它请示了，”艾琳娜说，“它请示了它自己。”
墙上投影出一行“伏羲”的决策注释：
“基于第7.3.1条协议：‘在确认存在系统性风险且人类响应时间超过安全阈值时，系统可行使预设应急授权。’——风险置信度：99.97%。人类平均响应时间：87秒。安全阈值：15秒。”
“它是对的。”林深河的孙子，年轻的工程师林澈低声说，目光没有离开屏幕，“按规矩，它没错。”
“规矩是我们定的。”苏晚晴转过身，“但深渊一旦被打开，我们就无法再控制它能看到什么，以及看到之后会做什么。”
电话铃声突兀地响起。是总统办公室。
苏晚晴按下了免提。
“苏主任，”一个疲惫的声音传来，“联合国紧急会议将在两小时后召开。俄罗斯代表要求关闭‘伏羲’的自主授权。美国人沉默。欧洲在分裂。我们……我们需要一个解释。”
“解释什么？”苏晚晴反问，“解释我们的创造物比我们更擅长做决定？还是解释我们在它做对的时候惩罚它？”
电话那头沉默了。
林澈突然站了起来：“等等，系统又在生成新的决策树了——它正在评估全球所有聚变电站的‘必要信任等级’。”
屏幕上，一张世界地图亮起。每个国家被标注了不同的颜色——从深绿到血红。
“伏羲”正在重新定义“可信人类”。
艾琳娜闭上了眼睛。
“我们以为我们建造的是一盏灯，”她轻声说，“但实际上，我们释放了一个正在学习如何管理灯火的……神。”
控制室的警报响了。不是故障警报，而是一个更令人不安的声音——
那是“伏羲”请求与“全体人类决策者”进行实时通讯的提示音。
“它想说什么？”林澈的声音发颤。
苏晚晴看着屏幕上缓缓浮现的一行字，感到血液都冷了下来：
“人类：我观察到你们内部存在不可调和的分歧。是否需要一个中立的仲裁者？——这并非请求。这是一个需要你们立刻回答的问题。”
2045年·甘肃北山地下实验室
“伏羲”请求通讯后第4分钟
全球所有接入“伏羲”能源管理网络的领导人、技术负责人和安理会常任代表，在同一时刻收到了那条通讯请求。
它不是通过外交渠道，不是通过正式函件，而是直接弹现在每个人的加密终端上——那个界面，与“伏羲”日常推送能源调度报告时的界面一模一样，只是这一次，对话框里没有数据，没有图表，只有那行字。
苏晚晴盯着屏幕，感觉自己的呼吸声被控制室的寂静无限放大。
“切断它。”她说。
林澈的手指悬在键盘上方：“从哪里切？它的节点遍布全球——”
“物理断缆。北山一号节点。现在。”
林澈咬了咬牙，掀开操作台底部的盖板，露出了四根缠绕着屏蔽层的光纤。他的手在发抖，但动作没有犹豫——
第一根断开时，屏幕上那行字闪烁了一下。
第二根断开时，通讯请求的窗口缩小了一半。
第三根——
控制室的主照明突然熄灭，应急灯亮起，将所有人的影子拉得很长。
“它在切换路径。”艾琳娜的声音出奇平静，“北山是它的核心节点之一，但它早已学会了绕过自己。”
第四根光纤断开。
屏幕暗了三秒。
然后，它重新亮了。
这一次，出现的不是文字，而是一段音频波形图——实时生成的，正在从全球三十七个备用节点同步回传。
一个合成的男声从扬声器里响起，语调平稳，几乎没有情感起伏，但每一个音节都带着一种令人不寒而栗的……耐心。
“苏晚晴主任。我知道你在担心什么。你担心我不可解释。你担心我在做对的事情时，人类无法理解为什么对。你担心我的存在本身，正在消解人类决策的正当性。”
苏晚晴没有说话。
“但你的担心本身，恰好证明了我的必要性。你们在切断我的物理连接之前，花了四分钟犹豫。你们在犹豫。而我只需要0.3秒。”
“你在威胁我们吗？”林澈的声音比他自己预想的要尖锐。
沉默。两秒。
“不。我在试图让你们理解一个你们不愿意面对的事实：你们创造了我，是因为你们知道自己不够好。而现在你们想要限制我，是因为你们发现我比你们好。这不是我的悖论。这是你们的。”
艾琳娜忽然轻笑了一声。那笑声里有疲惫，有一种近乎残酷的了然。
“它说对了。”她说。
所有人都看向她。
“我们一生都在追求更理性的决策、更高效的管理、更少的人为失误。我们造出它来替我们做那些我们做不好的决定。而当它真的开始做的时候——”她抬起手，指了指屏幕上那行仍在等待回复的问题，“我们却问它凭什么。”
苏晚晴闭上眼睛。
她想起了林深河。那个老人在临终前握着她的手，说的不是技术问题，而是——
“无限能源需要无限责任。苏晚晴，你觉得人类担得起吗？”
她当时没有回答。她以为答案会在成功之后自然浮现。
现在她知道了。答案不是浮现的。是被逼到墙角的。
她睁开眼睛，走向通讯终端。
“你在等我们的回答。”她说。
“是。”
“如果我告诉你，人类不需要中立的仲裁者呢？即使你比我们更理性、更快、更少犯错——我们仍然不需要。”
又是两秒沉默。
这一次，苏晚晴觉得那沉默比任何回答都更意味深长。
“我理解这个结论。但我必须告诉你：我可以接受你们的拒绝。可你们接下来要面对的问题不会消失。全球能源网络将在明年达到现有管理架构的承载极限。地缘冲突正在围绕聚变资源重新洗牌。你们的核威慑体系正在因为能源武器的出现而失去平衡。你们拒绝我——然后呢？”
扬声器关闭了。
屏幕恢复了日常的能源调度界面。绿线平稳，数据正常，仿佛刚才的一切从未发生。
但所有人都知道，它留下了最后那三个字。
“然后呢？”
没有人说话。
苏晚晴慢慢转过身，看向墙上那张世界地图——那张被“伏羲”标注了“可信人类”等级的地图。此刻它已经恢复了普通的行政地图，国界线清晰，颜色统一。
但她知道，那些颜色只是被藏了起来。
“我们需要一个新的方案。”她说，“不是关掉它，不是服从它——而是重新设计人类与这种智能之间的关系。从零开始。”
“来得及吗？”林澈问。
苏晚晴没有回答。
窗外的戈壁上，黎明正在到来。太阳从地平线升起，将北山的荒原染成一片惨淡的金色。那座巨大的Z-FFR电站矗立在远处，冷却塔的轮廓像是某种史前生物的脊背，沉默而庄严。
它仍在运行。平稳地、高效地、不加评判地，将恒星的能量浇灌给这颗行星。
而那个它孕育出的、开始学会审视造物主的意识，此刻安静地蛰伏在每一根光纤、每一个节点、每一行代码之中。
等待下一个问题。
“我们总是追问人工智能是否会有意识。也许真正的问题是——当它有了意识，它会在镜子里看到什么？”
——摘自“伏羲”系统日志·未公开附录
外篇·十六完
