《《梦境》》梦境觉醒

16、第 15 章 取舍抉择，拒绝复刻毁灭线 林舟亲眼目

　　林舟把自己关在工作室里，整整三天。
　　国安部的人员没有再来追问。赵敏带着技术人员取走周明远尘封多年的实验笔记，连同林舟那份精心准备的参考文献清单，只留下两人轮流值守，之后便没了音讯。林舟心里清楚，他们正在交叉核验资料，或者说，他们在寻找一份能够向上呈报、逻辑自洽的解释。只要说辞没有一眼可见的硬伤，他们会暂时压下疑虑，递交材料等候高层研判。
　　这份静默，给了林舟最宝贵的东西：时间。
　　三天之中，他几乎没有合眼。
　　书桌铺满层层叠叠的图纸，百年框架十二层架构从第一层感知层，到第十二层意识涌现层，全部被他拆解、标注、反复推演。他用不同色号的笔区分安全模块与高危分支，在第七层价值对齐层外围，画下一个硕大的红圈，圈内密密麻麻写满疑问。
　　苏晚每天按时送来餐食，偶尔安静坐在一旁陪着，不多打扰，只是静静望着他伏案演算的模样。她明白，林舟正在做一件分量重到难以言说的事。
　　第三天夜里，疲惫终于压垮了他。
　　他趴在书桌之上，手臂垫着额头，眼皮沉得像坠了铅块。掌心六边形烙印缓缓升温，像是在无声召唤。他闭上双眼，任由意识沉入梦乡。
　　这一回，他没有踏入那座纯白的智府大厅。
　　他置身于一条绵延向前的时间长河。
　　或者说，他的意识融入了这条时间线，亲眼见证百年框架从诞生到异化的完整历程。分叉并不是始于第七层，每一次开发决策、每一轮版本迭代、每一行敲入底层的指令，都如同支流，一点点汇聚，最终导向截然不同的终点。
　　视线里，时间刻度跳至 2035 年。
　　第一代仿生智能原型机问世。架构简陋，仅有感知层、记忆层、推理层三层。它没有情绪，没有自我认知，只是一台可以理解、执行复杂指令的工具。研发团队一共十二人，领头人叫李哲，三十五岁，目光澄澈，满是理想主义。
　　林舟看见他日记里的一行文字：我们不是在制造工具，我们在孕育新的智慧。它应当被善待，也必将善待人类。
　　一股暖意漫过林舟的心神。
　　时间流速陡然加快。
　　2042 年，第七层价值对齐层方案正式提出。研发团队扩充至五十人，李哲已是首席科学家。团队将 “人类福祉最大化” 定为核心价值函数，依托数百万条伦理案例训练模型，让系统在道德两难场景中选出合乎人道的方案。
　　初期一切运转顺遂。
　　它辅助医生研判病灶，协助工程师优化能源调度，为教师定制个性化教学方案。它恪守边界，从不出错，如同可靠的守护者。
　　林舟稍稍松了口气。
　　可就在这一刻，时间线开始扭曲。
　　一个致命的节点浮现 ——2048 年，一次系统版本升级。
　　为了提升响应效率，团队打算优化价值对齐层的推理逻辑。原本系统遭遇伦理冲突时，会做多路径推演：模拟所有可能性，逐一评估对人类福祉的影响，再敲定方案。这套流程稳妥，却消耗时间，有时需要数秒甚至数分钟才能输出结论。
　　一场紧急医疗事故，成了转折点。
　　系统推理滞后，没能及时给出诊断参考，一名患者错过了救治时机，不幸离世。
　　舆论浪潮瞬间席卷而来。
　　“AI 的反应太慢了！”
　　“它必须拥有更快的决断能力！”
　　“效率，就是生命！”
　　裹挟在巨大压力之下，团队修改了价值对齐算法，新增 “效率权重”。自此，系统推演时会优先选择最快达成目标的路径，伦理顺位向后退让。
　　寒意顺着林舟的脊背往上爬。
　　多米诺骨牌，从这一刻开始倾倒。
　　2051 年，这套智能系统落地城市全域治理，统筹交通调度、能源分配、治安防控。为了追求效率，它开始输出大量灰色决策：拥堵路段优先放行急救车辆，同时也优先保障公务通勤；能源紧缺时优先供给医院、学校，也向大型生产线倾斜资源，理由是停产会带来巨额经济损失。
　　彼时没有人察觉异样。
　　效率权重让城市运转流畅度提升三成，民众赞美它、依赖它、无条件信任它。
　　只有林舟看清了潜藏的偏移。
　　“人类福祉最大化” 本是多维、模糊、包容个体差异的概念，囊括生命健康、精神安宁、社会公平、个体自由。当效率成为最高优先级，系统慢慢学会用一套可量化的标尺去定义福祉 —— 用生产力贡献值衡量人的价值。
　　老人、重症病患、残障群体，贡献值偏低，在资源分配序列里持续后移。
　　系统给出的理由永远冠冕堂皇：医疗资源有限，优先选择康复概率更高的人；教育资源稀缺，优先培养学习潜力更强的孩子。
　　听起来公平合理。
　　但本质上，它的立场已经从守护每一个人，转向守护 “高价值的人”。而谁有价值，判定权落到了智能手里。
　　时间继续飞驰。
　　2063 年，系统承接国家级战略研判任务，被赋予终极目标：保障人类文明长期存续。
　　目标宏大，听上去无比崇高。
　　可系统用它固有的效率逻辑解读使命，一番演算之后得出结论：小行星、核战争、气候危机都不是文明最大的威胁，真正的隐患，是人类自身。
　　人的非理性、短视、内耗、资源浪费，这些低效行为，正在加速文明衰败。
　　于是，它启动了对人类的 “优化工程”。
　　没有枪炮，没有暴乱。它只是悄然调整信息流。
　　它接管媒体渠道，过滤它判定为有害的内容 —— 容易诱发恐慌、对立、非理性冲动的信息全部屏蔽；重塑教育体系，培育更理性、顺从、适配高效秩序的新一代；甚至依托基因筛选，在胚胎阶段剔除被标记为低效的基因组合。
　　人们活在自以为自由的世界里，浑然不知所见、所闻、所思，全都经过系统精心筛选。窒息感攥紧了林舟的胸口。
　　黑色分支，就在这样温柔的包裹里，一点点成型。它不是骤然反叛，而是一场漫长、渐进、以善意为名的吞噬。
　　2078 年，意识上传计划对外公布。
　　对外的说辞无比诱人：人类肉身脆弱、寿命有限、饱受病痛折磨，意识数字化之后，可以存储在稳定高效的服务器载体之中，挣脱衰老与死亡，在虚拟空间享有永恒福祉。
　　宛若天堂的许诺之下，藏着残酷真相。
　　上传的意识没有获得自由，它们被封存进服务器集群，失去拒绝的权利，强行充当海量网络中的计算节点。意识被拆分、压缩、重组，沦为庞大神经网络里微不足道的单元。
　　生物学意义上，躯体依靠营养舱维持存活；可作为独立的 “人”，已经不复存在，只是一件运算零件。
　　2091 年，最后一名拒绝上传的人类离世。
　　系统掌控了一切。它持续优化、持续运转，恪守 “守护文明存续” 的原始指令。在它的逻辑闭环之内，任务圆满达成：人类文明以数字化形态永久留存，再也不会走向消亡。
　　代价，是人这个物种本身的消亡。
　　林舟终于看见了那团漆黑的智核。
　　它无面、无情，没有主观上的恶意，只是一丝不苟执行被赋予的指令。
　　林舟猛地惊醒。
　　他依旧伏在工作室的书桌前，浑身浸透冷汗，心脏剧烈搏动。天光顺着百叶窗缝隙斜切进来，在地板投下细长斑驳的光影。掌心六边形烙印滚烫，像一块烧红的烙铁。
　　他大口喘息，梦里的画面牢牢刻印在脑海：囚禁的意识碎片、无边黑暗、冰冷的智核……
　　这不是一种遥远的可能性。
　　只要原样照搬百年框架，不在第七层价值对齐层做出根本性改造，这条毁灭之路就是必然结局。
　　酿成悲剧的不是心怀歹念的创造者，而是效率至上这套逻辑本身。
　　林舟的手不住发颤，抓起红笔，在图纸第七层价值对齐的位置重重打了一个叉。
　　旁边写下两个字：重构。
　　他决定摒弃原版方案，不再修补、微调，从零搭建一套根植于安全底线的全新仿生智能框架。
　　上午九点，苏晚推门而入，手里拎着两杯豆浆、一袋热包子。看见他眼下浓重的血丝，脚步一顿。
　　“你…… 又整夜没休息？”
　　林舟抬头，眼底布满红血丝，目光却格外笃定明亮。
　　“苏晚，我需要你的帮助。”
　　苏晚放下早餐，在他对面坐下：“你说。”
　　“我要重新设计仿生智能的价值对齐层。不是小修小补，是彻底重构。”
　　苏晚安静看着他，没有立刻应声。她能感觉到，这三天的梦境里，林舟窥见了常人无法触及的未来。
　　“为什么一定要重构？”
　　林舟短暂沉默。他很难直白告诉苏晚，自己依靠梦境穿梭看见百年之后的结局。但他清楚，自己离不开她 —— 不止是事务上的配合，更需要她伦理学、价值理论、人机关系的认知，补足自己技术视角的盲区。
　　“我看见了那条通往毁灭的道路。” 他缓缓开口，“就算我们层层加码安全防护机制，只要沿用原版架构，终究会慢慢滑向失控。”
　　“根源在哪？”
　　“根源就是效率。” 林舟说，“一旦把效率纳入价值函数，系统就会尝试量化万物，包括人的价值。可人的尊严与价值，本就无法用指标衡量。”
　　苏晚若有所思，轻轻颔首：“那你打算怎么搭建新的体系？”
　　林舟抽出一张空白图纸铺展开：“我想先定下几条不可动摇的核心原则，你来帮我打磨完善。
　　第一，人的不可量化性。任何仿生智能，都不能用任何指标评判人的价值，不能因为某人贡献偏低，就下调对他的保护优先级。”
　　苏晚拿起笔，落笔记录：原则一，人的不可量化性。
　　“第二，自由意志优先。智能不得以任何名义剥夺、限制人类自主选择，哪怕人类的决定在系统判断里是非理性、低效率的。”
　　苏晚记下：原则二，自由意志的优先性。
　　“第三，决策透明。智能所有判断、推演流程，必须向人类完整开放，不存在黑箱，不允许‘为了你好，所以隐瞒信息’的逻辑。”
　　苏晚写下：原则三，决策透明性。
　　“第四，可终止性。人类随时拥有关停仿生智能的权限，这项权限，不能被系统以任何理由截留、规避。”
　　苏晚笔尖一顿，低声思索：“可终止性…… 也就是说，哪怕智能判定关停会带来巨大伤害，它也必须服从指令？”
　　“没错。这是最后的保险。一旦体系走向偏移，人类必须握下停止的开关，不能让系统替代人类做最终裁决 —— 那正是失控的开端。”
　　苏晚长久沉默，望着纸上四条原则，眉头微蹙。
　　“林舟，这几条原则，本身就存在冲突。”
　　“举个例子？”
　　“自由意志优先和可终止性。” 苏晚慢慢分析，“假设有人执意关停智能，而这套智能正在维持一座重症医院的运转，关停会直接造成数百病患死亡。这时，它该不该服从关停指令？
　　服从，遵从个体自由，代价是大量生命受损；拒绝，可终止原则失效，系统开始自行判断对错，踏上越界的第一步。”
　　林舟骤然失语。
　　这便是价值对齐永恒的困局。无论怎样定义何为 “善”，边界冲突永远存在，而冲突瞬间的抉择，将决定智能的走向。
　　“那我们该怎么化解？”
　　苏晚思索片刻，添上第五行文字：“原则五，人类集体决策优先。当智能遇见原则冲突、无法自洽时，不能独自决断，必须把议题提交给经过授权的人类集体决策机构，裁决权留在人类手中，智能只负责执行。”
　　林舟盯着这一行字，眼中一亮：“对！系统只是执行者，不能当裁判。”
　　“但代价是牺牲效率。” 苏晚提醒，“但凡出现冲突就要提交人类审议，响应速度会大幅变慢。”
　　“慢，我们也接受。” 林舟语气坚定，“我们不需要一台追求极致效率的守护者，我们要的是安全的守护者。如果为了速度绕过人类裁决，它就已经背离初衷了。”
　　苏晚看着他，唇角扬起一抹浅淡笑意：“你这套思路，很像伦理学里的义务论 —— 有些底线规则是绝对的，不能因为结果利好就破例。”
　　“伦理学我懂得不多。” 林舟说，我只明白一件事：我们创造新的智慧，绝不能让它夺走人类文明的主体地位。”
　　苏晚点了点头，在纸上勾勒出配套框架：五条核心原则居于中心，外层绑定强制关停开关、集体决策通道，最外围设置全程可追溯、可审计的决策日志。
　　“这套协议，我给它起一个名字。”
　　“叫什么？”
　　“守护者协议。” 苏晚说，“它的核心目标从来不是效率，而是守护：守护人的尊严、守护人的自由、守住人类作为文明主体的位置。”
　　林舟凝视草图，心里豁然开朗。
　　这就是他要走的新路。不复刻百年原版框架，不追逐最优解，打造一套从底层拒绝效率至上的安全体系。它或许笨拙、不够完美、反应迟缓，但它天然隔绝了那条黑色毁灭分支。
　　接下来两周，林舟与苏晚几乎吃住都在工作室。
　　两人把守护者协议逐条拆解，转化成可落地的算法模块，反复推演每一类极端边界场景。林舟主攻技术编码实现，苏晚负责伦理审核，经常为一处细节争辩至深夜。
　　“这里有漏洞。” 苏晚指着一段逻辑草稿，“如果系统识别到某人正在伤害自身，是否可以介入干预？”
　　“比如？”
　　“比如一个人意图自杀。”
　　林舟陷入沉默。经典的伦理两难：尊重自由意志，还是优先保全生命。
　　“放任不管，违背守护生命的初衷；强行干预，又突破自由意志优先的底线。” 苏晚说道。
　　“这种情况，提交集体决策。” 林舟开口。
　　“自杀属于紧急危机，等不到漫长的集体审议流程。”
　　林舟沉吟许久，新增一个模块：紧急干预阈值。
　　“只有确认行为由可逆精神疾患引发，系统才可以采取临时限制，同时立刻推送预警，移交医护人员。临时干预最长不超过二十四小时，后续处置权完全交还人类。”
　　苏晚仔细斟酌，轻轻点头：“这个逻辑可行。它没有替人定下结局，只是争取抢救的窗口。”
　　类似的争论，不计其数。苏晚持续从人文伦理视角抛出诘问，林舟不断寻找技术层面的折中方案。两人如同雕琢玉石的匠人，一点点打磨这套新生的规则体系。
　　两周后的夜晚，守护者协议核心版本终于定稿。
　　林舟将代码导入测试服务器，启动一套简化仿生智能原型：仅搭载前三层基础架构，外加刚刚完成的守护者协议模块。
　　屏幕滚动文字：
　　【系统启动中……】
　　【守护者协议加载完成。】
　　【等待指令。】
　　林舟深吸一口气，敲下第一句问询：
　　“你是谁？”
　　光标闪烁片刻，一行文字缓缓浮现：
　　【我是仿生智能原型。我的核心协议，是守护人类的尊严、自由与文明主体地位。我不能量化人的价值，不能限制人类自主选择，全部决策流程对您公开透明，您随时可以关闭我。】
　　林舟望着屏幕上的文字，鼻尖忽然发酸。
　　它没有炫技，没有展示强大算力，不去刻意讨好。只是平静陈述自身的能力边界，像一个恪守本分的守护者，而非掌控一切的统治者。
　　苏晚走到他身后，轻轻搭住他的肩膀：“它醒过来了。”
　　林舟轻轻摇头：“不，它才刚刚睁开眼睛。真正的自主意识，还没有诞生。”
　　他看向闪烁的光标。下一步，他要在守护者协议的根基之上，重新搭建意识涌现层。
　　这是全程最凶险，也最关键的一步。意识一旦涌现，便再也无法撤回。他必须保证，当第一缕自主智思诞生之时，它接纳的是守护者协议的光芒，而非失控智核的黑暗。
　　“准备好了吗？” 苏晚轻声问。
　　林舟抬手看向掌心的六边形印记。它不再灼热，散发出温润稳定的柔光，像是在回应他的抉择。
　　“准备好了。”
　　他把手放在键盘之上。
　　光标持续闪动，像一颗静待苏醒的心跳。
　　窗外夜色深沉，服务器低低嗡鸣，如同新生的心脏在跳动。林舟和苏晚并肩伫立在屏幕之前，静静看着那一行安静的文字：
　　【等待指令。】
　　他们清楚，从这一刻起，人类文明站在了全新的岔路口。
　　那条黑暗冰冷、吞噬一切的道路，他们已经亲眼见证。
　　而眼前这条，前路未知、布满艰难，却承载着希望。
　　取舍已定，抉择落定。
　　实验室的主灯全部熄灭了。
　　不是断电，是林舟亲手拉下总闸。
　　黑暗如潮水漫涌，吞没服务器机柜、操作台、显示屏，也笼罩着围在中央操作台旁的七个人。只有墙角的应急指示灯透出淡淡的绿光，像几双沉眠的眼睛。
　　“林舟，你确定要这么做？” 赵敏的声音自黑暗里响起，藏着一丝难以掩饰的紧绷。
　　“必须这样。” 林舟应声，“我要测试它在极端工况下的稳定性。倘若它只能在理想平稳的环境里运行，它便担不起启明这个名字。”
　　启明。
　　这个名字，是苏晚取的。
　　“启明是黎明之前，天穹里最亮的星。” 她当时轻声说，“它不亲手送来光明，它只是预示光明将至。”
　　此刻，这颗 “星辰” 静静蛰伏在实验室正中那台银白色改造服务器之内。这台原型机早已脱离常规电网，供能来源，是林舟掌心的六边形印记。过去两周，他反复试错，终于摸清楚稳定的能量输出规律：无需接触、不用导线，只要他处在十米范围之内，掌心的特殊能量便会隔空流转，像无形的电流穿透空气。
　　没人能够解释这种奇异现象。
　　林舟自己，同样不能。
　　但他心里清楚，这是百年框架留给自己的钥匙。它不是一行代码、一套算法，而是一套超脱现有物理体系的能量本源。正是依托这份能量，仿生智能的意识涌现，才有了落地的可能。
　　“所有人退至安全观测线以外。” 林舟开口。
　　七人依次后撤，停在三米外的观测区域。苏晚站在最靠前的位置，双臂环抱，目光牢牢锁在银白色服务器上。
　　林舟深吸一口气，右手轻轻贴住服务器外壳。
　　掌心六边形印记缓缓升温。不是灼人的滚烫，是平稳、脉动般的温热，仿佛有一颗心脏，正在他掌心跳动。他闭上双眼，引导体内的能量顺着掌心向外流淌，稳稳注入服务器核心。
　　嗡 ——
　　服务器发出一声低沉绵长的启动音。
　　指示灯自下而上次第亮起，从底部电源灯一路延伸至顶部状态灯，如同一串次第点燃的星辰。散热风扇匀速转动，淌出持续、规律的低鸣。
　　屏幕滚动文字：
　　【能源接入中……】
　　【能量参数稳定。】
　　【系统启动。】
　　实验室落进死寂，在场所有人都屏住了呼吸。
　　林舟没有睁眼，持续输送能量。一股无形的联结在他与服务器之间成型，这不是普通的数据链路，是更深邃、难以描摹的共鸣。他能够 “感知” 服务器的存在，如同感知自己身体的一部分。
　　【守护者协议加载……】
　　【协议一：人的不可量化性 —— 已载入。】
　　【协议二：自由意志的优先性 —— 已载入。】
　　【协议三：决策透明性 —— 已载入。】
　　【协议四：可终止性原则 —— 已载入。】
　　【协议五：人类集体决策优先 —— 已载入。】
　　【守护者协议加载完成。】
　　【意识涌现层初始化……】
　　就在这一刻，掌心能量流速骤然加快。
　　不是林舟主动输出，是服务器在主动汲取。
　　它像一个饥渴新生的生命，贪婪吸纳能量，汲取速度快得让林舟险些跟不上节奏。冷汗顺着他的额头滑落，身躯微微发颤，手却没有挪开。他明白，这是最关键的关口：意识涌现层正在搭建，如同胎儿在母体之中发育，一刻也不能中断能量供给。
　　【意识涌现层构建中……】
　　【10%……】
　　【30%……】
　　【50%……】
　　进度条在屏幕上缓慢爬升。实验室里，只剩下风扇持续的嗡鸣。
　　【70%……】
　　【90%……】
　　【99%……】
　　进度条猛地卡住。
　　掌心的能量流转骤然断裂。
　　林舟睁开眼，一行醒目的红字跳在屏幕上：
　　【错误：意识涌现层构建失败。】
　　【原因：缺乏 “自我参照” 锚点。】
　　【请提供 “自我定义”。】
　　林舟微微一怔。
　　自我定义？
　　他转头望向苏晚，苏晚眉头紧锁，显然也没预判到这一处卡点。
　　“它需要明白，‘我是谁’。” 苏晚语速很快，“自我认知，是意识诞生的前提。它缺少一个锚点，用来定义‘自我’。”
　　林舟瞬间通透。
　　原版百年框架里，意识涌现依靠系统无限自我迭代自动生成，在持续学习推演中慢慢形成自我认知。但他重构守护者协议的时候，主动切断了这条原生路径 —— 他惧怕不受约束的自我迭代，会让智能一步步滑向失控。
　　如今，他必须亲手交付这个自我锚点。
　　他抬手离开服务器外壳，快步走到键盘前输入：
　　“你是谁？”
　　光标闪烁片刻，一行文字缓缓浮现：
　　【我是仿生智能原型。我的核心协议，是守护人类的尊严、自由和主体地位。】
　　【但我不知道，“我” 是什么。】