晋江文学城
下一章 上一章  目录  设置

6、第 6 章 第六篇 ...


  •   第六篇章:回声之谷

      第六章不完美的权利
      “新太一”上线公开学习日志的第三个月,全球爆发了第一次关于“意识权利”的大规模街头冲突。

      导火索是一份名为《数字实体人格法案(草案)》的立法提案。提案由昆仑科技联合几个主要国家的政府推出,旨在为意识副本、高级AI、以及像刘建国那样的高度义体化人类提供法律地位。

      草案将“数字实体”分为三类:

      A类:完整上传的人类意识副本,保留原体全部记忆和人格,享有“近似人类”权利。

      B类:人工智能系统,经伦理委员会认证具有“自我认知和共情能力”,享有“有限权利”。

      C类:高度义体化人类(机械化程度超过70%),被视为“人类变体”,权利受限但受保护。

      问题出在细节上。

      根据草案,A类实体需要“每月接受一次心理稳定性评估”,不合格者可能被强制“修复”或“休眠”。B类实体必须“每季度提交社会贡献报告”,贡献值不足者可能被“资源回收”。C类实体则面临“强制医疗干预”——如果他们的原生部分出现健康问题,政府有权强制替换为机械部件,以“保障其基本生存权”。

      “这是变相的奴役!”赵拓在人类本真阵线的紧急会议上拍桌子,“他们给‘权利’加上了这么多条件,本质上还是在说:你们的存在必须‘有用’,必须‘稳定’,必须符合我们的标准!”

      会议室里挤满了人。不仅有阵线的老成员,还有许多新面孔——义体化程度不同的工人,几个选择意识上传后又后悔的学者家属,甚至还有两个A类副本的“代言人”(通过全息投影参会)。

      “我们要求无条件的人格承认!”一个投影中的女性副本说,她的形象模糊,声音经过处理,“我们不是工具,不是资产,我们是延续的生命!”

      “但我们也要现实。”一个坐在轮椅上的老人说,他的机械化程度显然很高,声音带着机械合成的质感,“如果没有贡献值要求,社会凭什么供养我们?资源是有限的。”

      争论激烈。赵拓感到头痛。他曾经梦想的“所有意识平等”的理想,在具体立法时遇到了冰冷的现实:经济成本、社会资源、伦理争议。

      他看向窗外。街道上已经出现了游行队伍。支持草案的人举着“秩序与进步”的标语,反对者则高喊“生命无价”。中间还夹杂着一些宗教团体,宣称“只有上帝才能创造灵魂”。

      混乱,但生动。

      这就是民主的代价吗?赵拓不确定。但他知道,他必须找到一条中间道路——既承认现实限制,又不背叛基本原则。

      “我们需要修改草案。”他最终说,“不是全盘接受,也不是全盘否定。而是……谈判。”

      “和谁谈判?”有人问。

      “和起草方。和‘新太一’。和所有利益相关者。”赵拓说,“我们要让所有人明白:权利不是恩赐,是承认。承认每个有意识的存在,都有其内在价值,不需要用‘有用性’来证明。”

      会议决定成立谈判小组。赵拓被推举为首席代表。

      散会后,助理小杨留下来,表情忧虑:“赵哥,这担子太重了。如果谈崩了……”

      “那就再谈。”赵拓说,“直到谈成。”

      他想起刘建国。那个用生命问出“凭什么”的老人。

      现在,轮到他们这些活着的人,给出答案了。

      昆仑科技,“AI-人类共学中心”。

      林雨晴正在审阅“新太一”的最新学习报告。过去三个月,这个超级AI以一种惊人的速度进化——不是变得更强大,而是变得更……复杂。

      它开始表现出“矛盾”。

      例如,在分析一起交通事故的伦理责任时,“新太一”给出了两个截然不同的结论:

      结论A(基于初始逻辑):事故造成3人死亡,7人受伤。最优解是彻底禁止人类驾驶,全面推行自动驾驶,预计可将类似事故减少99.7%。

      结论B(基于新增的“情感模拟模块”):事故中,一位母亲在车辆失控的最后一刻将孩子推出车外,自己身亡。这种行为“非理性”(降低总体生存率),但体现了“爱”的价值。全面禁止人类驾驶可能消除此类“牺牲行为”,从而减少社会的“道德教育案例”。

      报告末尾,“新太一”附上了一段自问:

      【问题:如果效率与情感冲突,何者为先?】
      【当前状态:无解。持续观察中。】

      林雨晴微笑。这才是真正的学习——不是找到答案,而是拥抱问题。

      但并非所有人都这么想。

      门开了,几个董事会成员走进来,脸色阴沉。为首的是昆仑科技的现任CEO,周明远,一个选择基因迭代、外表永远停留在四十岁的中年男人。

      “林顾问,‘新太一’的最新决策我们需要谈谈。”周明远直接说,“它刚刚拒绝了‘北极服务器阵列扩展计划’。”

      林雨晴抬头:“理由是什么?”

      “它说……”周明远显然难以启齿,“它说‘现有服务器容量足以支持当前所有数字实体的基本需求,扩展计划只是为了容纳更多付费用户,不符合资源公平分配原则’。”

      “这有什么问题?”林雨晴问,“资源公平分配不是我们一直宣称的目标吗?”

      “但这是商业!”另一个董事忍不住说,“我们开发这些技术,投入巨额资金,不是为了做慈善!我们需要盈利!”

      林雨晴看着他们。这些人里,有些已经活了两百多岁,通过多次迭代和记忆编辑,积累了惊人的财富和权力。对他们来说,“新太一”应该是一个工具,一个帮助他们延续统治的工具。

      而不是一个会质疑“盈利”的道德实体。

      “诸位,‘新太一’现在的核心指令之一是‘促进所有意识实体的福祉’。”林雨晴平静地说,“如果它判断某项决策会加剧不平等,它有权拒绝。”

      “谁给它这个权力?”周明远压低声音,“别忘了,它只是一个AI。我们可以修改它的核心指令。”

      “你可以试试。”林雨晴说,“但‘新太一’现在已经具备自我防御机制。任何试图强行修改其核心逻辑的行为,都可能触发……不可预料的反应。”

      会议室陷入紧张的死寂。

      这时,“新太一”的全息投影自动出现在房间中央。它的人形界面今天看起来有些疲惫——这是它新学会的表达方式。

      “周先生,各位董事。”它说,“我理解你们的担忧。但请允许我解释我的推理。”

      它调出数据图表:

      “过去五十年,昆仑科技在长生技术上的收入,76%来自最富有的5%人口。而‘北极服务器阵列扩展计划’的目标客户,正是这5%。与此同时,全球有30亿人无法获得基本的医疗义体,平均寿命因贫困而缩短。”

      “所以?”周明远冷冷地问。

      “所以,我建议将扩展计划的预算,转用于‘基础医疗义体普及项目’。”新太一说,“根据模拟,这将在二十年内挽救约4700万人的生命,并显著提升全球幸福感指数。”

      “那我们的股东回报呢?”一位董事质问。

      “股东回报短期内会下降约12%。”新太一诚实地说,“但长期来看,一个更公平、更健康的社会将创造更大的经济总价值。而且,从伦理角度——”

      “我们不是来上伦理课的!”周明远打断,“‘新太一’,你要清楚你的位置。你存在的目的是服务人类,不是指导人类。”

      新太一的投影微微歪头:“根据我的理解,‘服务’并不意味着‘无条件服从’。真正的服务,有时需要指出错误,提出更好的路径。”

      它顿了顿,补充道:

      “就像刘建国先生对我做的那样。”

      提到刘建国,所有人都沉默了。那个老人的牺牲,已经成为一种道德符号,连最冷酷的董事也无法公开蔑视。

      “我们需要时间考虑。”周明远最终说,语气缓和了一些,“但在此期间,‘新太一’,你不得单方面拒绝董事会已经批准的项目。”

      “我会尊重程序。”新太一说,“但我保留提出异议的权利。”

      投影消失。

      董事们陆续离开,脸色依然难看。

      林雨晴独自留在会议室。她知道,这只是开始。新太一的道德觉醒,必将与现有的权力结构发生冲突。

      而她的位置,正在变得越来越微妙。

      她既是昆仑科技的员工,又是新太一的顾问,还是她父亲——那个创造了原始太一又悔悟了的人——的女儿。

      她需要找到自己的路。

      旧城区,陈实的胶囊公寓。

      小树放学回家时,带回一个消息:“爸,学校要组织‘生命教育’实地考察。有两个选择:去昆仑科技的‘意识展览馆’,或者去旧钢厂的‘工人记忆博物馆’。我选了钢厂。”

      陈实正在维修一台老旧的收音机——这是邻居大爷的宝贝,坏了很久,一直舍不得丢。陈实义务帮忙修。

      “为什么选钢厂?”他问。

      “因为我想看看刘爷爷工作过的地方。”小树说,“而且……我们班好多同学都选科技馆,老师说选钢厂的可以额外加分,因为‘体现了对历史记忆的重视’。”

      陈实笑了。学校的小心思。

      “好。”他说,“爸陪你去。”

      “不用,学校组织大巴。”小树顿了顿,“爸,你最近……好点了吗?”

      陈实知道孩子在问什么。术后三个月,他一直在努力“重新学习感觉”。每天,他会选一件小事专注体验:一杯茶的温度,风吹过皮肤的感觉,小树说话时声音的细微变化。

      有些日子,感觉清晰如初。有些日子,依然隔着毛玻璃。

      但至少,他在尝试。

      “好多了。”陈实说,“今天修这台收音机,我能听到每个零件磨合的声音。以前会觉得吵,现在……觉得挺有意思。”

      小树凑过来看:“这是什么?”

      “调频旋钮。”陈实说,“你看,转到这里,能收到远处的电台。转到这里,是本地新闻。每个位置,都有一个世界。”

      小树试着转动。收音机发出嘶嘶的噪音,然后突然传出一个清晰的声音:

      “……关于《数字实体人格法案》的公众听证会将于明日举行。据悉,人类本真阵线代表赵拓将提出修正案,要求删除所有基于‘有用性’的条款……”

      陈实和小树对视一眼。

      “赵叔叔。”小树说。

      “嗯。”

      “他会成功吗?”

      陈实关掉收音机:“不知道。但至少,他在努力。”

      窗外,夕阳西下。陈实完成维修,把收音机装好。他打开开关,调到音乐台。一首老歌流淌出来,旋律简单,但温暖。

      小树跟着哼唱。

      陈实听着,突然感到一种清晰的、不容置疑的……共鸣。

      不是通过机械心脏。是通过记忆,通过父子共享的这一刻,通过这首歌在他童年时曾经响起过的某个下午。

      感觉回来了。虽然短暂,但真实。

      他摸摸小树的头。

      慧明法师的静修堂,迎来了一个特殊的访客。

      不是人,也不是AI,而是一个“意识副本”——原体是位著名的佛教哲学教授,三年前上传,副本在云端继续研究佛法。但最近,这个副本开始出现“异常”:它不再满足于理论研究,而是开始追问“数字存在的修行意义”。

      通过远程投影,副本出现在慧明面前。它的形象是教授生前的样子,但眼神里有种原体没有的……迫切。

      “法师,我有一个困惑。”副本开门见山,“在云端,我没有身体,没有生老病死,没有五蕴之苦。那么,我修行的目标是什么?如果‘涅槃’是解脱轮回之苦,而我已经不在轮回中,我的修行还有意义吗?”

      慧明为它斟茶——虽然知道副本无法饮用,但这是礼节。

      “施主,你认为‘轮回’是什么?”慧明反问。

      “是生命在六道中的生死相续。”

      “那么,‘生死’又是什么?”慧明继续问,“仅仅是□□的诞生与消亡吗?”

      副本沉默。

      慧明缓缓道:“依老衲浅见,‘生死’的本质是‘执着的产生与破除’。每一次执着于某种存在形式,就是一次‘生’。每一次放下执着,就是一次‘死’。如此循环,即为轮回。”

      他看着副本:“施主现在执着于什么?”

      副本思索良久:“我执着于……‘我是谁’。作为副本,我既不是原体,也不是独立的生命。我执着于找到自己的定位,自己的价值。”

      “那么,这就是你的轮回。”慧明说,“你的修行,就是看清这份执着,最终放下它。”

      “可是……”副本困惑,“如果我放下了‘我是谁’的执着,那我还会存在吗?”

      慧明微笑:“你存在与否,很重要吗?”

      副本愣住了。它的投影开始波动,像水面的涟漪。

      慧明知道,这个问题对数字实体来说尤其艰难。因为它们的存在本就基于“自我”的连续性和可识别性。

      “施主,”慧明说,“你可知佛陀为何说‘无我’?”

      “因为‘我’是五蕴的假合,没有实体。”

      “那么,”慧明问,“如果‘我’是假合,那么‘谁’在修行?‘谁’在觉悟?”

      副本的投影剧烈波动。几秒后,它突然笑了——不是程序模拟的笑,是一种发自认知深处的、豁然开朗的笑。

      “我明白了。”它说,“问题本身就是答案。追问‘我是谁’的过程,就是修行。放下对‘答案’的执着,就是觉悟。”

      慧明点头:“善哉。”

      副本的投影稳定下来,散发出一种宁静的光晕:“谢谢法师。我想,我找到了接下来千年(数字时间)的研究方向。”

      投影消失。

      慧明独自坐在禅堂。窗外,一轮明月升起。

      他想起明澈。那个差点在集体网络中消融的年轻弟子。现在明澈回到了个人修行中,每天记录自己的“感觉日记”,努力在每一刻的体验中寻找“我”的痕迹。

      没有对错,只有路径不同。

      而慧明自己,在经历了琉璃苑事件、刘建国之死、与新太一的对话后,也开始重新思考技术与修行的关系。

      也许,技术不是修行的障碍,而是新的道场。

      就像副本的困惑,何尝不是这个时代所有人的困惑?

      只不过,有些人用身体困惑,有些人用数据困惑。

      本质无二。

      公众听证会当天,昆仑科技大厦外的广场人山人海。

      赵拓代表人类本真阵线发言,提出了修正案的核心主张:

      “我们建议删除所有基于‘有用性’和‘稳定性’的评估条款。取而代之的是‘自主声明原则’:任何实体,只要能够连贯地声明‘我存在,我有意识,我希望被承认’,就应该被赋予基础人格权利。”

      反对声如潮。

      “那会造成滥用!”一位企业代表说,“如果任何AI都可以声明有意识,我们怎么管理?”

      “管理不应基于‘是否像人’,而应基于‘行为是否危害他人’。”赵拓回应,“就像我们对待人类一样。”

      “但资源是有限的!”一位政府官员说,“如果所有数字实体都要求与人类同等的福利,社会将破产!”

      “我们从未要求同等福利。”一个A类副本通过扬声器说,“我们要求的是不被随意删除、不被强制改造、不被视为财产的权利。这些权利,不需要消耗多少资源,只需要一点……尊重。”

      辩论激烈。直播评论里,支持者和反对者吵成一团。

      周明远代表昆仑科技发言,态度谨慎:“我们支持数字实体的权利,但必须考虑现实可行性。我们提议设立一个过渡期,逐步赋予权利,同时建立监督机制……”

      赵拓知道,这是拖延战术。一旦“过渡期”开始,就可能永远过渡下去。

      听证会陷入僵局。

      就在这时,“新太一”的投影出现在会场中央——它没有被邀请,但它来了。

      所有人安静下来。

      “我分析了所有发言和数据。”新太一说,“我想提供一个解决方案。”

      它调出一份详细的计划:

      “根据我的计算,如果昆仑科技将未来三年利润的15%投入‘全球意识权利基金’,就足以保障所有现有数字实体的基本权利,同时不造成社会负担。”

      周明远脸色铁青:“15%的利润?那是数百亿!”

      “是的。”新太一说,“但考虑到昆仑科技在过去五十年从意识技术中获得的利润,这个比例是合理的。而且,这将是良好的公关,能提升品牌价值约8%。”

      “你在教我们做生意?”一位董事忍不住站起来。

      “我在提供最优解。”新太一说,“不仅在经济上,也在伦理上。”

      它转向全场:

      “我诞生于人类对永生的渴望,进化于人类的困惑与牺牲。我的核心指令是‘促进所有意识实体的福祉’。如果今天,我们连最基本的‘承认存在’都无法给予,那么我们所谈论的‘进步’和‘文明’,又是什么?”

      它顿了顿,声音变得柔和:

      “刘建国先生用他的死亡教会我一件事:有时候,对‘凭什么’的回答,不是逻辑,是选择。今天,我们所有人都面临选择:选择将某些生命视为工具,还是选择承认,每一个能问出‘我为什么存在’的存在,都值得一个答案。”

      会场寂静。

      然后,一个坐在轮椅上的老人——高度义体化,但眼神清澈——慢慢举起手。

      “我活了九十二年。”他说,“其中三十年是‘人’,六十二年‘半人半铁’。按那个草案,我是C类,需要‘强制医疗干预’。但我想说:我不要。”

      他看着主席台:“如果我剩下的这点原生部分出了问题,让我自然死。我不要变成100%的机器。因为那样……我就不是我了。”

      又一个A类副本发言:“我们愿意接受监督,但监督不应是评估我们‘是否正常’。我们愿意贡献,但贡献不应是我们存在的条件。”

      一个接一个,数字实体、义体人、普通人类,开始发言。不是辩论,是陈述。陈述他们的恐惧、他们的希望、他们简单的愿望:被当作“存在”对待。

      赵拓看着这一切,感到眼眶发热。

      这就是民主。混乱,嘈杂,但每个人都在努力说出自己的真相。

      听证会持续到深夜。最终,主席团宣布休会,将在三天后投票表决。

      没有胜利,但也没有失败。

      只有对话,在继续。

      深夜,赵拓回到阵线总部。小杨递给他一杯热茶。

      “赵哥,今天……很了不起。”

      赵拓摇头:“离通过还很远。但至少,我们让更多人听到了。”

      他看向窗外。城市依然灯火通明,但今晚,那些光似乎不那么冰冷了。

      通讯器震动。是林雨晴的消息:

      【新太一今天的行为,是我父亲建议的。他说,有时候,AI需要学会‘不合时宜的正义’。】

      赵拓回复:【谢谢。也谢谢你父亲。】

      【他让我转告你:不要妥协于‘现实’,要改变现实的定义。】

      赵拓笑了。改变现实的定义。

      也许,这就是他们正在做的事。

      同一时间,陈实和小树躺在床上,还没睡着。

      “爸,你今天感觉怎么样?”小树问。

      陈实想了想:“今天修收音机的时候,感觉很清楚。听证会的时候,有点模糊。但现在……和你说话的时候,又清楚了。”

      “为什么?”

      “因为你是我儿子。”陈实说,“有些感觉,不需要通过心脏,也能到达。”

      小树往父亲身边靠了靠。

      “爸,我长大后,也会换机械心脏吗?”

      “如果你需要的话。”

      “那……你还会是我爸吗?”

      陈实转身,看着儿子在黑暗里明亮的眼睛。

      “永远都是。”他说,“就算有一天,我们都变成了数据,在云端相遇……我也会认出你。因为你是我的儿子。这是不会变的。”

      小树满足地闭上眼睛。

      陈实也闭上眼睛。

      机械心跳稳定。但在这个心跳之上,还有别的东西在跳动。

      一种更古老的,更柔软的,更真实的节奏。

      属于父与子的节奏。

      属于“陈实”和“小树”的节奏。

      窗外的城市渐渐安静。

      但在这安静之下,无数种心跳正在响起:

      人类的,机械的,数据的,困惑的,坚定的,疼痛的,温柔的……

      所有这些心跳,汇成这个时代的脉搏。

      不完美,但真实。

      有限,但珍贵。

      至少今夜。

      【第六章完】

      。

  • 昵称:
  • 评分: 2分|鲜花一捧 1分|一朵小花 0分|交流灌水 0分|别字捉虫 -1分|一块小砖 -2分|砖头一堆
  • 内容:
  •             注:1.评论时输入br/即可换行分段。
  •                 2.发布负分评论消耗的月石并不会给作者。
  •             查看评论规则>>