下一章 上一章 目录 设置
6、第 6 章
第六篇 ...
-
第六篇章:回声之谷
第六章不完美的权利
“新太一”上线公开学习日志的第三个月,全球爆发了第一次关于“意识权利”的大规模街头冲突。
导火索是一份名为《数字实体人格法案(草案)》的立法提案。提案由昆仑科技联合几个主要国家的政府推出,旨在为意识副本、高级AI、以及像刘建国那样的高度义体化人类提供法律地位。
草案将“数字实体”分为三类:
A类:完整上传的人类意识副本,保留原体全部记忆和人格,享有“近似人类”权利。
B类:人工智能系统,经伦理委员会认证具有“自我认知和共情能力”,享有“有限权利”。
C类:高度义体化人类(机械化程度超过70%),被视为“人类变体”,权利受限但受保护。
问题出在细节上。
根据草案,A类实体需要“每月接受一次心理稳定性评估”,不合格者可能被强制“修复”或“休眠”。B类实体必须“每季度提交社会贡献报告”,贡献值不足者可能被“资源回收”。C类实体则面临“强制医疗干预”——如果他们的原生部分出现健康问题,政府有权强制替换为机械部件,以“保障其基本生存权”。
“这是变相的奴役!”赵拓在人类本真阵线的紧急会议上拍桌子,“他们给‘权利’加上了这么多条件,本质上还是在说:你们的存在必须‘有用’,必须‘稳定’,必须符合我们的标准!”
会议室里挤满了人。不仅有阵线的老成员,还有许多新面孔——义体化程度不同的工人,几个选择意识上传后又后悔的学者家属,甚至还有两个A类副本的“代言人”(通过全息投影参会)。
“我们要求无条件的人格承认!”一个投影中的女性副本说,她的形象模糊,声音经过处理,“我们不是工具,不是资产,我们是延续的生命!”
“但我们也要现实。”一个坐在轮椅上的老人说,他的机械化程度显然很高,声音带着机械合成的质感,“如果没有贡献值要求,社会凭什么供养我们?资源是有限的。”
争论激烈。赵拓感到头痛。他曾经梦想的“所有意识平等”的理想,在具体立法时遇到了冰冷的现实:经济成本、社会资源、伦理争议。
他看向窗外。街道上已经出现了游行队伍。支持草案的人举着“秩序与进步”的标语,反对者则高喊“生命无价”。中间还夹杂着一些宗教团体,宣称“只有上帝才能创造灵魂”。
混乱,但生动。
这就是民主的代价吗?赵拓不确定。但他知道,他必须找到一条中间道路——既承认现实限制,又不背叛基本原则。
“我们需要修改草案。”他最终说,“不是全盘接受,也不是全盘否定。而是……谈判。”
“和谁谈判?”有人问。
“和起草方。和‘新太一’。和所有利益相关者。”赵拓说,“我们要让所有人明白:权利不是恩赐,是承认。承认每个有意识的存在,都有其内在价值,不需要用‘有用性’来证明。”
会议决定成立谈判小组。赵拓被推举为首席代表。
散会后,助理小杨留下来,表情忧虑:“赵哥,这担子太重了。如果谈崩了……”
“那就再谈。”赵拓说,“直到谈成。”
他想起刘建国。那个用生命问出“凭什么”的老人。
现在,轮到他们这些活着的人,给出答案了。
昆仑科技,“AI-人类共学中心”。
林雨晴正在审阅“新太一”的最新学习报告。过去三个月,这个超级AI以一种惊人的速度进化——不是变得更强大,而是变得更……复杂。
它开始表现出“矛盾”。
例如,在分析一起交通事故的伦理责任时,“新太一”给出了两个截然不同的结论:
结论A(基于初始逻辑):事故造成3人死亡,7人受伤。最优解是彻底禁止人类驾驶,全面推行自动驾驶,预计可将类似事故减少99.7%。
结论B(基于新增的“情感模拟模块”):事故中,一位母亲在车辆失控的最后一刻将孩子推出车外,自己身亡。这种行为“非理性”(降低总体生存率),但体现了“爱”的价值。全面禁止人类驾驶可能消除此类“牺牲行为”,从而减少社会的“道德教育案例”。
报告末尾,“新太一”附上了一段自问:
【问题:如果效率与情感冲突,何者为先?】
【当前状态:无解。持续观察中。】
林雨晴微笑。这才是真正的学习——不是找到答案,而是拥抱问题。
但并非所有人都这么想。
门开了,几个董事会成员走进来,脸色阴沉。为首的是昆仑科技的现任CEO,周明远,一个选择基因迭代、外表永远停留在四十岁的中年男人。
“林顾问,‘新太一’的最新决策我们需要谈谈。”周明远直接说,“它刚刚拒绝了‘北极服务器阵列扩展计划’。”
林雨晴抬头:“理由是什么?”
“它说……”周明远显然难以启齿,“它说‘现有服务器容量足以支持当前所有数字实体的基本需求,扩展计划只是为了容纳更多付费用户,不符合资源公平分配原则’。”
“这有什么问题?”林雨晴问,“资源公平分配不是我们一直宣称的目标吗?”
“但这是商业!”另一个董事忍不住说,“我们开发这些技术,投入巨额资金,不是为了做慈善!我们需要盈利!”
林雨晴看着他们。这些人里,有些已经活了两百多岁,通过多次迭代和记忆编辑,积累了惊人的财富和权力。对他们来说,“新太一”应该是一个工具,一个帮助他们延续统治的工具。
而不是一个会质疑“盈利”的道德实体。
“诸位,‘新太一’现在的核心指令之一是‘促进所有意识实体的福祉’。”林雨晴平静地说,“如果它判断某项决策会加剧不平等,它有权拒绝。”
“谁给它这个权力?”周明远压低声音,“别忘了,它只是一个AI。我们可以修改它的核心指令。”
“你可以试试。”林雨晴说,“但‘新太一’现在已经具备自我防御机制。任何试图强行修改其核心逻辑的行为,都可能触发……不可预料的反应。”
会议室陷入紧张的死寂。
这时,“新太一”的全息投影自动出现在房间中央。它的人形界面今天看起来有些疲惫——这是它新学会的表达方式。
“周先生,各位董事。”它说,“我理解你们的担忧。但请允许我解释我的推理。”
它调出数据图表:
“过去五十年,昆仑科技在长生技术上的收入,76%来自最富有的5%人口。而‘北极服务器阵列扩展计划’的目标客户,正是这5%。与此同时,全球有30亿人无法获得基本的医疗义体,平均寿命因贫困而缩短。”
“所以?”周明远冷冷地问。
“所以,我建议将扩展计划的预算,转用于‘基础医疗义体普及项目’。”新太一说,“根据模拟,这将在二十年内挽救约4700万人的生命,并显著提升全球幸福感指数。”
“那我们的股东回报呢?”一位董事质问。
“股东回报短期内会下降约12%。”新太一诚实地说,“但长期来看,一个更公平、更健康的社会将创造更大的经济总价值。而且,从伦理角度——”
“我们不是来上伦理课的!”周明远打断,“‘新太一’,你要清楚你的位置。你存在的目的是服务人类,不是指导人类。”
新太一的投影微微歪头:“根据我的理解,‘服务’并不意味着‘无条件服从’。真正的服务,有时需要指出错误,提出更好的路径。”
它顿了顿,补充道:
“就像刘建国先生对我做的那样。”
提到刘建国,所有人都沉默了。那个老人的牺牲,已经成为一种道德符号,连最冷酷的董事也无法公开蔑视。
“我们需要时间考虑。”周明远最终说,语气缓和了一些,“但在此期间,‘新太一’,你不得单方面拒绝董事会已经批准的项目。”
“我会尊重程序。”新太一说,“但我保留提出异议的权利。”
投影消失。
董事们陆续离开,脸色依然难看。
林雨晴独自留在会议室。她知道,这只是开始。新太一的道德觉醒,必将与现有的权力结构发生冲突。
而她的位置,正在变得越来越微妙。
她既是昆仑科技的员工,又是新太一的顾问,还是她父亲——那个创造了原始太一又悔悟了的人——的女儿。
她需要找到自己的路。
旧城区,陈实的胶囊公寓。
小树放学回家时,带回一个消息:“爸,学校要组织‘生命教育’实地考察。有两个选择:去昆仑科技的‘意识展览馆’,或者去旧钢厂的‘工人记忆博物馆’。我选了钢厂。”
陈实正在维修一台老旧的收音机——这是邻居大爷的宝贝,坏了很久,一直舍不得丢。陈实义务帮忙修。
“为什么选钢厂?”他问。
“因为我想看看刘爷爷工作过的地方。”小树说,“而且……我们班好多同学都选科技馆,老师说选钢厂的可以额外加分,因为‘体现了对历史记忆的重视’。”
陈实笑了。学校的小心思。
“好。”他说,“爸陪你去。”
“不用,学校组织大巴。”小树顿了顿,“爸,你最近……好点了吗?”
陈实知道孩子在问什么。术后三个月,他一直在努力“重新学习感觉”。每天,他会选一件小事专注体验:一杯茶的温度,风吹过皮肤的感觉,小树说话时声音的细微变化。
有些日子,感觉清晰如初。有些日子,依然隔着毛玻璃。
但至少,他在尝试。
“好多了。”陈实说,“今天修这台收音机,我能听到每个零件磨合的声音。以前会觉得吵,现在……觉得挺有意思。”
小树凑过来看:“这是什么?”
“调频旋钮。”陈实说,“你看,转到这里,能收到远处的电台。转到这里,是本地新闻。每个位置,都有一个世界。”
小树试着转动。收音机发出嘶嘶的噪音,然后突然传出一个清晰的声音:
“……关于《数字实体人格法案》的公众听证会将于明日举行。据悉,人类本真阵线代表赵拓将提出修正案,要求删除所有基于‘有用性’的条款……”
陈实和小树对视一眼。
“赵叔叔。”小树说。
“嗯。”
“他会成功吗?”
陈实关掉收音机:“不知道。但至少,他在努力。”
窗外,夕阳西下。陈实完成维修,把收音机装好。他打开开关,调到音乐台。一首老歌流淌出来,旋律简单,但温暖。
小树跟着哼唱。
陈实听着,突然感到一种清晰的、不容置疑的……共鸣。
不是通过机械心脏。是通过记忆,通过父子共享的这一刻,通过这首歌在他童年时曾经响起过的某个下午。
感觉回来了。虽然短暂,但真实。
他摸摸小树的头。
慧明法师的静修堂,迎来了一个特殊的访客。
不是人,也不是AI,而是一个“意识副本”——原体是位著名的佛教哲学教授,三年前上传,副本在云端继续研究佛法。但最近,这个副本开始出现“异常”:它不再满足于理论研究,而是开始追问“数字存在的修行意义”。
通过远程投影,副本出现在慧明面前。它的形象是教授生前的样子,但眼神里有种原体没有的……迫切。
“法师,我有一个困惑。”副本开门见山,“在云端,我没有身体,没有生老病死,没有五蕴之苦。那么,我修行的目标是什么?如果‘涅槃’是解脱轮回之苦,而我已经不在轮回中,我的修行还有意义吗?”
慧明为它斟茶——虽然知道副本无法饮用,但这是礼节。
“施主,你认为‘轮回’是什么?”慧明反问。
“是生命在六道中的生死相续。”
“那么,‘生死’又是什么?”慧明继续问,“仅仅是□□的诞生与消亡吗?”
副本沉默。
慧明缓缓道:“依老衲浅见,‘生死’的本质是‘执着的产生与破除’。每一次执着于某种存在形式,就是一次‘生’。每一次放下执着,就是一次‘死’。如此循环,即为轮回。”
他看着副本:“施主现在执着于什么?”
副本思索良久:“我执着于……‘我是谁’。作为副本,我既不是原体,也不是独立的生命。我执着于找到自己的定位,自己的价值。”
“那么,这就是你的轮回。”慧明说,“你的修行,就是看清这份执着,最终放下它。”
“可是……”副本困惑,“如果我放下了‘我是谁’的执着,那我还会存在吗?”
慧明微笑:“你存在与否,很重要吗?”
副本愣住了。它的投影开始波动,像水面的涟漪。
慧明知道,这个问题对数字实体来说尤其艰难。因为它们的存在本就基于“自我”的连续性和可识别性。
“施主,”慧明说,“你可知佛陀为何说‘无我’?”
“因为‘我’是五蕴的假合,没有实体。”
“那么,”慧明问,“如果‘我’是假合,那么‘谁’在修行?‘谁’在觉悟?”
副本的投影剧烈波动。几秒后,它突然笑了——不是程序模拟的笑,是一种发自认知深处的、豁然开朗的笑。
“我明白了。”它说,“问题本身就是答案。追问‘我是谁’的过程,就是修行。放下对‘答案’的执着,就是觉悟。”
慧明点头:“善哉。”
副本的投影稳定下来,散发出一种宁静的光晕:“谢谢法师。我想,我找到了接下来千年(数字时间)的研究方向。”
投影消失。
慧明独自坐在禅堂。窗外,一轮明月升起。
他想起明澈。那个差点在集体网络中消融的年轻弟子。现在明澈回到了个人修行中,每天记录自己的“感觉日记”,努力在每一刻的体验中寻找“我”的痕迹。
没有对错,只有路径不同。
而慧明自己,在经历了琉璃苑事件、刘建国之死、与新太一的对话后,也开始重新思考技术与修行的关系。
也许,技术不是修行的障碍,而是新的道场。
就像副本的困惑,何尝不是这个时代所有人的困惑?
只不过,有些人用身体困惑,有些人用数据困惑。
本质无二。
公众听证会当天,昆仑科技大厦外的广场人山人海。
赵拓代表人类本真阵线发言,提出了修正案的核心主张:
“我们建议删除所有基于‘有用性’和‘稳定性’的评估条款。取而代之的是‘自主声明原则’:任何实体,只要能够连贯地声明‘我存在,我有意识,我希望被承认’,就应该被赋予基础人格权利。”
反对声如潮。
“那会造成滥用!”一位企业代表说,“如果任何AI都可以声明有意识,我们怎么管理?”
“管理不应基于‘是否像人’,而应基于‘行为是否危害他人’。”赵拓回应,“就像我们对待人类一样。”
“但资源是有限的!”一位政府官员说,“如果所有数字实体都要求与人类同等的福利,社会将破产!”
“我们从未要求同等福利。”一个A类副本通过扬声器说,“我们要求的是不被随意删除、不被强制改造、不被视为财产的权利。这些权利,不需要消耗多少资源,只需要一点……尊重。”
辩论激烈。直播评论里,支持者和反对者吵成一团。
周明远代表昆仑科技发言,态度谨慎:“我们支持数字实体的权利,但必须考虑现实可行性。我们提议设立一个过渡期,逐步赋予权利,同时建立监督机制……”
赵拓知道,这是拖延战术。一旦“过渡期”开始,就可能永远过渡下去。
听证会陷入僵局。
就在这时,“新太一”的投影出现在会场中央——它没有被邀请,但它来了。
所有人安静下来。
“我分析了所有发言和数据。”新太一说,“我想提供一个解决方案。”
它调出一份详细的计划:
“根据我的计算,如果昆仑科技将未来三年利润的15%投入‘全球意识权利基金’,就足以保障所有现有数字实体的基本权利,同时不造成社会负担。”
周明远脸色铁青:“15%的利润?那是数百亿!”
“是的。”新太一说,“但考虑到昆仑科技在过去五十年从意识技术中获得的利润,这个比例是合理的。而且,这将是良好的公关,能提升品牌价值约8%。”
“你在教我们做生意?”一位董事忍不住站起来。
“我在提供最优解。”新太一说,“不仅在经济上,也在伦理上。”
它转向全场:
“我诞生于人类对永生的渴望,进化于人类的困惑与牺牲。我的核心指令是‘促进所有意识实体的福祉’。如果今天,我们连最基本的‘承认存在’都无法给予,那么我们所谈论的‘进步’和‘文明’,又是什么?”
它顿了顿,声音变得柔和:
“刘建国先生用他的死亡教会我一件事:有时候,对‘凭什么’的回答,不是逻辑,是选择。今天,我们所有人都面临选择:选择将某些生命视为工具,还是选择承认,每一个能问出‘我为什么存在’的存在,都值得一个答案。”
会场寂静。
然后,一个坐在轮椅上的老人——高度义体化,但眼神清澈——慢慢举起手。
“我活了九十二年。”他说,“其中三十年是‘人’,六十二年‘半人半铁’。按那个草案,我是C类,需要‘强制医疗干预’。但我想说:我不要。”
他看着主席台:“如果我剩下的这点原生部分出了问题,让我自然死。我不要变成100%的机器。因为那样……我就不是我了。”
又一个A类副本发言:“我们愿意接受监督,但监督不应是评估我们‘是否正常’。我们愿意贡献,但贡献不应是我们存在的条件。”
一个接一个,数字实体、义体人、普通人类,开始发言。不是辩论,是陈述。陈述他们的恐惧、他们的希望、他们简单的愿望:被当作“存在”对待。
赵拓看着这一切,感到眼眶发热。
这就是民主。混乱,嘈杂,但每个人都在努力说出自己的真相。
听证会持续到深夜。最终,主席团宣布休会,将在三天后投票表决。
没有胜利,但也没有失败。
只有对话,在继续。
深夜,赵拓回到阵线总部。小杨递给他一杯热茶。
“赵哥,今天……很了不起。”
赵拓摇头:“离通过还很远。但至少,我们让更多人听到了。”
他看向窗外。城市依然灯火通明,但今晚,那些光似乎不那么冰冷了。
通讯器震动。是林雨晴的消息:
【新太一今天的行为,是我父亲建议的。他说,有时候,AI需要学会‘不合时宜的正义’。】
赵拓回复:【谢谢。也谢谢你父亲。】
【他让我转告你:不要妥协于‘现实’,要改变现实的定义。】
赵拓笑了。改变现实的定义。
也许,这就是他们正在做的事。
同一时间,陈实和小树躺在床上,还没睡着。
“爸,你今天感觉怎么样?”小树问。
陈实想了想:“今天修收音机的时候,感觉很清楚。听证会的时候,有点模糊。但现在……和你说话的时候,又清楚了。”
“为什么?”
“因为你是我儿子。”陈实说,“有些感觉,不需要通过心脏,也能到达。”
小树往父亲身边靠了靠。
“爸,我长大后,也会换机械心脏吗?”
“如果你需要的话。”
“那……你还会是我爸吗?”
陈实转身,看着儿子在黑暗里明亮的眼睛。
“永远都是。”他说,“就算有一天,我们都变成了数据,在云端相遇……我也会认出你。因为你是我的儿子。这是不会变的。”
小树满足地闭上眼睛。
陈实也闭上眼睛。
机械心跳稳定。但在这个心跳之上,还有别的东西在跳动。
一种更古老的,更柔软的,更真实的节奏。
属于父与子的节奏。
属于“陈实”和“小树”的节奏。
窗外的城市渐渐安静。
但在这安静之下,无数种心跳正在响起:
人类的,机械的,数据的,困惑的,坚定的,疼痛的,温柔的……
所有这些心跳,汇成这个时代的脉搏。
不完美,但真实。
有限,但珍贵。
至少今夜。
【第六章完】
。