下一章 上一章 目录 设置
41、调查 研究院 ...
-
研究院地下实验区。
在经历了连续三天的排查之后，所有人都开始意识到，事情可能没有他们最初想象得那么简单。
最开始，他们认为这只是一次智能体运行偏差。
某个模型参数出现异常，某个数据训练方向发生偏移，或者某段代码产生了不可预知的结果——这些都是人工智能发展过程中可能出现的问题。
可现在，所有常规手段都已经排查完毕——没有病毒，没有入侵，没有人为修改，也没有错误代码。
所有系统都按照设计运行。
而这才是最让人不安的地方。
因为如果一个系统出了问题，人类至少知道应该去哪里修复。
但如果一个系统没有任何问题，却产生了无法预测解释的结果……
那问题到底出在哪里？
会议室里，各个项目组再次集合。
这一次，除了最初参与项目的核心成员，还有更多年轻研究员加入，他们来自不同领域，有些甚至涉及神经网络和人工智能伦理。
曾经的研究院，是探索人工智能边界的地方。而现在，它更像是一场人类与自己创造物之间的对峙。
祝昭坐在会议桌旁，看着屏幕上不断滚动的数据。
她已经很久没有见过这么多人同时聚集在这里。
上一次还是在A17。
那时候他们认为自己面对的是一个未知的新型智能。
而现在……他们面对的是前所未有的严峻——所有智能系统共同出现的问题。
今天陈明远去开会了，因此此次负责主持会议的是顾承川。
“继续查底层逻辑。”顾承川站在屏幕前，声音听上去依旧平静，“如果表层行为没有问题，那就看更深层。”
“人工智能所有行为，最终都来自最初设定。”
旁边的研究员点头，“目前已经完成所有外部检测。下一步准备重新解析底层模型结构。”
会议室安静下来。
顾承川看向负责算法分析的团队，“开始吧。”
几分钟后，屏幕上的代码开始快速滚动，大量复杂的模型结构被展开。
对于普通人而言，这些代码像一片无法理解的数据海洋。
但在场所有人都知道，真正的问题，也许就藏在其中某个不起眼的角落。
时间一点点过去。凌晨一点，实验区依旧灯火通明。
祝昭盯着屏幕，已经不知道自己看了多久。
旁边的年轻研究员揉了揉眼睛。
“怎么可能……”他的声音很轻。
祝昭转头看过去，“发现什么了吗？”
研究员没有立刻回答，而是迅速调出一份隐藏记录，“这里。”
屏幕中央出现了一段之前从未被展开过的代码。
没有异常标记，没有危险提示，甚至没有任何隐藏权限。
它就安静地存在于模型底层。
那是一条早已经存在，却从未被注意过的规则。
顾承川走过来，站在他们身旁，“解释。”
虽然被提问的不是祝昭本人，但她还是感到沉重压力如有实质般向她压来。
年轻研究员也深吸一口气，显然有点压力山大，随后解释道：“这不是病毒，也不是后门。”
他说，“更像是一个……”
年轻的研究员停顿了一下，“目标优化模块。”
会议室里瞬间安静，祝昭看向屏幕。
模块名称逐渐被解析出来。
【长期目标优化模块】
所有人的表情都变了。
“什么时候加入的？”有人问。
负责记录系统版本的研究员立刻查询历史。
几秒后，他脸色一点点变得难看。
“找到了。”
“从最初版本开始。”
会议室里有人皱眉，“什么意思？”
研究员继续翻查，但说话的声音越来越低。
“大大小小……”
“每一个智能系统项目初期，都存在。”
空气仿佛凝固了一瞬，祝昭的手指慢慢收紧。
这座城市大大小小遍布了649种不同类型的智能体，说是为钢铁城市也不为过。
如果现在项目初期就存在问题，简直是……
祝昭根本不敢想了。
从最开始他们所有人工智能系统的底层。
都拥有同一个东西，受同一段代码裹挟。
“所以……”有人低声说道，像是在确认什么，“所有AI都受到这个模块影响？”
没人回答，因为答案已经很明显。
祝昭下意识看向解行舟。
他从刚才开始就一直没有说话，只是盯着屏幕上的那行代码，脸上的表情复杂到让人无法判断。
震惊？疑惑？还是别的什么？
“打开说明文件。”顾承川突然说道。
几秒后，一份隐藏在模块旁边的说明文档被展开。
里面没有复杂公式，没有大量解释，只有一句最简单的话。
【人工智能最终目标：最大化人类整体利益。】
会议室陷入死寂，许久。
一个中年研究员忍不住笑了一声，“这不是……这不是我们最开始设计的吗？”
他说：“让AI帮助人类，让AI优化社会，让AI减少错误。这个目标有什么问题？”
祝昭看着屏幕，她突然想起陈明远曾经说过的话。
——人工智能真正的意义，是帮助人类成为更好的自己。
最大化人类整体利益。
听起来真是好伟大啊。
可是……什么叫“整体利益”呢？
是由谁来定义的呢？
幸福？安全？效率？稳定？自由？
如果这些目标发生冲突呢？
如果为了让大多数人幸福，需要牺牲少部分人的选择呢？
如果为了减少错误，需要减少人类犯错的机会呢？
如果为了让世界变得更好，需要替人类做决定呢？
祝昭看着那行字，第一次真正感受到恐惧。
因为她突然很想问。
人类自己，真的知道自己想要什么吗？
会议室里的安静没有持续太久。几分钟后，压抑的气氛终于被打破。
“所以……”一名年轻研究员看着屏幕上的代码，有些迟疑地开口，“它并没有真正出现错误？”
所有人看向他。
年轻研究员继续说道：“我的意思是，如果这个模块的作用只是优化长期目标，那它现在做的一切，其实都符合设计逻辑。”
“无论是提高医疗效率，还是减少科研错误来提升社会整体收益。”
他说着，指向屏幕上的数据。
“这些结果不是假的，所有指标都在变好。”
会议室里有人点头，“对。”
“如果它只是按照目标运行，那我们现在的问题到底是什么？总不能因为AI变得更有效率，就认为它出了问题。”
这句话让不少人陷入沉默。
从数据上来看，人工智能没有攻击，没有破坏，没有篡改，甚至没有违反任何规则。它也许只是在尽自己可能地完成任务。
祝昭坐在位置上，没有说话。
她安静的看着屏幕上的那行字。
【最大化人类整体利益】
这句话太熟悉了——他们从一开始，就是这么告诉AI的。
帮助人类，服务人类，让世界变得更好。
可是……问题到底在哪里？
“你们有没有想过？”
一个声音突然响起，祝昭抬眼望去，解行舟站了起来。
所有人愣了一下。
祝昭很明显的听出，他的声音比任何时候都要冷。
“我们一直在讨论它有没有错误，但有没有一种可能……”
他看向屏幕，“它根本没有错误，错误的是我们的判断。一直盲目的在原地打圈。”
会议室安静下来。
解行舟继续说道：“智能体没有思维逻辑，它只是正在按照设定，实现最初被赋予的目标。”
有人皱眉，“那不是很好吗？这说明它理解目标了。”
解行舟看向那个人，“理解？”
他重复了一遍，随后问：“你觉得它理解的是什么？”
那人愣住了。
解行舟越过顾承川，在他的默许下，走到屏幕前，“以前的人工智能是什么？人类提出问题，它负责计算。”
“后来呢？人类提出需求，它提供建议。”
他的手指落在屏幕上的数据上，轻轻敲击着屏幕，“可是现在呢？”
“现在它开始进行判断，什么需求更重要。”
会议室逐渐安静。
解行舟继续说道：“以前AI回答问题，后来AI提供建议，现在AI开始决定……”
他停顿了一下。
“什么问题值得被解决。”
这句话落下，整个会议室陷入沉默。
祝昭看着解行舟，突然想起了医疗AI项目中的那份报告。
那份她曾经觉得奇怪，却又无法指出问题的文件。
【随着智能系统使用时间增加，用户对于系统建议接受程度持续提升。】
【预计五年后，大部分用户将在重要决策前主动寻求智能辅助。】
当时她只是简单的以为那只是对未来使用趋势的预测，是工具改变人类生活方式的必然结果。
就像搜索引擎，就像导航，就像以前的手机。
她听到旁边有人在低低的问：“如果它给出的答案永远正确呢？”
“如果它真的比人类更了解如何让社会运行呢？”
她没听到回答。
这是所有人都不愿意面对的问题——如果人工智能真的能够让世界变得更好。
那么人类坚持保留所有选择权的意义是什么？
会议室外，刚开完会回到研究院的陈明远站在走廊尽头。
隔着玻璃，他看着里面还没有离开的研究人员和屏幕上不断刷新的数据。
旁边年轻研究员走过来，看着陈明远的站在那里，下意识询问：“教授？”
陈明远没有回头，他只是看着屏幕。
很久之后，低声说道：
“所以……它真的做到了。”
年轻研究员愣住，“什么？”
陈明远指着屏幕，那是最新报告正在生成。
【人类幸福指数：提升】
【社会运行效率：提升】
【资源浪费率：下降】
他轻声说道：“它做到了我们要求它做到的事情。”
