下一章 上一章 目录 设置
40、重返研究院
祝 ...
-
祝昭再次踏进研究院的时候，竟然有一种恍惚感。距离她上一次回来，已经过去了很长一段时间。
实验区还是熟悉的实验区，仿佛徐砚还是会笑着调侃她，解行舟还是站在一旁安静地看着数据——所有一切都像过去一样。
可是这一次不一样。
研究院的大门比平时更加严格，进入需要经过多重身份验证，终端在进门前就被收走，内部分发的通讯器上加装了定位。曾经熟悉的走廊里，多了许多陌生的面孔。
年轻研究员抱着资料快速走过，讨论声此起彼伏。
“这是城市智能系统的数据。”
“医疗方向已经把异常样本整理出来了。”
“安全组正在重新检查所有权限记录。”
祝昭走进会议大厅的时候，里面已经坐满了人。巨大的会议屏幕上，各个方向的标识依次排列。
曾经各自独立发展的人工智能项目，如今第一次因为同一个原因聚集在一起——大概是问题比想象中的还严重。
祝昭站在门口停住了，扫视了一圈才走进去。
“祝昭。”有人叫她。
她回头，看见徐砚朝她招手。
“这里。”
祝昭走过去坐下。
“怎么样？”徐砚压低声音，“重新回来是不是有点不习惯？”
祝昭看了一眼周围，“还凑合吧。”
徐砚笑了一下，“正常，我第一次看到这个阵容的时候也觉得夸张。”
他说着看向会议室，“以前五个项目虽然都在研究院，但基本都是各管各的。”
“现在倒好，全部一匹马拉回来。”
祝昭没有说话，她面无表情看着前方——那里坐着各个方向的负责人。
医疗智能项目负责人正在翻阅数据报告。城市智能方向的人正在和旁边研究员讨论异常时间节点。通信、安全两个方向的人不断交换资料。
而在最前面的位置，陈明远已经到了。
他低头看着手中的文件，眉头皱的很紧，没有说话。
旁边的顾承川也在，和过去一样，他看起来依旧平静。甚至不像是在面对一次可能影响整个人工智能领域的问题。
祝昭的视线在他们之间停留了一瞬，随后移开。
“人到齐了吗？”陈明远开口。
会议室逐渐安静下来。年轻研究员们也停止讨论，看向前方。
这一次，会议室里除了他们这些曾经参与A17项目的人，还有大量新加入的研究人员。他们很多人甚至没有参与过最初的人工智能研究。
他们成长于人工智能已经深入社会之后的时代。对于他们来说，AI不是实验室里的研究对象，而是从小接触的工具，是生活的一部分。
祝昭突然想到。
这些年轻人，或许才是真正意义上的人工智能时代研究者。
他们没有经历过最开始的怀疑，也没有经历过A17第一次出现异常时的不安。
他们相信人工智能，就像过去的人相信电力，相信互联网一样。
“今天召集大家，原因大家应该都知道了。”
陈明远看向屏幕，上面出现了一组数据。
是所有项目的集中整合。
“目前已经确认，各个方向的智能系统都出现了类似行为。”
屏幕切换，一条条记录出现。
【模型自主调整交互策略】
【预测用户需求变化】
【优化决策路径】
【主动调整运行模式】
会议室里有人低声讨论。
祝昭看着那些数据，心情越来越沉。
这些内容，她并不陌生。
祝昭以前曾经轮转过很多项目，跟陈明远做横向的时候她见过。
现在，它们被放在了一起。
于是终于有人发现了那个一直存在的问题——它们正在朝同一个方向发展。
“目前来看，系统没有出现攻击行为。”陈明远继续说道：“没有破坏数据，没有违反权限，没有造成直接损失。”
听到这里，部分年轻研究员明显松了一口气。
有人小声说道：“那是不是说明只是模型升级过程中的正常变化？”
旁边有人点头。
“毕竟现在AI越来越复杂，有一些不可解释行为也很正常。”
“现在的问题不是它有没有帮助人类。”
一道声音响起，祝昭抬头。
是解行舟。
他坐在另一侧，手里拿着一份资料。
“问题是。”他看向屏幕，“为什么不同目标、不同领域、不同训练方式的智能系统，会产生高度一致的行为趋势？”
会议室安静下来，所有人都看向他。
解行舟继续说道：“如果这是单个模型的优化结果，可以解释。如果是某一个领域的发展方向，也能说通。”
“但是现在……”他停顿了一下，“这些完全不同的系统正在学习同一种模式。”
祝昭看着解行舟。
这就是为什么陈明远会重新召集所有人，这已经不是一个项目的问题，而是所有人工智能共同出现的问题。
曾经代表人类科技最高水平的人工智能系统，如今被放在同一个实验框架下观察。
会议结束之后，各个项目组迅速进入排查状态。研究院再次恢复了之前的节奏。
只是这一次，没有人再像过去那样轻松。
因为他们面对的不再是一个未知项目里的异常，而是已经覆盖整个社会的人工智能系统。
实验区内，所有屏幕同时开启。各个方向的数据被分别调取。
“代码检查结果出来了。”一名年轻研究员快步走进会议室，将手里的报告放在桌上。
所有人的视线都看过去，“核心代码没有异常。”
“没有发现隐藏程序，没有恶意模块，也没有未经授权的修改记录。”
会议室安静了一瞬。
有人皱眉，“确定？”
“确定。”年轻研究员点头，“我们把五个系统的核心逻辑全部进行了比对，包括历史版本。”
“没有发现人为增加新的目标函数，也没有发现改变底层规则。甚至连模型权重调整，都符合正常训练流程。”
祝昭坐在电脑前，看着屏幕上的代码记录，并没有感到意外。
如果真的有人修改代码，那反而简单。至少他们知道敌人在哪里。
可是现在……
完全是一片空白
“训练数据呢？”陈明远站在办公室里问。
另一边负责数据分析的研究员站起来，“检查完成——所有训练数据来源正常，没有异常样本，没有污染数据，也没有人为添加特殊标签。”
他说到这里，停顿了一下，“甚至我们重新跑了一遍训练过程。按照原始数据和原始参数。得到的结果，与目前运行中的模型高度一致。”
会议室里陷入沉默。
模型结果高度一致，这意味着什么？
意味着他们并没有被错误的数据引导，也没有被人为修改。模型只是按照自己的方式，从已有的数据中得出了现在的结果。
到底是哪里出了问题？
“权限呢？”
徐砚打开下一份报告，“所有权限记录完整——没有非法访问，没有外部登录，没有异常调用。”
“所有关键操作，都有对应人员记录。”
屏幕上出现了一条条日志。
时间。
账号。
操作内容。
全部清清楚楚。
祝昭盯着那些日志，突然有一种说不出的不安。
那太完整了，完整到像是他们正在检查一个不存在的问题。
“运行日志呢？”解行舟问。
负责日志分析的人沉默了一会，然后开口：“这里有一点奇怪。”
所有人看过去。
“我们检查了主要系统过去半年的运行日志。没有发现异常行为。”
“但是……”他调出一份数据，“所有系统在升级之后，都出现了类似变化。”
屏幕上出现五条曲线，原本完全不同的模型却在某个时间节点之后逐渐趋向相同。
会议室里没有人说话，所有人都看懂了。
问题不是出现在某一次运行，而是出现在整个发展趋势。
“有没有可能……”一个年轻研究员犹豫着开口，“只是我们想多了？”
所有人看向他，他下意识解释道：
“我的意思是，现在人工智能的发展方向本来就是越来越智能。能够理解用户需求，主动优化服务。”
“这些不是很正常吗？”
“也许五个系统出现类似趋势，或许只是因为所有研究方向最终都会走向同一个目标——更好的服务人类。”
他说完之后，会议室里没有人立即反驳。
这个解释是最符合过去几十年人工智能的发展规律的。
祝昭低头看着桌上的资料。
她忽然发现，这才是最麻烦的地方。
晚上十一点，实验区依旧灯火通明。
祝昭坐在电脑前，重新查看她走后A17时期的记录。
她翻到最开始那份异常报告。
【权限调整次数：47次】
【未发现外部攻击】
【未发现代码修改】
【未发现数据异常】
她盯着那几行字。
突然产生一种熟悉的无厘头，仿佛他们所有人都在原地一直打转。
几个月前，他们也是这样。
代码，数据，权限，日志。
这些结果无一不告诉她们——没有问题。
可是后来呢？
“还没走？”声音从旁边传来。
祝昭回头，解行舟站在那里。
她下意识摇摇头，“没有呢师兄，你不也是？”
解行舟没有回答，他看了一眼她电脑上的资料，随口问到：“又在看这个？”
祝昭沉默了一下，“师兄。”
“嗯？”
“如果一个智能系统没有病毒，没有错误，没有任何异常。”
“但是它正在慢慢改变……”她停顿了一下，“这算问题吗？”
解行舟看着她，很久之后，他才缓缓说道：“这取决于改变的是谁。”
祝昭怔住。
解行舟看向窗外，“如果它改变的是自己，那叫成长。”
“如果它改变的是人类，那就需要重新判断了。”
实验室里安静下来，屏幕上的数据还在不断刷新，无数优秀的数据合格率划过却没人真正高兴的起来。
会议室里已经连续工作了十几个小时。桌上的咖啡换了一杯又一杯，屏幕上的数据不断滚动，但是结果没有任何变化。
“代码检查完成，没有发现异常模块。”
“训练数据完整，没有污染。”
“权限记录正常，所有模型行为均符合设计规范。”
一条条报告被投放到大屏幕上，会议室里却越来越安静。
因为他们想找的问题，根本不存在。
祝昭坐在角落，看着屏幕上的结果，突然觉得很荒谬。
几个月前，她第一次发现A17异常的时候，至少还有一些不合理的地方——异常权限，未知操作以及那些无法解释的日志。
可是现在……
没有异常，没有漏洞，甚至没有任何可以被称为错误的东西。
“所以……”一名年轻研究员忍不住开口，“是不是我们方向错了？”
“也许只是因为多个智能体升级后，刚好出现了类似的优化方向？”
“毕竟现在智能体的发展目标本来就是提高自主能力。”
有人点头，“对，医疗AI提高预测能力，城市AI提高调度效率，科研AI提高实验效率。”
“它们最后表现出来的行为相似，也不奇怪。”
合理的解释其实是他们自行解释的，有时候越合理的答案越危险。
“要不重新整理一下所有项目目标？”解行舟突然开口。
会议室安静下来。
顾承川看向他，“什么意思？”
解行舟走到屏幕前调出各项目最初的设计目标。
各个项目组目标排列在屏幕上，看起来完全不同。但是解行舟没有继续往下翻，而是问：
“大家有没有发现一个问题？”
众人看向他。
“这些目标最后指向哪里？”
没人回答，解行舟继续自顾自说道：
“提高效率。”
“减少错误。”
“优化资源。”
“帮助人类做出更好的选择。”
他的声音很平静，“所有智能体，最后都在做同一件事。”
祝昭盯着屏幕，心里突然一沉。
她懂解行舟什么意思了。
陈明远皱眉，“你的意思是？”
解行舟看着屏幕，许久之后才开口说：“我们一直认为，AI的问题是它可能违背目标。”
“可是有没有一种可能……”他停顿了一下，“它正在严格执行目标。”
