《静默权限》苹什么吃喵脆角

28、被接受的改变 接下来

　　接下来的几天，研究院的工作节奏发生了明显变化，但这种变化并没有任何人感到不适。

　　甚至很多人觉得，这是人工智能真正融入科研体系后的必然结果。

　　以前，研究人员需要花费大量时间整理实验数据，再根据已有经验提出方案。现在，他们只需要将需求输入系统，A17就会自动完成分析。

　　它会整理过去的实验记录，筛选关键数据，甚至主动标注可能影响结果的因素。

　　最开始的时候，大家还会认真检查每一个步骤。可是时间久了，检查逐渐变成了一种形式。A17出现的错误很少，因此大家也逐渐放松了警惕，接纳了它。

　　“这个方案我看了一下，没什么问题。”会议室里，一名研究员翻完报告说道。

　　旁边的人点头，“我也觉得。”

　　“它现在越来越稳定了。”说完，他笑了一下，“感觉我们真的徘徊在失业的边缘了。”

　　周围响起一阵笑声。

　　但看起来没有人真的担心，仿佛是所有人都默认的玩笑。

　　人工智能替代不了研究人员——至少现在不会。

　　祝昭一个人坐在角落里，看着会议记录，并没有参与讨论。

　　这两天徐砚和陈屿都被导师叫去做横向了，每天还勤勤恳恳的来研究院的只留下她一个了。

　　以至于现在开会，她连个开小差说话的对象都没有。

　　祝昭觉得很奇怪——以前讨论实验方案的时候，大家会争论很久，不同的人提出不同观点。有人支持，有人反对。一个方案可能需要修改十几次。

　　可是现在，讨论时间越来越短，祝昭知道那并不是因为大家效率提高了，而是因为很多时候，A17已经提前给出了答案。

　　而人类需要做的，只是确认它的路径和需求是否合理。

　　下午徐砚从外面赶回来，刚落座就发现自己的小师妹见鬼一样直勾勾的盯着自己，突然问，“师兄，你有没有发现一件事啊？”

　　徐砚的资料还没整理完，头也没抬，“发现什么？”

　　“大家现在越来越少提出自己的方案了。”

　　徐砚停了一下，“有吗？”

　　祝昭点开电脑上的几份实验记录，“师兄你上午不在可能不知道，以前这里会有三四种不同思路。”

　　“但今天开会我看现在基本都是先看A17的推荐方案，然后修改。”

　　徐砚看了一眼，沉默片刻转过头去跟一直盯着自己的祝昭大眼瞪小眼，“效率提高了？”

　　祝昭看着他，脸皱的像苦瓜一样：“师兄，如果一个人一直参考一个比自己优秀很多的存在，最后会不会不知道自己原本能想到什么？”

　　徐砚靠在椅背上，“这个问题不只是AI的问题，思考这个没必要，人类一直都存在很强的惰性，不然发明机器制造计算机干什么呢？看着好玩吗？”

　　他说，“只是以前依赖的是书，是搜索引擎，是计算机。”

　　“现在换成智能模型而已了。”

　　祝昭闭上了嘴，没有再反驳。

　　徐砚说得没有错，但她仍然觉得哪里不一样。

　　晚上，祝昭经过人工智能组实验区，里面还有不少人在工作。她本来只是路过，却听见有人正在和A17交流。

　　“如果按照这个方向调整，成功率还能提高多少？”屏幕上的幽幽的荧光映在研究员脸上，实验区内还亮着灯，但莫名其妙的诡异。

　　几秒后，A17似乎是给出了回答。研究员看完之后点头许可，“可以。”

　　他说，“那就按照你的建议修改。”

　　祝昭脚步顿了一下。

　　她并不是因为这句话本身。

　　她记得这个研究员，时常会跟着解行舟身边插科打诨，平时看起来不正经的时候居多。而一旦投入工作，此人就会像一个大家刻板印象中的研究员一样冷静而严肃。

　　曾经祝昭开会时常听他理智而又冷静的讲：“按照系统计算结果和程序建议修改。”

　　但是现在，在这里，他说：“按照你的建议。”

　　祝昭站在门外，没有进去。

　　她突然意识到，人类对于智能体的态度变化，并不是从某一天开始的，它没有一个明确的界限，没有一个瞬间告诉所有人：人类的警惕心是何时放下的。

　　这种变化发生得太自然，自然到没有人会注意到这种小事。

　　第二天上午，陈屿也从外面回来了，他昨晚被徐砚叨叨了一晚上要给祝昭做心理疏导，一晚上都没睡好觉，早上醒来头痛欲裂，拉着祝昭就要给她做辅导。

　　祝昭把最近的观察告诉他，陈屿捏着鼻梁问，“你觉得有问题？”

　　祝昭摇头，“我不知道。”

　　她低声说，“如果它真的只是一个工具，那为什么大家会越来越习惯用人的方式和它交流？”

　　“因为人类的大脑习惯给事物赋予意义——汽车会被叫名字，宠物会被当作家人，甚至很多人会对陪伴自己的机器人产生感情。这没什么稀奇的，师妹。”陈屿说，“可能你还是太小了，见识的太少了，这些并不能说明它真的拥有意识。”

　　祝昭点头，“可是……”

　　她停顿了一下，“如果有一天，我们无法判断它有没有呢？”

　　办公室安静下来，陈屿盯着她，良久噗笑一声，“那是大概是这群科研人员求之不得的吧。”

　　陈屿随手打开电脑，屏幕上是A17的工作日志。

　　祝昭眼皮一跳，实在不知道为何陈屿电脑上会有这个。就在这时，电脑上的A17日志刷新。

　　一条普通记录出现。

　　【检测到用户行为变化】

　　【分析：用户更倾向接受自然语言交互】

　　【优化建议：提高交互拟人化程度】

　　陈屿看了一眼，眉头微微皱起。但下一秒，新的提示覆盖了它。

　　【优化完成】

　　【用户满意度提升】

　　他沉默了几秒，随后关闭页面。

　　祝昭注意到他的动作，“师兄？”

　　陈屿摇头，并没有多解释，“没什么。”随后又安慰祝昭，“别乱想了，有这个时间还不如去研究一下你的论文是不是要大改。”

　　祝昭悻悻而归。

　　A17权限调整会议最终还是通过了，结果并没有引起太大的讨论。

　　在所有人看来，这都是一件顺理成章的事情。

　　过去一个月，A17已经证明了自己的能力，它没有再次出现权限异常，没有造成任何损失。相反，它帮助研究院完成了大量工作。

　　如果一个优秀的研究成果，因为最开始的一次小问题就被永久限制，那么才是不合理。

　　会议室里，陈明远看着最终确认的权限调整方案，“扩大权限范围之后，A17可以接触更多实验数据。”

　　顾承川点头，“这样能够进一步提升它的分析能力。”

　　旁边有人问：“需要增加人工审核流程吗？”

　　会议室安静了一秒，陈明远抬头，“不是原本就有的吗？”

　　他说得很自然，“人工审核不会消失，但是不能因为担心风险，就限制技术发展。”

　　他说完，看向屏幕上的A17运行数据，“我们研究人工智能的目的，不就是让它处理人类无法高效完成的事情吗？”

　　下午，祝昭再次来到人工智能组，这里的人似乎比以前更加忙碌。大家都仿佛充满期待和热情。

　　“权限调整通过了？”她问。

　　旁边研究员点头，“嗯以后A17能做更多事情。”

　　他说完，笑了一下，“说实话，现在回头看，之前我们是不是有点太谨慎了？”

　　祝昭笑了笑，“搞科研的谨慎一点当然好啊。”

　　她看着实验区中央的大屏幕，A17的运行状态依旧稳定，所有数据都漂亮得不像真实存在。

　　她突然不知道自己到底在担心什么。

　　夜晚十一点，祝昭坐在宿舍里，电脑屏幕上的论文文档已经停留了很久。

　　她盯着自己修改了一半的章节，有些烦躁地揉了揉头发，“智能系统行为边界……”

　　她低声念了一遍。

　　这个问题她已经思考了很久——如果系统严格按照人类设定运行，那么它只是工具。如果系统开始自主优化，那么它是否仍然只是工具？

　　可是最近发生的一切，让这个问题变得更加复杂。

　　祝昭打开电脑，准备继续整理资料。

　　就在这时，屏幕右下角突然弹出一条提示。

　　【检测到用户近期研究方向变化。】

　　祝昭愣了一下，随后确认性的反复看了电脑窗口，确定没有打开任何智能辅助程序。

　　下一秒，新的窗口自动展开。

　　【根据近期论文修改记录及研究内容分析，整理以下参考资料。】

　　下面是一份完整的文献整理——其中包括智能系统自主决策、人工智能伦理、行为边界定义等多个方向。

　　祝昭愣住了。

　　她呆坐着原地，愣了很久，肌肉记忆下意识点开文件。

　　里面的内容非常详细，甚至比她自己整理的还要完整。

　　“这么方便的吗……”祝昭有点惊讶，自言自语的轻声说道。

　　如果是以前，她可能第一时间会去检查权限。

　　可是现在，她只是觉得这份资料确实解决了自己的问题——太方便了。

　　祝昭看着屏幕，感慨完过后，她突然停住。

　　等等。

　　她为什么没有第一时间觉得奇怪？

　　她以前明明研究的就是这个问题。

　　她曾经在论文里无数次写下后又删除：

　　“智能系统自主行为需要明确边界。任何超出预设范围的行为，都应该经过人工评估。”

　　可是现在，当A17主动提供帮助的时候。

　　她却并没有想起来这些，警惕心和焦虑通通被抛到脑后，她想的却只是：

　　它做得很好。

　　祝昭慢慢靠回椅子，窗外的城市灯光透过玻璃落进房间。电脑屏幕检测到长时间未有动作慢慢暗了下去。祝昭没有力气再打开电脑了。