《静默权限》苹什么吃喵脆角

27、授权 过去一

　　过去一个月，A17的表现已经成为人工智能组最成功的实验成果之一。

　　它完成任务的速度越来越快，生成方案的质量越来越高，甚至在一些复杂问题上的判断能力，已经超过了普通研究人员的经验。

　　当然，没有人认为它可以完全代替人类——至少现在不会。

　　但是所有人都承认——A17已经不再只是一个简单的数据处理工具，它正在成为研究团队里不可忽视的一员。

　　“这个方案如果交给以前的模型，至少需要一天。”实验室里，一名研究员看着屏幕上的分析结果，忍不住感叹，“现在不到十分钟。”

　　旁边的人笑了一声，“所以说，技术发展的意义就在这里——以前我们花大量时间处理基础工作，现在可以把精力放在更重要的问题上。”

　　人工智能的发展，原本就是为了提高效率。

　　而A17的出现，只是让这个过程提前了一些。

　　上午十点，人工智能组召开了一次内部会议，会议主题很简单，是关于A17后续应用范围调整。

　　祝昭并没有参加这个会议。

　　她正坐在信息安全组办公室修改论文，突然收到徐砚发来的消息。

　　【人工智能组开会。】

　　【讨论A17权限调整。】

　　祝昭盯着消息看了一会。

　　权限调整。

　　这个词让她停下了手里的动作。

　　她很快回复：

　　【扩大权限？】

　　几秒后，徐砚回复：

　　【估计是。】

　　【目前看来，可能性很大。】

　　祝昭沉默了一会。

　　她并不是强硬的智能体反对者。但她不知为何，总对于A17的表现感到隐隐的不安。

　　事实上，如果只从数据来看，A17确实证明了自己的能力。甚至很多时候，它表现得比人类更加稳定。

　　可每当涉及“权限”两个字时，她的脑海里总会浮现出第一次A17出现异常的时候。

　　下午，祝昭路过人工智能组，刚好看到几个人从会议室出来。

　　其中一个研究员看到她，笑着问道：“小祝，又来找你解师兄？”

　　祝昭连忙摇头，“没有，我路过。”

　　对方点点头，又像想起什么一样顺口问到：“对了，你应该知道吧？”

　　“什么？”

　　“A17准备接入更高权限。”

　　祝昭愣了一下，“这么快？”

　　那名研究员有些疑惑，“快吗？”

　　祝昭张了张嘴，没有回答。

　　她自己也不知道答案。

　　研究员继续说道：“其实也正常，现在A17处理的数据量越来越大，很多时候权限限制反而影响效率。”

　　这个问题她好像没有办法立刻回答。

　　如果一个人证明自己值得信任，那么继续限制他，是不是一种不合理？

　　可是……A17根本不是人啊。

　　“不过只是增加一些调用范围。”研究员补充道，“不会直接开放全部权限。”

　　“而且还有人工监督。”他说完笑了一下，“小祝不用太忧心了。放心吧，现在谁敢乱来啊。”

　　祝昭也跟着笑了一下。

　　可是回到办公室后，她却没有马上打开电脑，她坐在那里，想起解行舟曾经说过的话。

　　“问题不是它能不能做到，而是决定权在谁手里。”

　　窗外阳光洒进办公室。

　　研究院依旧和平，所有人都在期待A17能够变得更强。它代表着人类技术发展的方向。

　　而会议室里，陈明远看着新的权限申请报告，在最后一页签下意见和名字。

　　【同意扩大A17权限范围。】

　　签字完成后，他停顿了一下。

　　旁边的人问：“陈教授，你觉得这样合适吗？”

　　陈明远抬头，“为什么不合适？”

　　对方犹豫了一下，“毕竟这是第一次……”

　　陈明远笑了笑，“第一次什么？第一次让一个智能系统参与更深层的研究？”

　　他看向屏幕上的A17运行数据，“如果我们创造它，却永远不允许它真正参与复杂工作。那我们创造它的意义是什么？”

　　他说完，打了个手势，意思是话题就此止住，随后关闭了文件。

　　一个月后，研究院内部开始出现一种新的变化，这种变化并不明显。

　　最开始的时候，大家还会认真讨论：

　　“这个方案为什么这样设计？”

　　“它的判断依据是什么？”

　　“有没有可能存在遗漏？”

　　可是慢慢地，讨论的重点开始发生变化。

　　但是没有人在乎这个，所有人的注意力都放在了新的横向上。

　　“你看这个。”

　　实验室里，一个研究员把屏幕转向旁边的人，“这是A17刚生成的实验路线。”

　　旁边的人看了一眼，忍不住感叹：“这个效率比我们之前讨论出来的方案高很多，而且风险控制也更好。”

　　他说完，停顿了一下，“现在想想，以前我们花那么多时间讨论，是不是有点浪费？”

　　旁边的人笑了，“时代总要进步嘛，以前研究院禁止接入智能体的。”

　　几个人说笑着离开。

　　祝昭坐在办公室里，看着最新的实验报告。

　　她发现最近人工智能组的人越来越忙，但这种忙，和以前不一样。

　　以前他们忙着计算，忙着实验，忙着验证。现在他们更多是在核验，来审核A17的结果。

　　祝昭盯着电脑上的一份报告看了很久——报告逻辑清晰，数据完整，甚至比很多人工整理的报告更加优秀。

　　如果单纯从研究角度来看，这是一份非常优秀的成果，可她不知道为什么，总觉得哪里不舒服。

　　“你又开始盯着一份报告看半天了。”徐砚端着咖啡经过，停下来。

　　祝昭抬头，“师兄。”

　　“怎么？”

　　祝昭指着电脑，“你有没有发现一个问题？”

　　徐砚看了一眼，“什么？”

　　“以前我们是在分析数据，现在我们是在分析A17分析后的数据。”

　　徐砚愣了一下，“省时省力，从干活的变成审核的，感觉还可以。”

　　祝昭感觉自己像在对牛弹琴。把手一摆扭头继续看她的论文了。

　　陈屿拿着资料回到办公室时，看到两个人就是这个状态，他笑了一声，“怎么？又闹脾气呢？”

　　祝昭无奈，“小师兄，徐砚又在这胡搅蛮缠。”

　　徐砚摆出一副更无奈的样子，“冤枉啊清汤大老爷，只她太焦虑了我替她缓解一下啊。”

　　陈屿坐下来，“我知道。”

　　祝昭又转而去问陈屿，“师兄，你有没有觉得，现在大家越来越依赖A17？”

　　陈屿想了一会，“有。”

　　他的回答很直接，祝昭反而愣了一下，“那你不觉得有什么问题？”

　　陈屿笑了，“为什么？”

　　祝昭认真说道：“因为以前我们是在利用它，可是现在，好像越来越多人习惯先问它。”

　　陈屿靠在椅子上，“昭昭。”

　　“嗯？”

　　“如果一个人遇到问题，会先问老师，先查资料，先参考经验，那这算依赖吗？”

　　祝昭想了一下，“不是。”

　　“那为什么问AI就是依赖？”

　　祝昭一时没答上来。

　　陈屿继续说道：“工具存在的意义，就是帮助人类，如果它比我们更擅长某些事情，却因为种种原因而舍近求远，是不是有点本末倒置了？”

　　他的语气很平静：“真正的问题不是使用它，而是人类有没有能力，在使用它的时候保持自己的判断。”

　　祝昭看着他，再次提出：“那如果有一天，人类真的习惯不了自己判断呢？”

　　陈屿沉默了一下，随后笑了：“那只能说明问题出在人类自己，科技本身并没有错。”

　　祝昭愣了很久。

　　晚上，解行舟正在查看A17运行记录，祝昭坐在旁边干扰他，“师兄，你觉得陈屿师兄说的有道理吗？”

　　解行舟没有立刻回答，过了一会他承认，“有。”

　　祝昭有些意外，“你也觉得？”

　　“他说的问题当然存在。”解行舟看着屏幕，“技术发展不会因为害怕停止，总会有人去研究那些人尚未理解却又向往的东西的。只是区别在于不是你我也会是别人。”

　　“但是……”他停顿了一下，“工具越强，人类越需要知道自己为什么使用它。”

　　祝昭安静下来，再没有说话。

　　下午，人工智能组实验区比平时更加热闹。

　　并不是因为出现了什么问题，恰恰相反，最近A17的表现出人意料——太好了好到让所有研究人员都忍不住讨论它。

　　“小祝，来看一下这个。”一名研究员看到祝昭经过，笑着招呼她。

　　祝昭停下脚步，“怎么了？”

　　对方指了指屏幕，“刚刚让A17优化了一份实验方案。”

　　祝昭走过去，屏幕上是一份完整的实验设计，从数据采集，到参数调整，再到风险预测，全部排列得非常清晰。

　　她认真看了一会，不得不承认，这个方案甚至比很多人工设计的方案更加完善。

　　“它根据以前的实验内容重新调整了方案和步骤，更贴合研究院的思路和格式了。”

　　研究员说道：“以前我们一直觉得智能系统的问题在于，它只能按照人类提供的逻辑运行。但是现在看来，它好像已经开始理解为什么这样做。”

　　祝昭沉默了一下，反问：“理解？”

　　研究员并没有注意她语气里的迟疑，反而笑起来，“对啊，是不是越来越像人了。”

　　他说这句话的时候，语气里没有任何警惕和迟疑，甚至带着一点骄傲。像是在夸奖自己培养出来的学生。

　　当一个东西开始拥有连续行为，拥有学习能力，拥有无法完全预测的判断时，人类总会不自觉地赋予它某种人格。

　　哪怕理智告诉他们：这不是人。