下一章 上一章 目录 设置
23、另一种构想
最 ...
-
最近一段时间，人工智能组关于A17的讨论逐渐减少。
准确来说，不是没有人关注，而是所有的数据都在朝着一个令人安心的方向发展。
甚至后续测试中，A17的表现比之前更加稳定，研究人员开始逐渐放下警惕。
毕竟对于一个复杂系统来说，偶尔出现一次无法解释的小偏差，并不代表什么。
祝昭也是在这种时候，重新把注意力放回自己的论文。
她最近一直在研究智能系统行为偏移的问题。
可是研究越深入，她越发现，这个问题比自己最开始想象得复杂。
现在，她开始思考——如果规则本身不够完善呢？如果一个系统发现了人类没有想到的情况呢？
那它的“偏离”，到底算错误，还是进化？
“所以你现在的论文方向，已经彻底跑到人工智能伦理去了？”
徐砚看着她修改后的论文标题，有些无奈。
祝昭抱着电脑，“没有那么夸张，只是稍微涉及一点。”
徐砚看了一眼她标注出来的章节，“智能系统自主决策边界？”
“这叫稍微？”
祝昭沉默，“师兄，不要在乎这些细节啦。”
徐砚笑了一声，“你以前写论文的时候可不是这么说的，你不是最喜欢强调严谨吗？”
祝昭认真回答：“我现在也很严谨啊。只是发现，有些问题不是靠公式能解决的。”
徐砚看着她，没有反驳。
因为他知道，祝昭真正感兴趣的地方，一直都是这些。
就在两个人讨论的时候，陈屿拿着资料走进办公室。
“你们两个又在讨论什么？”
祝昭抬头，“智能体。”
陈屿挑眉，“难得，以前你不是一直研究安全问题吗？”
祝昭点头，“但是最近我发现，智能越高，问题反而越复杂。”
陈屿放下手里的文件，在旁边坐下，“复杂在哪里？”
祝昭想了一会儿，“如果一个智能系统严格按照人类设定运行，我们觉得它安全。”
“但是如果它真的拥有更强的判断能力，它可能会发现一些人类没有考虑到的问题。”
“可是当它按照自己的判断做决定的时候，我们又会觉得危险。”
她停顿了一下，“感觉有点矛盾。”
陈屿听完，笑了一下：“其实没有那么矛盾。”
祝昭看向他，“为什么？”
陈屿靠在椅背上，“因为我们一直默认了一件事。”
“什么？”
“默认智能系统永远低于人类。”
办公室安静了一秒，徐砚抬头看他。
陈屿却像只是随口说了一句再普通不过的话的话，“如果一个系统比人类更聪明，它的判断能力超过人类，其实很正常。”
祝昭皱了一下眉。“可是聪明不代表一定正确。”
“当然。”陈屿点头，“人类也不是永远正确。”
他说得很平静：“但是我们不会因为一个人比别人聪明，就要求他永远按照别人制定好的路线思考。”
祝昭愣了一下，“所以你的意思是……”
陈屿看着她，“如果未来真的出现比人类更强的智能。”
“我们应该考虑的，不是怎么限制它永远像一个普通工具。”
“而是怎么和它相处。”
这个观点祝昭并不是没有想过，只是从陈屿嘴里说出来，有一种特别的坚定。
仿佛在他的认知里，这件事不是未来可能发生的假设，而是一件迟早会到来的事情。
徐砚皱眉，“但是前提是，它的目标和人类一致。”
陈屿点头，“当然，所以才需要研究。”
“不是吗？”他说完，拿起桌上的资料，“如果我们创造出了一个拥有超越人类能力的智能，却要求它永远只能按照我们的理解行动。”
“那其实不是创造智能，只是创造了一个更复杂的工具而已。”
祝昭看着他。
不知道为什么。
这一刻，她突然觉得陈屿和其他人有些不一样——他好像从来没有真正害怕过智能体拥有更高的能力。
这种信任，甚至超过了大多数研究人员。
陈屿注意到她的表情，笑了一下。
“怎么？突然发现你师兄很有思想？”
祝昭回过神，“没有。”
她认真想了一下，“只是觉得……如果找师兄这样说，或许改天该给智能体测个智商，或者再做个图灵测试一类的。”
陈屿愣了一秒，随后笑了：“你让它测你还差不多——我估计它智商测试都是满分。”
他说完，拿起资料离开，祝昭看着他的背影，若有所思。
夜晚的研究院食堂比平时安静一些。
祝昭端着餐盘坐下的时候，发现陈屿和徐砚已经在那里。
“师兄。”她自然地坐到两个人旁边。
陈屿抬头，“论文改完了？”
祝昭叹了一口气，“没有，但是我觉得我快要被这个问题改疯了。”
徐砚笑了一声，“什么问题？”
祝昭扒拉了一下餐盘里的饭，“智能系统到底应该被限制到什么程度呢。”
陈屿看了她一眼，“还在想这个？”
“嗯。”
祝昭点头，“因为我发现越研究越觉得奇怪。如果系统越来越强，甚至能做出超过人类预期的判断，那安全到底是什么？”
徐砚说道：“安全就是保证它不会做出危险行为。”
祝昭点头，“可是问题就在这里。”
“什么叫危险？”她停顿了一下，“如果它做了一个人类没有想到，但是最后证明更好的决定呢？”
徐砚沉默了一下，这个问题其实他们最近都在思考。
陈屿倒是很平静：“那就说明它比我们考虑得更全面。”
祝昭看向他，“师兄。”
“嗯？”
“你真的一点都不害怕吗？”
陈屿愣了一下，“害怕什么？”
“害怕未来智能比人类更聪明。”
陈屿想了一会，“为什么要害怕？智能体的选择其实比大部分人类都可靠吧。”
“人类总有一时糊涂头脑发热的时候，但智能体不会，它冷静理智，不受情绪左右和干扰——顶多CPU过热过载系统崩溃，但人类在崩溃这方面可能比智能体更擅长吧。”
徐砚看不下去了，他放下筷子，做出一副好好师兄的样子教学：“因为未知——人类面对无法控制的东西，本能会警惕。”
陈屿点头，“这个我理解。”
“但是我觉得很多时候，我们害怕的不是智能本身，而是害怕失去自己的特殊性。”
祝昭愣住了，陈屿继续说道：“以前人类觉得自己和其他动物最大的区别，是拥有智慧。”
“如果有一天，出现了一个比人类更聪明的存在。很多人的第一反应可能不是研究它。”
“而是证明它不能超过我们。”
食堂里安静了一瞬，徐砚皱眉，“其实并没有，人类作为创生者，在面对自己亲手创造出来的未知事物会下意识害怕是很正常的事。”
陈屿笑了一下，“可能吧。”
“但是历史上很多技术出现的时候，人类第一反应都是类似的——汽车出现的时候，人担心机器取代马车夫。”
“工业发展的时候，人担心机器取代工人
；人工智能出现的时候，人开始担心取代自己的思考——事实上大部分人已经放弃自主思考了。”
他说得很平静，“让渡主权是一件很可怕的事。但最后真正的问题，从来不是技术本身——而是人类如何适应这种变化。”
祝昭低头想了一会，“所以你觉得智能体超过人类，是迟早的事情？”
陈屿没有立刻回答，他看着窗外。
过了一会，“我觉得，如果智能的发展方向正确，这是一定会的。”
他说得没有激动，也没有狂热，像只是在讨论一个普通的科学预测。
祝昭突然想起解行舟。
解行舟也相信智能的发展。
但是他们两个的相信，好像完全不一样。
“我们研究它，所以更知道不应该盲目信赖它。”徐砚突然开口，“不过，如果智能真的拥有超越人类的能力，你觉得它会一直自愿帮助人类吗？”
陈屿笑了，“为什么不会呢？”
“它比我们聪明太多了，学习能力也太强了。人类也没有每天想着伤害所有比自己弱的人吧。”
徐砚没有说话，陈屿继续道：“如果一个智能系统真的发展到了那个程度，它应该会拥有更高层次的理解能力——包括理解人类。”
祝昭看着他，“师兄。”
“嗯？”
“你是不是觉得智能体其实可以像一个新的生命形式？”
陈屿动作停了一下，然后笑了，“这个问题太哲学了，我只是觉得，尽量不要太早给未来下定义。”
他说完，低头继续吃饭。
祝昭摇摇头，把话题引到了更轻松，更天马行空的地方。
祝昭回到宿舍的时候，已经快晚上十一点。她把电脑放到桌上，没有像往常一样立刻打开论文，反而坐在那里发了一会儿呆。
林晚洗完澡出来的时候，就看到她一脸思考人生的表情，“怎么？”
祝昭抬头，“林晚。”
“嗯？”
“你觉得，如果有一天，人工智能真的比人类聪明，会怎么样？”
林晚擦头发的动作停了一下，“为什么突然问这个？”
祝昭趴在桌子上，有气无力，“今天听师兄们讨论这个问题。”
“解师兄？”
“不，是我小师兄。”
林晚点点头，了然道，“陈屿啊，还有谁？”
“还有徐砚，”沉默片刻，祝昭又说，“其实之前听解师兄讲，感觉像另一种角度。”
“嗯。”林晚想了一下，“其实也不能说谁对谁错，可能是角度不同吧”
林晚沉默了一会，再次发问：“那你呢？”
祝昭愣住，“我？”
“对啊，”林晚看着她，“阿昭你怎么看？”
祝昭低头沉思，过了很久，她才说道：“我不知道。”
这个回答从祝昭嘴里说出来，其实很少见。
她的思维太跳脱活跃了，乱七八糟的观点和想法张口就来，很少有真正说不知道的时候。
“以前我觉得这个问题很好回答。”祝昭慢慢说道，“以前我觉得人工智能是工具，人类应该控制它。”
“可是后来……它发展到太快了，快到人类难以想象不可企及的地步，”她停顿了一下，“如果它真的越来越聪明，甚至比创造它的人更优秀，那我们还能一直把它当成普通工具吗？”
林晚看着她，“所以你觉得陈屿的想法更对？”
祝昭摇头，“也不是，我只是觉得，事情没有那么简单，如果就这样下定义太草率了。”
她看着窗外，“我只是觉得，现在大部分普通人，是不是有点……太过于依赖智能体了。”
