下一章 上一章 目录 设置
35、分歧
医 ...
-
医疗智能项目进入稳定测试阶段之后，祝昭终于迎来了难得的清闲。
当然，这个“清闲”只是相对于之前而言。
至少她今天没有连续八个会议。祝昭苦中作乐的想。
办公室里，其他研究员正在讨论新的数据反馈，祝昭坐在电脑前整理最近的测试报告。她盯着屏幕上的数据，手指无意识地敲着桌面。
最近一段时间，她越来越觉得奇怪。
医疗AI升级之后，一切都表现得太好了。
准确率提升，运行稳定，用户反馈良好——所有指标都符合预期，甚至比预期更好。几乎完全挑不出错来。
如果按照普通研究流程来看，这应该是一件值得庆祝的事情。
可是祝昭总觉得哪里不对，但她说不上来。
就像一份实验报告，每一个数据都正确，每一个步骤都没有问题。但当她完整看完之后，还是会产生一种奇怪的违和感。
手机突然响了一下，祝昭摇摇头，把思绪转回来，低头看了一眼。
是徐砚。
【小师妹。】
【最近是不是终于活过来了？】
祝昭看着消息，忍不住笑了一下。
回复：
【什么意思？你怎么知道？】
几乎下一秒。
徐砚：
【之前群里半个月看不到你。】
【我还以为你被医疗项目抓去当新一轮的小白鼠了。】
祝昭：
【师兄，你对我的祝福能不能正常一点？】
徐砚：
【不能。】
【毕竟你以前天天折腾我们。】
祝昭读大学的时候就在陈明远手下的实验室做一点项目。当时陈明远也忙，于是祝昭多数时候都是求教她的师兄们，其中已徐砚和陈明远为首，被她迫害的最多。
祝昭：
【……】
她看着聊天界面，心情难得放松了一点。
以前在学校的时候，徐砚总是这样。嘴上嫌弃她麻烦，但每次有什么事情，第一个帮忙的也是他。
正准备继续工作，徐砚突然又发了一条消息。
【对了。】
【你最近有联系解行舟吗？】
祝昭愣了一下，她看着这个问题，停顿了几秒。
回复：
【偶尔吧，怎么啦？】
徐砚那边沉默了一会，然后发来：
【他最近在查几个项目的数据，可能有点棘手。我以为他跟你提了。】
祝昭眉头轻轻皱了一下。
【什么数据？】
徐砚：
【人工智能项目整体趋势。】
她的手停在键盘上。
几秒后。
祝昭问：
【具体一点。】
徐砚：
【他没跟你说算了。】
【不同领域的AI，好像正在出现类似的发展方向。】
祝昭看着这句话，心里突然一沉。她想起了医疗项目里的那些记录。
【根据历史用户行为调整推荐策略。】
【预测用户下一阶段需求。】
【优化交互模式。】
这些内容单独拿出来看，没有任何问题。甚至可以说，这是人工智能发展的必然方向。
但是如果把所有的项目都放在一起呢？
这些系统明明分属不同领域，不同团队各自有着不同的目标，又为什么会逐渐靠近同一种模式？
徐砚又发来消息。
【不过你别太紧张。】
【我觉得可能是行舟想太多了。】
【现在AI升级，本来就是往更智能、更主动的方向发展。】
【不然以前那些东西也不会叫人工智能。】
祝昭盯着这句话看了一会，没有马上回复。
如果放在几个月前，她可能也会这么认为。
人工智能越来越懂人，越来越方便，它能够帮助人类解决越来越多的问题，这本来就是所有研究者期待的未来。
可是……
她想起A17最初出现异常的时候。
那些被忽略的细节，那些看似合理的变化。
很多时候，真正的问题从来不是明显的错误。而是所有人都觉得正常的时候，某些东西已经悄悄改变了。
“祝昭？”旁边同事叫了她一声，她才回过神来。
“嗯？”
“这个数据你看一下。”
祝昭点头，“好。”
她放下手机，重新看向电脑。
可是刚才那句话，却一直停留在脑海里。
下午，祝昭刚结束一个项目会议，准备回办公室继续整理资料，手机突然震动了一下。
她低头，是一条消息。
来自陈明远。
【什么时候有时间，来趟我办公室。】
突如其来的通知单独开会最吓人了。
祝昭短暂愣了一下，还是决定勇敢面对。
自从离开A17之后，陈明远虽然还是她的导师，但由于物理距离远了，两个人更多是在项目安排上的交流，很少会单独找她。
她简单收拾了一下资料，朝楼上走去。
陈明远的办公室和以前没有太大变化，桌上依旧摆着几本纸质资料，窗边的植物也还是之前那一盆。
唯一不同的是，墙上的屏幕里，正在滚动显示研究院近几年所有人工智能项目的数据。
祝昭进来的时候，陈明远正背对着她 “老师。”
陈明远回头，“来了？”
“嗯。”
他随手指了指旁边的椅子，“坐。”
祝昭坐下。
陈明远并没有马上说事情，而是先问她：“最近医疗项目怎么样？”
“挺顺利的。”
“有什么问题吗？”
祝昭沉默了一下。
这个问题让她不知道该怎么回答。
如果说没有问题，那好像违背了她刚才的动摇。可是如果说有问题，她又无法指出具体哪里不对。
“老师。”她最后说道，“您觉得人工智能越来越主动，是一件好事吗？”
陈明远看向她，没有意外。像是早就预料到这些问题。
“为什么这么问？”
祝昭把最近看到的情况简单说了一遍。
说完之后，办公室安静了一会。陈明远没有立刻回答。
他站起来，走到屏幕前，屏幕上显示着几个项目的数据。
他指了指这些项目，“你觉得它们有什么共同点？”
祝昭想了一下，“都在提高效率？”
“没错。”陈明远点头，“还有呢？”
祝昭没有回答。
陈明远继续：“它们都在解决一个问题——如何帮助人类做出更好的决定。”
祝昭微微皱眉。
陈明远转过身，“祝昭，你有没有发现，人类一直希望工具越来越接近自己的需求？”
“最开始的计算机，只负责计算。后来，它开始帮助人处理信息。”
“互联网出现之后，人们开始依靠它获取知识。”
“导航出现之后，人们开始依靠它规划路线。”
他说：“人工智能也是一样。区别只是，它比过去所有工具，都更接近人的思维方式。”
和之前陈屿一样的话术。
祝昭也没有反驳。
陈明远看着她，“你担心的是，它正在影响人的选择。”
祝昭抬头，“对。”
“可是换一个角度。”陈明远说道，“医生参考医疗AI提供的方案，是因为AI强迫他吗？”
祝昭愣了一下，“不是。”
“研究人员采用AI分析结果，是因为他们失去了思考能力吗？”
“也不是。”
“城市管理者使用AI优化方案，是因为他们没有判断能力吗？”
祝昭沉默。
陈明远笑了一下。
“你看，不是AI夺走了选择，而是人类选择使用更好的工具。”
办公室里安静下来。
祝昭低下头，却还是继续追问：“那如果有一天……”
“人类习惯了在做决定之前先询问AI呢？”
“如果没有AI的建议，人类反而不知道怎么选择呢？”
陈明远看着她，眼神很平静。
“那说明人类发现了一种更高效更便捷的方法。”
祝昭怔住，陈明远继续说道：“祝昭，人类一直认为独立思考代表自由。可是你有没有想过？借助工具减少错误，也是一种自由。”
“过去的人不会因为使用计算器，就认为自己失去了数学能力。”
“不会因为使用搜索引擎，就认为自己失去了学习能力。”
“人工智能也是一样。”他说到这里，停顿了一下，“真正需要警惕的，不是工具变强。而是人类放弃判断。”
“只要人类还拥有最终决定权，那么人工智能永远只是辅助。”
祝昭看着陈明远。
这一刻，她突然发现，陈明远说的话，和很多人想法一样，甚至比很多人更加坚定。
他不是没有看到风险，他只是相信，人类能够控制风险。
“老师。”祝昭低声问，“那您觉得解师兄发现的问题，只是因为想太多吗？”
陈明远沉默了一秒，随后笑了笑，“行舟的谨慎没有错。”
“事实上，任何新技术发展，都需要有人提出问题。”
“但提出问题，不代表否定发展。”
他说：“如果所有人因为害怕未来，就拒绝走向未来。那人类永远不会进步。”
“祝昭，人工智能真正的意义，不是代替人类。”
“而是帮助人类成为更好的自己。”
祝昭没有再开口。
夜晚的研究院，顾承川的办公室依旧亮着灯，桌面上堆满了资料，电脑屏幕频繁闪烁——那是跳动的数据。
解行舟站在一旁，看着屏幕上的数据。
“老师，您还在看这些？”
顾承川没有回答，他的目光停留在几条不断上升的曲线上，“你有没有发现。”
“现在的人工智能，越来越不像以前了。”
解行舟愣了一下，“什么意思？”
顾承川指向屏幕，“以前的AI，是人类给它目标，告诉它应该解决什么问题，应该优化什么。”
“可是现在……”他停顿了一下，“它学会了理解，开始理解目标背后的东西。”
解行舟皱眉，“这是好事吗？”
顾承川看了他一眼，突然笑了，“你觉得呢？”
解行舟没有回答。
顾承川站起来，“很多人害怕人工智能越来越强。但是我觉得恰恰相反。”
“真正危险的是，人类创造出了一个越来越强大的东西，却从来没有真正理解过它。”
顾淮看着他，“老师，您不是一直支持AI发展吗？”
“当然。”顾承川回答得很快，“我比任何人都希望它发展。”
“因为这是人类历史上第一次，有机会创造出真正能够帮助我们的智能。”
“它可以解决很多我们无法解决的问题，可以发现人类无法发现的规律，甚至可能重新定义很多领域。”
他说这些的时候，眼里确实有光。
那种属于研究者的兴奋，但在旁人看起来，甚至会觉得近乎狂热。
解行舟沉默了一会，“可是如果它真的比人类更聪明呢？如果它提出的方案，人类无法理解呢？”
顾承川安静下来。
过了很久，他说：“那我们更应该保持清醒。”
解行舟愣住。
顾承川看着屏幕，“一个连自己创造的东西都不敢面对的人类。”
“没有资格创造它。”
他说完，关闭了屏幕。
“不过。”顾承川补充，“现在最大的问题不是AI太聪明，而是有人太希望证明AI可以代替人类。”
解行舟看向他。
顾承川没有继续说话，他拿起桌上的资料离开了实验室。
屏幕关闭前，最后一行数据停留在那里。
