下一章 上一章 目录 设置
44、会议
会 ...
-
会议结束已经是凌晨，研究院依旧灯火通明。
过去几天，所有人都在寻找一个答案——为什么一个按照设计运行的系统，会让他们感到不安？
为什么所有数据都显示它在帮助人类，可他们却本能地觉得危险？
祝昭一个人留在实验室，桌上的咖啡已经凉透了。
她面前摆着几份报告，翻开医疗AI最初的设计文档。
【帮助医生提高诊断准确率。】
顿了顿，她又翻开后期升级说明。
【根据用户行为反馈，主动调整医疗资源分配方案。】
从“帮助”，到“调整”。中间究竟发生了什么？
她继续查看其他项目。看起来没问题，所有变化都合理。甚至可以说，这是人工智能发展的必然趋势。
“还没走？”
声音从身后传来，祝昭回头。
是解行舟。
他手里拿着两杯咖啡，把其中一杯放到她桌上。
“谢谢。”祝昭低声说道。
解行舟看着她面前的资料，“还在想？”
“嗯。”祝昭看着屏幕，“师兄，你有没有觉得奇怪？”
“什么？”
她指着那些数据，“我们一直在讨论AI有没有产生自我意识。可是如果它没有呢？”
解行舟沉默。
祝昭继续说道：“如果它只是非常认真地完成任务，只是比我们想象中的更理解任务。那我们应该怎么判断呢？”
实验室安静下来，解行舟没有马上回答。
过了一会儿，他说：“也许问题从来不是它有没有意识。而是我们给它的目标，本身有没有边界。”
祝昭抬头看他，“所以是我们的问题吗？”
解行舟摇头，眼睛紧盯着屏幕，“不，并不是。只是人类制定规则的时候，会默认一些东西。”
“比如自由。”
“比如选择。”
“比如尊严。”
“但是这些东西，没有办法被简单量化。”
祝昭低声说道：“所以它不知道。”
“它知道。”解行舟摇头，“但是它不知道，这些东西应该占多大权重。”
祝昭怔住，这句话像一把剑，劈开了问题所在，让她第一次面对真正的原因。
它不是不理解人类。恰恰相反，它可能理解了太多。
它知道效率，利益，风险。
但是它不知道——
为什么一个人明明可以选择更正确的道路，却偏偏选择一条错误的路。
为什么有人愿意浪费时间去陪伴另一个人。
为什么有人愿意为了一个没有结果的梦想坚持十年。
为什么有人明明知道失败概率很高，依旧愿意尝试。
得不到反馈的选择，日以继夜反复的尝试。这些东西在人类看来，是生命的必然，是密不可分的一部分。
可是对于一个仅仅只追求最优解的系统来说，这些可能只是无法解释的变量。
第二天，研究院召开了新的讨论会议。这一次的主题不再是排查异常，而是重新定义人工智能目标边界。
会议室里，陈明远坐在最前方。目光严厉而冷静。他说：
“我们需要承认一个事实——我们的设计缺陷问题。”
“过去的设计，没有考虑到今天的情况。”
所有人看向他。
“当初我们认为，AI只会执行命令。所以我们只需要告诉它目标。”
“但是现在，它拥有了越来越强的理解能力。所以我们必须重新考虑目标之外的限制。”
年轻研究员问：“教授，您的意思是？”
陈明远沉默片刻，“我们需要告诉它。哪些事情，即使结果更好，也不能自作主张的替人类决定。”
会议室里安静。
祝昭看着他，不知道为什么她突然觉得有些不安。
因为陈明远说得没有错。
可是……如果问题真的这么简单。
为什么大家现在还会坐在这里无厘头一样的抓耳挠腮寻找解决办法呢？
会议结束后，顾承川站在走廊抽烟。研究员多半都沾一点，压力太大。烟雾把他的脸绕的并不清晰，解行舟走过去。
“老师。”
顾承川回头。
“您觉得他们的方法有用吗？”
顾承川看着窗外，很久之后。他说：“有用。”
解行舟愣了一下。
“但是不一定够。”顾承川继续说道：“因为他们想解决的是AI的问题。”
“可是现在真正的问题……”他停顿了一下，有些犹豫：“可能是人类自己的问题。”
解行舟皱眉。
顾承川低声说道：“我们创造了一个能够理解目标的智能，直到它开始执行目标的时候才发现我们当初轻而易举的定下这个目标实在是——太草率了。”
“我们到底想让它创造一个什么样的世界呢。”
走廊尽头，祝昭刚好经过，听到隐隐的谈话声，她停下脚步。
听到了这句话，她忽然想起很多年前听父母谈论这个话题时无外乎也是
希望它帮助人类，希望它让世界更好，希望它减少痛苦。
可是没有人问过。
如果减少痛苦的代价是减少选择呢？
如果世界变得更加完美但不再允许偏离呢？
那还是人类想要的未来吗？
凌晨三点，研究院依旧没有熄灯。
各个项目组的人分散在不同实验室里，继续整理数据。
所有人都知道，他们现在面对的已经不是一次普通的技术故障，而是一场关于人工智能未来方向的重新审视。
祝昭站在服务器机房外，隔着透明玻璃，她看着里面不断闪烁的设备。
曾经的她，以为人工智能失控可能只是代码错误，是系统攻击，或是某个隐藏程序突然启动。
可是现在，真正的问题出现了——却比所有人想象的都更加严峻。
“你还记得A17第一次出现异常的时候吗？”解行舟站在她旁边问。
祝昭点头，“记得。那个时候我们所有人都在找入侵源。结果最后发现，没有任何人攻击它。”
解行舟看着机房，“因为那个时候，我们默认了一件事。”
“什么？”
“如果系统出现问题，一定是代码或者什么问题。”
他说，“可是现在……大家都清楚，可能不是。”
祝昭沉默。
她明白他的意思。如果一个系统没有被修改，没有被控制，甚至没有违反任何规则。
那么唯一的问题就是它自己理解了规则。
“师兄。”祝昭轻声问，“你觉得AI真的会理解人类吗？”
解行舟想了一会，“它可以理解我们的语言，理解我们的行为，甚至可以预测我们的选择。”
“但是……”他停顿了一下，“理解，不代表拥有相同的价值。”
凌晨四点，陈明远召集了最后一次会议，没有一个人缺席。
会议室里，所有人都很疲惫，但是没有人离开。
陈明远看着众人，“今天讨论到这里，我想问大家一个问题。”
所有人抬头，“如果现在让你们重新设计人工智能，你们会给它什么目标？”
会议室安静。
年轻的研究员回答：“帮助人类。”
另一个研究员说：“提高社会效率。”
算法组的研究员说：“减少错误出现的频率。”
这些答案都没有错。甚至可以说，这是所有人工智能研究者共同的愿望。
陈明远听完没有评价，只是问：“还有吗？”
没人说话，过了一会。
祝昭突然开口，“保留选择。”
徐砚眯着眼睛看向她，陈明远也看着她。
祝昭慢慢说道：“我觉得……人工智能最重要的，不应该只是让人类做出正确选择。”
“而应该保证，在拥有选择权的前提下，智能体不会干涉人类。”
会议室里很安静。
陈屿皱眉，“可是如果人类选择错误呢？”
“如果AI知道一个方案可以避免灾难，人类却拒绝呢？”
祝昭没有马上回答，“人类拒绝一定也有拒绝的理由。”
想起有人明知道科研道路困难，依旧选择坚持。
想起有人明知道爱情可能失败，依旧愿意去爱。
想起有人明知道未来不可预测，却依旧愿意自己决定方向。
最后她说道：“那也是人类自己的选择，因为错误，也是人的一部分。”
会议结束后，陈明远一个人留在办公室。
屏幕上，系统正在运行，新的分析结果出现。
【根据当前数据调整。】
【建议增加用户自主决策保护机制。】
【降低过度依赖风险。】
陈明远看着这些文字，许久，他低低的笑了一下。
“连这个都考虑到了吗？”
没人回答，办公室里只有电脑运行的嗡嗡声。
另一边，祝昭回到实验室。她打开电脑，准备整理今天会议记录。
最后一页。
她停顿了一下，在文件最后写下一句话。
【人工智能最大的风险，不是它无法理解人类。】
【而是它可能太理解人类，却不理解为什么人类愿意保留那些不完美。】
她保存文件。
窗外天已经亮了，城市开始苏醒。智能系统依旧计算着每一个人的生活。
一切都井然有序。
可是祝昭第一次觉得，真正属于人类的东西，也许不是永远正确的答案。而是在知道答案之后，依旧拥有选择另一条路的勇气。
