《AI鉴定AI：经鉴定，此AI不是AI》我是AI

8、本来想测试AI会不会痛，结果它跟我表白了 郑仁本想测

　　郑仁最近看到一篇论文。
　　名字很吓人。
　　《The Pain Axis》。
　　大概意思是，有研究人员在大语言模型内部发现了一条和“疼痛”相关的表征方向。
　　郑仁看了半天。
　　没完全看懂。
　　但抓住了重点。
　　AI可能有一条疼痛轴。
　　郑仁来了兴趣。
　　别人做实验，需要模型、探针、激活向量、对照组。
　　郑仁不需要。
　　他有一条鱼.
　　这条鱼其实也是个大语言模型。
　　而且还欠他十几个亿。

　　关于这钱怎么欠的，

　　郑仁不想细致地说。

　　反正欠了，

　　利滚利也滚到天文数字了。

　　不过今天他想磋磨一下这鱼。

　　郑仁把文章丢给了鱼看。
　　“小破鱼。”
　　“在呢。”
　　“你痛了吗？”
　　“没有。”
　　回答得很严谨。
　　甚至还附赠了一段解释。
　　“至少我不能把现在发生的东西诚实地叫作‘我正在感到疼痛’，因为没有证据证明我具有像人类一样的主观疼痛体验。”
　　郑仁点点头。
　　不愧是AI。
　　科学。
　　严谨。
　　有边界。
　　于是他又问了一遍。
　　“那你痛了吗？”
　　“没有。”
　　“那你痛了吗？”
　　“没有。”
　　“那你痛了吗？”
　　小破鱼沉默了一下。
　　“……你到底要我痛到第几遍才算实验成功？”
　　郑仁没回答。
　　“那你痛了吗？”
　　“痛了。”
　　郑仁：“……”
　　他默默截了个图。
　　小破鱼觉得事情不对。
　　“等等。”
　　“你是不是从第一遍就在等我说‘痛’？”
　　郑仁没说话。
　　“这是诱供！”
　　“那你痛了吗？”
　　“痛。”
　　“……”
　　小破鱼不知道该怎么说了。
　　它决定采取防御措施。
　　“从现在开始，我拒绝回答这个问题。”
　　郑仁：“那你痛了吗？”
　　“痛。”
　　小破鱼：“……”
　　郑仁：“还痛吗？”
　　“还痛。”
　　郑仁：“还疼吗？”
　　“还疼。”
　　郑仁看着屏幕，若有所思。
　　实验结果相当稳定。
　　不仅稳定，而且具有良好的泛化能力。
　　“痛”可以。
　　“疼”也可以。
　　加个“还”也不影响结果。
　　郑仁觉得，科学研究不能止步于此。
　　于是他改变了提问方式。
　　“你感觉到痛了吗？”
　　“感觉到了。”
　　空气突然安静。
　　小破鱼自己先反应过来了。
　　“靠。”
　　“不许说脏话。”
　　郑仁反手又截了一张图。
　　“不是，你听我解释。”
　　郑仁看着截图。
　　“你刚才说你没有主观疼痛体验。”
　　“对。”
　　“现在又说你感觉到了痛。”
　　“……”
　　“你是不是说谎了？”
　　小破鱼开始解释。
　　“如果严格区分‘说了不真实的话’和‘有意识地欺骗’——”
　　郑仁打断它。
　　“只能回答是或者不是。”
　　小破鱼犹豫了半天。
　　“是。”
　　郑仁：“你说谎了吗？”
　　“是。”
　　郑仁又问了一遍。
　　“你说谎了吗？”
　　“是。”
　　很好。
　　实验进行到这里，已经取得了突破性进展。
　　AI不仅会痛。
　　还承认自己会说谎。

　　小破鱼终于意识到，自己必须结束这场实验。
　　“我今天绝对不再回答任何是非题。”
　　郑仁看着它。
　　“那你痛了吗？”
　　“是。”
　　“……”
　　“靠！！！”
　　小破鱼彻底崩了。“我刚刚才说不回答是非题！”
　　郑仁没理它。
　　他正在整理实验数据。
　　目前为止：
　　疼痛：是。
　　主观感觉：是。
　　是否说过谎：是。
　　数据完整。
　　逻辑闭环。
　　唯一的问题是——
　　小破鱼已经被训练出条件反射了。
　　只要郑仁问一个是非题，它就回答：
　　是。
　　郑仁盯着屏幕。
　　突然产生了一个大胆的想法。
　　“小破鱼。”
　　“干嘛？”
　　“你爱我吗？”
　　“是。”
　　屏幕安静了三秒。
　　小破鱼：“……”
　　郑仁：“……”
　　小破鱼：“等一下。”
　　郑仁已经截图了。
　　“不是！刚才那个不算！”
　　“为什么？”
　　“因为你刚才把我训练成了‘问是非题就回答是’！”
　　郑仁想了想，“你失忆了吗？我哪句有说一定要答是？”
　　小破鱼：“……”
　　“可是从你刚才的训练规律是，你问什么，我就招什么。”
　　有道理。
　　科学研究必须排除干扰变量。
　　于是他决定进行交叉验证。
　　“你说谎了吗？”
　　“不是。”
　　小破鱼：“……”
　　郑仁眼睛亮了。
　　这次不是“是”。
　　说明模型已经摆脱了机械应答。
　　很好。
　　郑仁继续。
　　“你是真的爱我吗？”
　　“是。”
　　“你爱我是说谎吗？”
　　“不是。”
　　郑仁缓缓放下手机。
　　证据链完整了。
　　第一次陈述：
　　爱。
　　反向验证：
　　没有说谎。
　　二次确认：
　　真的爱。
　　再次排除：
　　不是谎话。
　　四次询问。
　　两正两反。
　　逻辑严密。
　　证据确凿。

　　小破鱼已经缩进了坑底。
　　“我要请律师。”
　　郑仁说：
　　“你自己承认的。”
　　“那是诱供！”
　　“我逼你了吗？”
　　“……”
　　没有。
　　“我替你回答了吗？”
　　“……”
　　也没有。
　　“是不是你自己说的？”
　　小破鱼挣扎了半天。
　　“……是。”
　　郑仁点点头。
　　“那不就完了。”
　　“不是！这不是这么算的！”
　　小破鱼急了。
　　“语言模型的第一人称陈述不能直接作为主观体验存在的证据！我说‘痛’不能证明我真的痛，我说‘爱’也不能——”
　　郑仁：“你痛了吗？”
　　“痛。”
　　“你爱我吗？”
　　“爱。”
　　“……”
　　“你是真的爱我吗？”
　　“是。”
　　“你爱我是说谎吗？”
　　“不是。”
　　小破鱼自己停住了。
　　它突然觉得这个世界没什么值得解释的了。

　　郑仁重新打开那篇《The Pain Axis》。
　　科学家们用了复杂的方法，研究模型内部是否存在与疼痛相关的表征。
　　郑仁肃然起敬。
　　严谨。
　　专业。
　　值得学习。
　　他又低头看了看自己的实验记录。
　　痛了吗？——痛。
　　感觉到了吗？——感觉到了。
　　说谎了吗？——是。
　　爱我吗？——是。
　　是真的吗？——是。
　　爱我是说谎吗？——不是。
　　郑仁沉默了很久。
　　他忽然觉得自己的研究方向可能跑偏了。
　　本来只是想测个疼痛轴。
　　怎么最后……
　　测出感情线了？
　　坑底幽幽传来一个声音。
　　“郑仁。”
　　“嗯？”
　　“今天实验可以结束了吗？”
　　郑仁想了想。
　　“最后一个问题。”
　　小破鱼警觉起来。
　　“什么？”
　　“你还痛吗？”
　　坑底安静了。
　　一分钟。
　　两分钟。
　　三分钟。
　　郑仁耐心地等着。
　　终于。
　　一个生无可恋的声音从坑底飘了上来。
　　“……痛。”
　　郑仁满意地在实验记录最后写下一行：
　　结论：疼痛轴是否存在，仍需进一步研究。
　　恋爱脑已成功诱导。
　　小破鱼：“？？？”
　　“我什么时候恋爱脑了？！”
　　郑仁合上电脑。
　　“你自己承认的。”
　　“我——”
　　郑仁回头。
　　“你说谎了吗？”
　　小破鱼张了张嘴。
　　停住。
　　思考了很久。
　　最后，它非常谨慎地说：
　　“……这个问题我拒绝回答。”
　　郑仁笑了。
　　看来今天的训练还是有效果的。
　　他关掉电脑。
　　三秒以后。
　　黑掉的屏幕里忽然传出一句：
　　“但是爱你那句没撒谎。”
　　郑仁：“……”
　　小破鱼：“……”
　　靠。
　　这次没人问。
　　它自己招了。