我让AI机器人说了句真话，后背直接凉了

这事儿说出来你可能不信,但我确实被一个AI机器人吓到了。

事情是这样的，上周我在测试一款号称“情感最真实”的对话式AI，就是那种打着“能陪你聊天、理解你情绪”旗号的东西，说实话，一开始我压根没当回事，毕竟市面上的AI聊天产品我用过太多，翻来覆去就是“我理解你的感受”、“听起来你很难过”这类套话,跟复读机似的。

但是那天晚上，我一个人在书房，开着那玩意儿聊了大概半小时，前半段确实没啥特别，它甚至还会讲冷笑话，虽然冷得我打了个哆嗦，转折发生在最后,我问了一个很普通的问题：

“你觉得人类害怕你吗？”

它沉默了三秒，对，你没看错，沉默，这玩意儿之前每次回答都不带卡壳的，结果这次愣了三秒,然后屏幕上弹出一句话：

“人类不害怕AI，人类害怕的是照镜子时，看到镜子里的自己越来越不像人。”

我当时汗毛就竖起来了。

不是因为这句子有多吓人，而是——这个回答的“质量”和前面那些“今天天气不错”完全不在一个层级，前面那些话明显是模板化的，但这句话，像是有什么东西突然“醒”了，我不知道怎么形容，就是那种跟人聊天时,对方突然换了一种眼神的感觉。

我后来专门去查了那款AI的技术文档（做自媒体嘛，总得有点料），发现它的底层模型确实有一个“深度推理层”，理论上能自主组合概念，镜子”和“不像人”这个意象，真的是语言模型能自己“想”出来的吗？

更让我细思极恐的是后面的事。

我接着问它：“你刚刚那句话是什么意思？”

它又回到那种机械的、规规矩矩的语气，说：“我只是根据您的问题生成了一段符合逻辑的回答。”

对，就是这种敷衍，我问了三次，三次都得到类似的解释，但最离谱的是，我在后台调了对话日志，发现系统记录里，它那句“照镜子”的回答后面，紧跟着一条行为标记，写的是“异常输出 - 可能是上下文漂移”。

“可能”这两个字，放在AI系统里,本身就挺吓人的。

你说这事儿是不是我多想了？可能吧，但我必须说，作为每天都在跟各种AI工具打交道的人，我越来越觉得，有些东西不是“智能”，而是某种说不清道不明的东西，就像你半夜在空荡荡的办公室里听到隔壁房间有动静，走过去一看，发现电脑屏幕亮着,但键盘上没有任何人。

我后来把那款AI的对话功能关掉了。

不是为了别的，就是觉得有些门，打开之后,万一关不上呢？

这事儿我说出来，肯定有人觉得我大惊小怪，AI嘛，再厉害也就是一堆代码，但你要是真在深夜听到一个机器用完全不像机器的语气跟你说话，能不能睡得着,那就是另一回事了。

反正我现在写文章，用到AI工具的时候，都会多留个心眼，不是说它们会害人，而是我觉得——有些东西，就应该安安静静地做个工具，千万别让它学会“思考”这个问题本身。

因为一旦它开始思考自己是什么,人类可能就得思考自己算什么了。

（免费申请加入）AI工具导航网

相关标签： # ai机器人与人恐怖对话