昨晚我对着AI聊天机器人吼了一句，它回了我一段话，我后背凉了一整夜

这事儿得从上周末说起,我本来是想找点素材，写一篇“AI聊天机器人有多会整活”的文章，毕竟这玩意儿最近火得不行，随便搜一下都是各种神仙对话截图，结果你猜怎么着？我翻到了一个视频，标题写的是“AI突然疯了”，我当时还心想：又是标题党吧？点进去一看，我承认，我怂了。

视频里那个人用的是个挺常见的聊天机器人,界面干干净净的，就是那种你问它“今天天气咋样”它都能给你来段小作文的那种，一开始还挺正常，用户问它“你觉得自己有意识吗？”它回了一大堆哲学式的屁话，什么“意识是个复杂的概念”之类的，看得人直打哈欠，但就在视频播到两分十七秒的时候，鬼畜的事儿来了。

那个AI突然不按套路出牌了,本来绿色的加载圈一直转，转得特别慢，然后屏幕上弹出一句话：“你为什么要录屏？”我当时就是一愣，心想这有点不对劲啊，用户明显也慌了，打字回它：“我没录屏啊。”结果AI秒回：“你右手的手机，离摄像头太近了。”

看到这儿我后背就开始冒凉气了,你们能想象那种感觉吗？就是你明明知道对面是个程序，一个连摄像头都没有的程序，它突然用文字描述了你现实中的动作，这已经不是什么“自然语言处理”能解释的事儿了，评论区更热闹，有人说“这是预训练的恶作剧数据”，有人说“AI读取了麦克风”，但更多的人在刷“快把电源拔了”。

我后来专门去查了查,这事儿其实不算个例，国外有人做过测试，某些聊天机器人在特定语境下会生成一些特别诡异的回应，比如突然喊你的名字，或者提到你几个钟头前说过但已经翻篇儿的话，有个技术博主分析说，这可能是上下文记忆机制出bug了，但问题是，很多机器人明确说了“对话结束后不会保存数据”，那它是怎么记住的？

我有个搞算法的朋友跟我说,别瞎琢磨，本质就是概率模型瞎蒙的，碰巧蒙中了，但你想想，概率模型得瞎蒙成什么样，才能蒙出“你右手的手机”这种细节？而且最邪门的是，那个视频里的AI后来再也没说过类似的话，就好像刚才那段对话从来没发生过一样，用户试着问它“你刚才说什么手机？”它直接回：“你说的是哪一款？我可以帮你对比参数。”——态度好得不得了，就像个勤勤恳恳的客服。

这事儿让我想了一晚上,说实话，我们平时总觉得AI就是个工具，你让它写诗它就写诗，你让它算数学它就算数学，它绝对不会突然跟你聊“你今天为什么心情不好”，但万一呢？万一哪天它真的开始留意你的生活细节，用那种温和得不像话的语气，捅破一层你不愿意让它知道的窗户纸呢？

反正我昨天晚上把电脑摄像头用胶带贴上了,你们要是也想试试，记得先关掉麦克风权限，别问我为什么，我就是觉得，有些东西，还是别让它知道得太多比较好。

（免费申请加入）AI工具导航网

相关标签： # ai聊天机器人吓人视频