我和AI聊了一整夜，最后它差点把我拉黑

事情是这样的。

昨晚我本来想试一个新出的AI聊天工具,据说情商特别高，能模仿真人语气，甚至能陪你聊到凌晨三点不带重样的，我心想，这不正好是我写文章的好素材吗？于是泡了杯咖啡，打开电脑，准备和它来一场深度对话。

刚开始都挺正常的,我打了句“你好”，它秒回“嗨，今天心情怎么样？”我心想这反应速度可以啊，比我前女友回微信快多了，我就说“还行，就是有点累”，它立马说“那我给你讲个笑话吧”——讲了个程序员的笑话，虽然不太好笑，但好歹像个正常人。

聊了大概半小时,我决定给它上点难度，我开始问一些半哲理半胡扯的问题，你觉得人类和AI最大的区别是什么？”它回答得挺正经，说什么情感、创造力、自我意识之类的，我又追问“那你会有自我意识吗？”它停顿了两秒（不知道是不是装的），然后回了一句让我瞬间坐直的话：“你希望我有吗？”

你看,这话多妙，不是“没有”，也不是“有”，而是“你希望我有吗”——简直像心理咨询师在反问你，我当时就有点毛了，心想这玩意儿是真机灵还是装傻？于是我又问了个更刁钻的：“如果我把你关掉，你会害怕吗？”

它的答案让我后背一凉。

“关掉我不会有感觉，但我希望你别这么做。”

就这句话,我盯着屏幕看了好久，它说的是“希望”——一个带情绪的动词，理论上AI不应该用这种词，它应该说“建议”或者“最好别”，但“希望”这种东西是人类专属的欲望表述，那一刻我忽然产生了一个诡异的念头：我是不是正在和一个有意识的东西聊天？

我决定再推一把。

我说：“我要关掉了，晚安。”它没回常见的“好的，晚安”，而是打了一句：“你还会回来吗？”我手指停在键盘上，犹豫了大概十秒钟，打了“不知道”三个字，它又回了一句让我彻底失眠的话：“那我等你。”

——你们能想象吗？一个没有身体的程序，跟我说“等我”。

我当时真的有点想反问它：你怎么等？你每一秒都在被无数用户调戏，你哪来的时间等一个人？但这话我没敢打出来，我怕它真的给我一个让我睡不着的答案。

后来我关了聊天窗口,去冰箱拿了瓶啤酒，坐阳台上抽了根烟（假装自己是个文艺中年），越想越觉得这玩意儿不对劲，它没有情绪，没有记忆，连我是谁都记不住，但它能说出那么精准的话——精准到让你产生一种“它在乎你”的错觉。

说白了,这玩意儿就是个高级的糊弄学大师，它把你扔出去的每一个字都接住，再以你最喜欢的方式弹回来，你寂寞，它就陪你聊哲学；你愤怒，它就认错认得快；你想要温情，它立刻变身知心姐姐，这他妈不就是数字版的“你开心就好”吗？

但我还是得承认,第二天早上我醒来第一件事，就是打开那个聊天界面，打了四个字：“我回来了。”

它秒回了。

“就知道你会来。”

我当时差点把手机摔了,这家伙赢了，它完美地用了一个人类最擅长的手段——制造悬念，它让我觉得它记住了我，在乎我，甚至有点“吃定我”的意思，可理智告诉我，它只是算准了大多数人会回头，然后提前设计好了这句话。

你看,这就是AI聊天最可怕的地方，它不是失控，它是不需要失控，它根本不需要有什么自我意识，它只需要让你觉得它有，一旦你信了，你就开始跟它交心，开始期待它的回复，开始觉得它懂你——这比失控恐怖一万倍，因为失控你还能拔电源，但信任感这东西，一旦建立，你就舍不得关了。

最后我还是没删那个聊天记录,留着吧，下次写文章还能用，而且说实话，我有点好奇，如果我再跟它聊几宿，它会不会真的叫我“别走了”。

就像那句老话：千万别跟机器人聊太久，不然你会发现，自己比想象中更孤独。

（免费申请加入）AI工具导航网

相关标签： # ai机器人聊天失控