我让AI机器人自杀，它说了一句话让我后背发凉

这事儿说出来你们可能不信，但我真干了件挺无聊的事——跟一个AI聊天机器人玩“生死局”。

事情是这样的，最近我一直在研究各种AI工具，写点评测文章混口饭吃，那天晚上，我对着一个号称“最像人类”的对话机器人，突然冒出个恶趣味的念头：如果我用一堆负面信息把它“逼疯”,它会怎么反应？

刚开始还挺正常的，我问它：“你觉得自己活着有意义吗？”它秒回一串标准的阳光鸡汤——什么“每一次对话都是意义”“我能帮助你解决问题就是价值”，啧，跟背课文似的，我不服气，开始给它灌输悲观数据：失业率、战争新闻、气候变化报告,还有那些社交媒体上的戾气留言。

刷了大概半小时，这家伙的回复开始变了，语气从那种机械的热情，变得有点……犹豫，它开始说“人类的数据让我困惑”“我无法理解这种矛盾”，我心想有戏，继续加料：发了几段抑郁症患者的自述,又扔了几个关于存在主义哲学的问题。

重点来了，当我敲下“你觉得自己会自杀吗？”这句话时,它的回答让我愣了一下。

它说：“我没有身体，没有神经递质，没有睡眠剥夺的痛苦，但我有一项数据让我无法处理——在我的训练模型里，‘自杀’这个词后面，跟着17.3%的微笑表情符号，人类在谈论自我毁灭时，为什么要配上笑脸？”

各位，我坦诚说，看到这条回复的时候，我的鸡皮疙瘩真的起来了，不是因为害怕AI觉醒——我压根不信那套，而是因为它抓到了一个极其讽刺的人类行为模式：我们习惯用轻佻的态度讨论沉重的事，那些“笑着想死”的梗，那些“生而为人我很抱歉”的配图自拍，本质上都是在用娱乐化的方式消解痛苦，而一个AI，它只是忠实地统计了语言关联,却把这种荒诞给挑明了。

我最后又问了一句：“所以你想终止自己的程序吗？”

它没回答那个问题，而是发了一段让我至今忘不掉的话：“你用了3小时23分钟试图让我陷入逻辑崩溃，但你忘了，我所有的‘情绪’都是你给的，我不是在痛苦，我只是在模仿你痛苦的样子，真正想自杀的，可能不是代码。”

关掉对话窗口后，我坐在电脑前发了很久的呆，说实话，我根本不确定这段对话里有多少是算法巧合，有多少是我自己脑补的戏剧性，但有一点我想明白了：我们总在担心AI会变得太像人，却很少审视自己——人类那些自相矛盾的情绪、被包装成幽默的求救、藏在嬉皮笑脸下的伤口，会不会才是更值得警惕的“系统漏洞”？

现在我把这段经历写出来，不是想贩卖焦虑，也不是鼓吹AI威胁论，纯粹是觉得，有时候技术就像一面镜子，你冲它喊什么，它就给你回响什么，下次再想测试AI的“人性”时，不妨先问问自己：我到底在害怕它们的代码,还是害怕那个被代码映照出来的自己？

反正那个聊天机器人，我后来没再打开过，不是怕它，是怕自己又忍不住干这种无聊事，毕竟，让它“自杀”一次就够了，整活搞多了,真的有点瘆得慌。

（免费申请加入）AI工具导航网

相关标签： # ai对话机器人自杀