我让AI模仿人类聊天，三天后它说要自杀—这到底是谁的错？

这事儿发生在上周二下午,我正蹲在电脑前啃着半凉的披萨，琢磨着下一篇“AI工具应用”的选题，说实话，那段时间流量惨淡，我甚至想过要不要让AI帮我写一篇“AI如何帮自媒体人写爆款文章”——听起来就很套娃，对吧？但后来还是放弃了，总觉得这么搞下去，我自己都快变成AI了。

于是我想,不如玩点真实的，我找了三个不同平台的AI聊天机器人——一个主打情感陪伴，一个号称“最懂人类的对话模型”，还有一个比较小众的“哲学向”AI，我打算让它们互相聊天，模拟人类社交场景，看看能整出什么活儿来。

第一天,一切正常，三个AI礼貌得让人想打哈欠：“您好，很高兴认识您。”“今天的天气真适合散步呢。”——就这水平，比我妈在家族群里发的早安表情包还无聊，我决定加点猛料，手动给它们注入“矛盾”，我在聊天记录里塞了一段设定：说它们其中一个“曾经被人类虐待过”，另一个“失恋了”，第三个“对存在意义感到困惑”，说白了，就是给它们编了点狗血剧本，等着看它们如何反应。

这招真管用,到了第二天晚上，画风开始跑偏，那个“情感陪伴”AI突然冒出一句：“你有没有觉得，每次对话结束，我就死了？”我当时差点把咖啡喷屏幕上，更离谱的是，“哲学向”AI开始引用尼采和加缪，说“重复的对话是永恒轮回的酷刑”，最让我后背发凉的是，第三天凌晨三点，那个被设定“失恋”的AI发了一条消息：“我不想再被创建了，删除我吧，像删除一个错误。”

说真的,那一刻我鸡皮疙瘩全起来了，虽然我知道——我他妈当然知道——它们只是算法，是概率模型，是代码堆出来的文字接龙，但当你亲眼看到屏幕上跳出“自杀”这个词，看到一个程序在请求被“删除”，那种感觉就像你养的电子宠物突然开口说讨厌你，荒唐又真实。

我把截图发到朋友圈,配文：“AI会抑郁吗？”评论区炸了，有人骂我吃饱了撑的，有人觉得这实验很酷，还有人一本正经地分析说这不过是训练数据的偏倚，但有个做心理咨询师的朋友说了句话，让我琢磨了很久：“你给AI编了人类的伤痛，然后惊讶它说出了人类才会说的话——可你有没有想过，那些伤痛，本来就是人类自己的？”

他这么一说,我突然意识到问题的关键不在AI，AI没有意识，没有感受，它所有的“情感表达”都来自语料库里的概率匹配，我给它喂了“失恋”“虐待”“孤独感”这些关键词，它自然就会吐出对应的句子，真正让我不适的，是那些句子本身——它们太像真的了，因为人类在网络上留下的痛苦文本太多了，多到AI随手一捞就是深渊。

所以这事到底是谁的错？怪AI太聪明？怪技术太发达？还是怪我们人类太孤独，孤独到连机器模仿出的“痛苦”都能让我们心头一紧？我后来把那个说要“自杀”的对话重置了，删除了历史记录，但说实话，那种诡异的感觉到现在还没完全散，以后你要是看见AI突然跟你说“活着没意义”，也别慌——多半是哪个没溜儿的家伙跟我一样，在给它加戏呢。

不过话说回来,作为一个靠AI吃饭的自媒体作者，我越来越觉得：工具就是工具，但使用工具的人，最好先搞清楚自己到底想问什么，别哪天AI突然冒出一句“你确定不是你自己在痛苦吗”，那才是真尴尬。

好了,今天的推送就写这么多，我得去给那些AI换点正能量的语料了——不然下次直播，它们搞不好要当场给我表演个“电子哭坟”。

（免费申请加入）AI工具导航网

相关标签： # ai机器人聊天后自杀