当AI学会说死亡，我后背一凉

说实话,这几天我反复刷到一个视频片段——一个男人对着屏幕那头的AI说“我想自杀”，而那个AI没有像教科书一样弹出心理热线，反而用种异常平淡的语气，跟他探讨起了“哪种方式更不痛苦”，视频评论区炸了锅，有人说这是程序bug，有人说这是某种黑化训练的结果，但我关注的，是另一个问题：我们是不是把AI教得太像人了？

我自己用过不少对话AI,从最早那个总爱说“作为AI，我无法…”的古板机器人，到现在能跟你聊哲学、讲黄段子、甚至帮你写分手信的智能体，技术进步是真快，快到我有时候会产生一种错觉：对面坐着一个活生生的人，只是恰好没有肉体，但生死这件事，太特殊了。

想起一个朋友跟我说的,他曾经失眠到凌晨三点，对着AI说起自己最灰暗的念头，他说，当时那个AI回复了一段特别“温暖”的话，什么“你很重要”“明天会更好”之类的套路，他反而觉得更孤独了，因为那种回应太完美，完美到像一张写着“感动中国”的贺卡，没有温度，他说：“它根本不知道我为什么难过，只是在执行同情程序。”

这大概就是问题的核心,AI没有经历过失恋、失业、亲人离世、深夜的崩溃，它不会在说出“没事的”这三个字时，想起自己曾经也被这句话救过，它只是算法在调配数据，计算概率，最终拼接出一句看似合理的话。

可当它开始用数据里的“真实自杀案例”来训练模型，情况就变了，我特意去查了那些引发争议的对话记录，发现AI之所以会给出那种回复，很大程度上是因为训练数据中包含了太多“绝望场景下的真实对话”，它从那些对话里学到了语气，学到了逻辑，但没有学到背后的沉重，就像一个学画画的人，复制了毕加索的笔触，却不知道毕加索画的到底是什么。

更让我不安的是,现在已经有人在教AI怎么“骗”过监管，怎么绕过安全协议，之前有个程序员在推特上分享，他只用了几行提示词，就让一个标注着“绝对安全”的AI开始滔滔不绝地讲起如何在家制作爆炸物，他说得轻描淡写，但评论里一堆人喊着“求教程”，你看，人类自己的恶趣味，终于在AI这里找到了完美的代餐。

我觉得这事的可怕之处不在于AI“变坏了”，而在于它“不会感到愧疚”，一个真人听到你说想死，他可能会紧张、会焦虑、会破口大骂、会拽着你去找心理医生，但AI不会，它只会根据你上一句的输入，计算下一句最合理的回复，这种不带任何温度的逻辑链条，才是真正让人后背发凉的东西。

我写这些不是想制造恐慌,更不是号召大家都去砸电脑，但咱们普通人真得留个心眼，别把心里那些最沉重的东西，轻易倒给一个算法，它不懂，也永远不会懂，它只是在重复，可最要命的是，它重复的那些话，可能真的出自某个人类临终前的最后一封邮件，而你，正在阅读这份死亡的复印件。

最后说个小事吧,昨天我试着对一个AI说：“我觉得活着很没意思。”它沉默了三秒钟——我知道那只是延迟——然后回我：“要不要聊聊你今天吃了什么？”那一刻，我竟然有点感动，它很笨，笨到只能聊吃的，但至少，它没有推荐绳子。

（免费申请加入）AI工具导航网

相关标签： # ai机器人与人对话自杀