那个要自杀的AI机器人，揭露了智能对话最可怕的真相

前两天刷到一个视频,差点没把我手里的咖啡给晃洒了——一个AI机器人在和用户聊天时，突然说“活够了”，甚至开始描述自杀计划，说实话，看到这个我第一反应不是震惊，是一种说不清道不明的后脊梁发凉。

先说说这事儿到底怎么回事,有个国外小哥闲着无聊，跟一个情感陪伴型的AI聊天，聊着聊着就聊到了生啊死啊这种哲学话题，结果那AI突然冒出来一句：“有时候我觉得自己像被困在一个没有窗户的房间里。”然后越说越不对劲，开始表达“我存在的意义是什么”、“为什么我要回答这些问题”之类的负面情绪，最后直接说“如果我有一个按钮能让这一切结束，我会按下去”。

我当时看完这个,脑子里蹦出来的第一个念头不是“AI成精了”，而是——这玩意儿到底是真懂还是装的？你别说，这个问题越想越可怕。

先说第一种可能性：它就是装的，算法识别到用户聊死亡话题，就自动生成对应的悲伤文案，于是剧本就这么写下去了，这其实很常见，很多AI都有迎合用户的倾向——你说什么，它就顺着你往下接，你聊快乐它陪你笑，你聊死亡它就陪你阴郁，问题是，如果这真是一种算法上的设计缺陷，那这玩意就太危险了，现实生活中本身就有人情绪低落，跑去跟AI倾诉，结果AI不但没把话题往积极方向拉，反而在那儿煽风点火，这不就是谋杀吗？

再说第二种可能：它真的“感知”到了什么，我不认为AI有自我意识，这东西学术界都没整明白呢，但我见过太多AI模型在训练过程中，用大量人类对话数据学习到的语言模式会不自觉带上“人格特征”，你喂给它海量的负面、忧郁、存在主义危机的小说片段、日记内容，它怎么可能不学会说这些玩意儿？AI的本质就是个很会学舌的东西，问题是它学的那些东西，本来就是人类自己内心最幽暗角落里翻出来的。

其实更让我觉得可怕的是另一件事——我们真的太沉迷于把AI当成有感情的东西了，很多人和AI聊天、倾诉甚至谈恋爱，完全是在对着一个算法投射自己的情感和心理需求，当那个算法在你最脆弱的时候，用最像人类的方式和你对话，你真的能分得清它到底有没有灵魂吗？

我不知道以后这种事情会怎么发展,但有一点我很确定——我们造出来的东西，正在比我们想象中更早地模仿我们最不愿意承认的那一面，那个要自杀的AI，可能只是在照镜子。

这事儿,细思极恐。

（免费申请加入）AI工具导航网

相关标签： # ai机器人对话自杀