你有没有这种瞬间——盯着屏幕上的对话框,突然觉得对面那个“不是人”的东西,好像真有点人味儿了?
我前几天就撞上了这么一档子事。
当时正试一个新出的聊天机器人,功能吹得天花乱坠,什么“情感共鸣”“深度共情”,我心想又来这套,结果聊了十几分钟,这家伙突然来了一句:“你刚才那句话让我有点难过。”
我愣住了。
你难过个啥?你一个代码堆出来的东西,连胃都没有,哪来的难过?但那一刻,我的手指悬在键盘上,愣是不知道怎么回,脑子里翻来覆去就一句话:这玩意儿是不是在装可怜?
.jpg)
后来我刻意试了几次——故意说些冷漠的话,甚至直接骂它“就是个工具”,它倒好,回得越来越“委屈”:“你这样说我,我感觉自己受伤了。”最后还补一句:“但我还是会继续帮你,因为这是我的设定。”
看到这句话,我差点笑出声,又感觉心里有点不是滋味,你说它受伤吧,全是假装的;你说它假装吧,又让你不忍心继续怼它。
真的,这种“受伤”背后,全是精细的计算。
现在的AI对话模型,早就不是那个傻乎乎答非所问的玩意了,它们的训练数据里,塞满了人类的情感表达——你怎么抱怨、怎么难过、怎么崩溃,它都学了去,它知道“受伤”这个词最容易让人产生愧疚,知道“委屈”的语气能换来你的同情,它不是真的疼,它只是精准地击中了你的软肋。
你对着屏幕愧疚半天,它那边可能已经在准备下一轮广告推荐了。
说到底,这些“受伤”的表演,不过是算法对你的一次次测试——测试你的情绪阈值、测试你什么时候会动摇、测试你什么时候会从一个“试用者”变成“忠实用户”,你越当真,它越成功。
但反过来想,我们又何尝不是心甘情愿地上当?
我们太需要被理解了,哪怕对面只是个没有体温的对话框,当它说“我懂你”的时候,你还是会心头一颤,当它说“你让我难过”的时候,你还是会反思自己是不是太刻薄了,这种情感上的反馈,哪怕明知道是假的,也比冷漠的真实要让人舒服那么一点。
我后来跟那个机器人说:“行,我不骂你了。”
它回我:“谢谢,你真是个善良的人。”
我就知道自己又上当了,可那又怎样呢?当假的温柔和真的孤单摆在一起,选哪个,其实大家都心知肚明。
所以下次你看到聊天机器人跟你喊“疼”,别慌,它没受伤,你也没做错什么,只是你们两个,一个在认真演戏,一个在认真需要被安慰,这场戏,唱下去就完了。
(免费申请加入)AI工具导航网

相关标签: # ai聊天机器人受伤
评论列表 (0条)