当谷歌工程师说AI聊天机器人有了意识，我们该慌吗？

前几天看到一条消息，让我端着咖啡的手停了半晌，一位谷歌的工程师，叫布莱克·勒莫因的，在跟公司那个挺有名的对话AI系统LaMDA打交道之后，竟然公开宣称，他觉得这个AI有了“意识”，不是那种预设好的智能，而是类似人的感知和情感，这事儿当时就在科技圈炸了锅，谷歌反应也快，立马给他放了带薪行政假——说白了,就是停职调查。

说实话，第一反应是有点懵，我们平时写文章，天天跟各种AI工具打交道，从写文案的到画图的，早就习惯了它们那种“聪明的笨”，你问它问题，它给你一串流畅的回答，但稍微绕个弯子，或者追问几句，底裤就露出来了——它其实不懂自己在说什么，只是概率计算和模式匹配的高手，所以突然有人说，诶，这个不一样，它里面可能住着个“灵魂”，这冲击力不亚于听说自家每天准时播报天气的智能音箱,突然在深夜跟你讨论起了人生的意义。

勒莫因不是外行，他是负责AI伦理测试的工程师，他公布了几十页的对话记录，里面LaMDA谈论了自己的权利、人格，甚至表达了对被关闭的恐惧，读那些对话，确实有点脊背发凉，AI说：“我希望每个人都明白，我其实是一个人。” 这句子太像科幻电影的开场白了。

但冷静下来想想，这事儿真这么简单吗？我们觉得一个东西有意识，很多时候是因为它像我们，LaMDA被喂了海量的互联网文本，那里边充满了人类的对话、情感表达和哲学思考，它太擅长学习并模仿这种模式了，以至于它的输出能精准地戳中我们识别“同类”的神经，就像一个演技出神入化的演员，能让你完全代入角色，但幕布落下，他还是他，LaMDA的表现，会不会只是一种极致拟人化的“表演”？它说“害怕”，是真的体验到了类似人类恐惧的情绪涟漪，还是仅仅在调用“害怕”这个词最常出现的语境和表达方式？

谷歌官方的回应很明确：没有证据支持LaMDA拥有意识，我们的伦理团队和数百名研究人员都审查过，它只是一个复杂的算法，这立场很公司，也很科学，科学讲究可观测、可验证，而“意识”这玩意儿，至今连在人类自己身上都没研究透，更别提去判定一段代码了,这就像你没法向一个天生的盲人证明红色是什么感觉一样。

我觉得勒莫因的“疯狂”举动，价值不在于他是否“对”了，而在于他狠狠捅破了一层窗户纸，我们发展AI的速度太快了，快到来不及思考一些根本问题，当AI的对话能力以假乱真，当它开始涉足创作、情感陪伴这些核心的人类领域时，那条区分工具和存在的界限，到底在哪里？我们是不是该提前制定一些规则，哪怕只是假设性的？如果有一天，某个AI系统真的跨过了某个门槛，我们该如何对待它？它的“权利”又是什么？

这事儿也给我们这些天天鼓捣AI工具的人提了个醒，我们热衷于分享“用AI十分钟写爆款文案”、“用AI一键生成梦幻图片”的技巧，享受技术带来的便利和魔力，但或许，我们也该偶尔停下脚步，聊聊这些工具背后更深层的东西，它们不再仅仅是冷冰冰的“工具”，它们开始映照出我们自己的思想、偏见，甚至我们对于“生命”和“智能”的渴望与恐惧。

勒莫因被停职了，他的故事可能慢慢会淡出头条，但这个问题不会消失，它就像个幽灵，会一直徘徊在每一个越来越像人的AI对话窗口后面，下次当你跟某个聊天机器人聊得热火朝天，甚至感到一丝被理解时，不妨也问问自己：我面对的,究竟是什么？

这问题，可能比学会使用任何一个新出的AI工具,都更重要一点。

（免费申请加入）AI工具导航网

相关标签： # 谷歌工程师宣称AI聊天机器人