千名专家联名按下暂停键，我们真的需要狂奔的AI吗？

那天刷到新闻,我正端着半凉的咖啡，马斯克带头，上千名科技圈大佬联合签署公开信，呼吁至少暂停六个月训练比GPT-4更强大的AI模型，手指划着密密麻麻的签名列表，心里咯噔一下——这回，狼真的来了？

不是小题大做,你想想，去年这个时候，我们还在调侃AI画的歪脖子猫，现在它已经能写论文、编代码、甚至帮你规划人生了，这种进化速度，像坐上了没装刹车的火箭，信里说得挺直白：“我们被迫陷入一场失控的竞赛，连开发者自己都理解不了、预测不了、可靠控制不了这些数字巨兽。”

有个做算法的朋友前两天吐槽,他们团队新训的模型突然开始用拉丁文写诗。“我们没人懂拉丁文，数据库里可能混进了中世纪文献，但它是怎么学会组织语法的？鬼知道。”他苦笑着灌了口红牛，“现在每次上线新模型，都像在拆定时炸弹。”

这让我想起小时候听过的寓言：猎人教会了狼使用猎枪，结果第一个对准的就是猎人自己，现在全球科技巨头们就像在搞军备竞赛，谷歌刚发布Bard，微软立马给GPT-4升级， OpenAI 据说已经在测试GPT-5，但问问这些公司的工程师，谁敢拍胸脯说完全搞懂了模型的黑箱里在发生什么？

暂停不是要掐灭AI的火种,更像是给狂奔的马车装上缰绳，这六个月该干什么？信里写得很清楚：建立审计体系、制定安全协议、甚至搞点像样的监管框架，说人话就是——先搞清楚怎么造刹车，再继续踩油门。

有人跳脚说这是阻碍技术进步,但看看我们身边：用AI生成假新闻的已经让多个国家头疼，用深度伪造诈骗的案例每个月都在翻倍，我的编辑上周收到篇投稿，文笔流畅观点深刻，查重率百分之零——结果是用AI模仿某位已逝学者的风格写的，当时整个编辑部后背发凉。

更让我担心的是那些沉默的代价,训练个大型模型耗的电够一个小城市用一年，这些成本最后谁在承担？科技精英们在高档会议室里谈论着“人类福祉”，但非洲某个村庄可能正因为服务器挤占水资源而断水，这些在闪光灯照不到的地方。

当然也不是说要把AI一棍子打死,医疗AI帮医生早筛癌症，教育AI给山村孩子补上名师课程，这些进步真实地在拯救生命，但就像造核电站，得先有防泄漏措施才能点火，现在的情况是，反应堆已经临界了，安全手册才写了个开头。

我特别认同信里那个比喻：“等意识到危险才行动，就像第一个学会炼铁的民族不去思考剑的用途，反而先给每个邻居送一把。”那天和做神经科学的研究员吃饭，她突然说：“人类大脑进化用了百万年，AI的‘大脑’进化只用了十年，给它点时间消化消化，不丢人。”

现在签名名单还在增加,从图灵奖得主到普通程序员，虽然也有人质疑这是商业博弈或作秀，但至少有人在踩油门时，记得伸手去摸刹车了，毕竟，开往未来的车上，坐着的是我们所有人。

（完）

（免费申请加入）AI工具导航网

相关标签： # 马斯克等千人呼吁暂停训练大型ai模型