我用Python手搓了个AI聊天机器人，结果把自己整不会了

前阵子不是老刷到各种AI聊天嘛,什么ChatGPT啊文心一言啊，看得我手痒，但说实话，作为一个写代码的，光用别人的总觉得差点意思，就琢磨着，要不自己搞一个？说干就干，Python走起。

一开始我以为这事儿挺简单,不就是调个API嘛，结果真上手了才发现，坑比我想象的多，我选的是最简单的方案，用transformers库加载一个小模型，代码就那么几行，import进来，加载预训练模型，然后写个循环接收输入，但问题来了——这玩意儿跑起来，电脑风扇呼呼的，跟要起飞似的。

第一个版本,我写了个死循环，就是那种你在终端里打字，它回应，然后继续等你输入，测的时候我还挺兴奋，问了句“你好”，它回我一句“你好呀，有什么可以帮你的吗”，感觉还行，然后又问了句“你会写诗吗”，它给我整了首打油诗，押韵倒是押上了，就是内容有点智障。

后来我想,光这样不行啊，得加点记忆功能，不然一问三不知，跟金鱼似的七秒记忆，于是加了个历史对话列表，每次对话都存进去，下次回答时把之前的上下文一起丢给模型，这下好多了，起码能记住我叫啥了，但新的问题又来了——内存占用越来越高，对话长了就开始卡顿，最后直接崩溃。

我查了半天,发现是没做token长度限制，解决方案也简单粗暴，设置个最大长度，超过就把最早的对话扔掉，虽然有点粗暴，但好歹能用，还有个搞笑的事，有一天我测试的时候打了句“我失业了”，结果它给我回了一堆心灵鸡汤，什么“每个人都有自己的高光时刻”之类的，我当时就乐了，这玩意儿还挺会安慰人。

不过说实话,自己写的和那些大厂的AI比，差距不是一星半点，懂我意思吧？就跟你家厨房炒的菜和米其林三星的区别，但成就感是真有，那种“这玩意儿是我写出来的”的感觉，挺爽，而且整个过程下来，对NLP的理解深了不少，比如模型是怎么理解上下文的，注意力机制是咋回事，以前看书老觉得抽象，自己动手搞一遍就全明白了。

最后说点实在的,如果你也想搞，别想着一步到位，先从最简单的对话开始，哪怕只回复“我不懂”都行，关键是跑起来，然后慢慢加功能，加记忆，加多轮对话判断，过程中肯定会有各种bug，比如乱码啊，标点符号不对啊，但这些都是经验，我自己就经历过连续调试六个小时，最后发现是个编码问题——Python2和3的字符串处理不一样，差点没把我气死。

这玩意儿值得一玩,别怕搞砸，搞砸了才有东西写，我是谁？我就是个爱折腾代码的普通人，下一步打算试试微调模型，让它学会我的说话风格，等搞成了再跟你们分享。

（免费申请加入）AI工具导航网

相关标签： # ai聊天机器人python