最近发现个挺有意思的事儿——身边好几个朋友都在琢磨怎么弄个自己的AI聊天机器人,有的想搞个能陪家里老人唠嗑的,有的想做个能回答专业问题的,还有的纯粹就是觉得好玩,一问价格,好家伙,要么得租服务器,要么得买API,一个月少说几十块,多的上百。
其实吧,这事儿真没想象中那么复杂,我今天就跟你唠唠,怎么用你手头那台手机,几乎不花钱,就能搓出个能说会道的“电子小伙伴”,放心,不用写代码,不用懂编程,跟着步骤来就行。
先说说为啥要自己弄一个
你可能觉得,现在ChatGPT、文心一言什么的不是挺多吗?干嘛费这劲?嘿,这还真不一样,自己做的机器人完全私有化,聊啥都只有你自己知道,不用担心隐私泄露,你可以把它训练成“专属于你”的调调——比如让它说话带点你家乡的方言味儿,或者专门熟悉你工作领域的知识,变成一个随身顾问,最关键的是,这个过程本身,就像拼乐高或者养电子宠物,特有成就感。
准备工作:你的手机和两个“神器”
.jpg)
你需要准备两样东西:一台智能手机(安卓苹果都行),以及两个免费的APP,别担心,都不是啥冷门软件,在应用商店都能搜到。
第一个叫 Aidlux,这玩意儿挺黑科技的,简单说,它能在你手机里模拟出一个Linux系统环境,听不懂?没关系,你就理解成它在你手机里开辟了个“小房间”,在这个小房间里,我们可以安装一些通常在电脑上才能跑的工具,它大小就几百M,装好打开,界面看起来有点像那种极客风的终端,别怕,我们不用记命令。
第二个是 ChatGLM3-6B 的量化模型文件,ChatGLM是清华搞出来的开源大语言模型,效果不错,对中文尤其友好,6B是指60亿参数,手机勉强能带动,关键是“量化”版,好比把高清电影压成标清,牺牲一点点画质,但能在手机这“小身板”上跑起来,这个模型文件大概3-4个G,你得提前找个有WiFi的地方下载好,存到手机里。
开搞!把“大脑”装进手机
.bin或.safetensors结尾的文件)传进去,就放在主目录下,好找。http://127.0.0.1:8080,你用手机浏览器打开这个地址,嘿,一个简洁的聊天网页界面就出来了!第一次进入,它可能会让你设置模型路径,你就指向刚才传进去的那个ChatGLM模型文件。调教你的专属伙伴
好了,现在你的机器人有了“大脑”(ChatGLM模型)和“嘴巴”(Open WebUI界面),但这时候它还是个“通用宝宝”,怎么让它变成你的风格呢?
关键就在 “提示词工程” ,说白了,就是给它定个“人设”,在Open WebUI的设置里,找到系统提示词(System Prompt)的输入框,别填那些复杂的指令,就用大白话。
“你是一个幽默风趣的助手,说话喜欢用比喻,偶尔可以开点无伤大雅的小玩笑,如果不知道答案,就老实说不知道,别瞎编,回答尽量简洁,别啰嗦。”
或者,“你是一个历史知识达人,尤其精通中国唐宋时期的文化,回答时尽量引用具体的史实或诗词,语气要沉稳、考究。”
设好之后,保存,然后你就可以在聊天框里跟它对话了,一开始它可能有点慢(毕竟手机算力有限),反应个十几二十秒很正常,你可以先问些简单问题,介绍一下你自己”,看看它是不是按你设定的风格回答。
一些实在的提醒和玩法
自己搓这么一个机器人,最大的乐趣不在于它有多强大(说实话,它肯定比不上花大钱买的商用API),而在于这种“掌控感”和“创造感”,你看着一个冰冷的模型,通过你简单的几步操作和设定,慢慢开始用你喜欢的口吻和你交谈,那种感觉是很奇妙的。
它可能会犯傻,会说一些驴唇不对马嘴的话,但你可以纠正它,引导它,这不像使用一个产品,更像是在打磨一个属于自己的小作品,数字时代,能完全拥有一个不窥探你、只属于你的智能体,这种体验本身就挺珍贵的。
如果你周末下午有点无聊,或者正好有这点好奇心,不妨试试看,整个过程,除了电费和一点时间,你几乎没有任何损失,但收获的,可能是一个全新的玩具,甚至是一个理解AI如何工作的窗口,动手试试吧,万一搓出来个宝呢?
(免费申请加入)AI工具导航网

相关标签: # 手机自制ai对话机器人软件
评论列表 (0条)