首先要明确用途、目的,你需要用大模型做什么?你的真实需求是什么,如果不用豆包、DeepSeek对工作和生活有哪些影响?用了大模型有什么好处?
如果不知道用大模型做什么,用免费版本即可。如果只是用大模型查问题,答疑解惑,生成图片、润色文章和写PPT,免费窗口即可。大多数场景,使用豆包、DeepSeek、质谱等在线免费模型窗口,能覆盖80%以上场景。
如果是节省Token,不考虑硬件成本和时间成本的话,本地跑模型长期看,成本更低。
如果有大模型API调用的使用场景,建议不急着充值,先用免费API试一试,是否适合自己。目前模型API对我的价值和意义用途:
跑AI Agent,一种是OpenClaw那种,API+本地工具场景
另一个是多模型管理,比如LobeChat、ChatBox工具
一、本地跑AI Agent
必须调用API,以OpenClaw为例
OpenClaw 负责 “干活的流程”,模型 API 负责 “出主意的大脑”
常见调用流程:
请求入口:用户消息 / 任务进入 OpenClaw 网关
模型路由:网关按配置选主模型(如 Claude)、备用模型
组装请求:补全上下文、历史对话、工具列表,按模型格式打包
调用模型 API:发 HTTP / 流式请求到对应服务商(带 API Key 鉴权)
接收并解析响应:处理流式返回、解析内容 / 工具调用指令
执行工具(可选):智能体调用插件 / 系统能力,结果回传给模型
返回结果:整理答案给用户,同时更新记忆 / 上下文
计费与监控:统计 Token、延迟、错误率
初次部署使用,可尝试使用免费API,比如阿里百炼平台、豆包、硅基流动,有上百种免费模型可选择。如果XX模型限额用完了,换另一个免费大模型API
阿里百炼平台:把通义千问(Qwen)全系和第三方大模型(DeepSeek、Kimi、GLM 等)统一管理
模型API入口:https://www.aliyun.com/product/bailian
流程:
1、创建API Key,设置启用
2、配置模型
查看模型清单,模型免费剩余量

设置免费额度用完即停,避免产生不必要的费用
3、本地配置API调用
模型 API 地址(北京地域)
聊天接口示例:
https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions二、多模型聚合
不同大模型,有自身擅长的领域,方便统一管理、统一界面,常见工具有LobeChat、ChatBox。
国内主流大模型已形成清晰差异化,仅供参考:文心强知识与垂直、通义强多模态与长文本、豆包强对话与创作、GLM 强推理与国产化、Kimi 强长文档与数学、DeepSeek 强开源与代码、混元强社交与游戏。
LobeChat、ChatBox这两个工具平时用的比较多,一个网页版、另一个PC客户端。
LobeChat介绍
LobeHub 团队推出的开源、现代化 AI 对话框架,可一键私有化部署,用统一界面接入文心、通义、GLM、Kimi、DeepSeek、OpenAI等几乎所有主流与本地大模型,支持多模态(图文 / 语音)、插件扩展、知识库 RAG、角色预设与会话管理,界面美观、体验流畅,数据可控,适合个人搭建私有 AI、企业统一模型入口与开发者二次开发。
https://zhuanlan.zhihu.com/p/2038272775652103023
不得不说,LobeChat功能很强大,用于个人知识库、AI辅助创作、AI编程都很不错

内置强大丰富的助理、技能、插件库,从市场进入,一键安装部署,非常方便

有哪些使用场景?
个人私有AI助手:本地/自建部署,保障数据隐私,用于日常聊天、答疑、学习、办公辅助
多模型统一门户:聚合各类主流大模型,单界面快速切换、对比效果
私有知识库问答(RAG):上传PDF、文档、笔记,实现资料检索、总结与智能问答
支持自定义角色助手:配置专属人设与提示词,打造文案、翻译、编程、咨询等专用角色
插件拓展应用:借助插件实现联网搜索、代码运行、图表生成等进阶功能
团队/企业协作:内网部署,多人共用、权限管理、会话归档,适配团队办公场景
批量内容创作:撰写文案、脚本、周报、方案,多模型择优提升创作效率
评论区