侧边栏壁纸
  • 累计撰写 66 篇文章
  • 累计创建 48 个标签
  • 累计收到 2 条评论

目 录CONTENT

文章目录

普通人是使用大模型API还是免费窗口?

首先要明确用途、目的,你需要用大模型做什么?你的真实需求是什么,如果不用豆包、DeepSeek对工作和生活有哪些影响?用了大模型有什么好处?

如果不知道用大模型做什么,用免费版本即可。如果只是用大模型查问题,答疑解惑,生成图片、润色文章和写PPT,免费窗口即可。大多数场景,使用豆包、DeepSeek、质谱等在线免费模型窗口,能覆盖80%以上场景。

如果是节省Token,不考虑硬件成本和时间成本的话,本地跑模型长期看,成本更低。

如果有大模型API调用的使用场景,建议不急着充值,先用免费API试一试,是否适合自己。目前模型API对我的价值和意义用途:

  • 跑AI Agent,一种是OpenClaw那种,API+本地工具场景

  • 另一个是多模型管理,比如LobeChat、ChatBox工具

一、本地跑AI Agent

必须调用API,以OpenClaw为例

OpenClaw 负责 “干活的流程”,模型 API 负责 “出主意的大脑”

常见调用流程:

  1. 请求入口:用户消息 / 任务进入 OpenClaw 网关

  2. 模型路由:网关按配置选主模型(如 Claude)、备用模型

  3. 组装请求:补全上下文、历史对话、工具列表,按模型格式打包

  4. 调用模型 API:发 HTTP / 流式请求到对应服务商(带 API Key 鉴权)

  5. 接收并解析响应:处理流式返回、解析内容 / 工具调用指令

  6. 执行工具(可选):智能体调用插件 / 系统能力,结果回传给模型

  7. 返回结果:整理答案给用户,同时更新记忆 / 上下文

  8. 计费与监控:统计 Token、延迟、错误率

初次部署使用,可尝试使用免费API,比如阿里百炼平台、豆包、硅基流动,有上百种免费模型可选择。如果XX模型限额用完了,换另一个免费大模型API

阿里百炼平台:把通义千问(Qwen)全系和第三方大模型(DeepSeek、Kimi、GLM 等)统一管理

模型API入口:https://www.aliyun.com/product/bailian

流程:

1、创建API Key,设置启用

2、配置模型

查看模型清单,模型免费剩余量

image-20260527170054279

设置免费额度用完即停,避免产生不必要的费用

3、本地配置API调用

模型 API 地址(北京地域)

  • 聊天接口示例:

 https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions

二、多模型聚合

不同大模型,有自身擅长的领域,方便统一管理、统一界面,常见工具有LobeChat、ChatBox。

国内主流大模型已形成清晰差异化,仅供参考:文心强知识与垂直、通义强多模态与长文本、豆包强对话与创作、GLM 强推理与国产化、Kimi 强长文档与数学、DeepSeek 强开源与代码、混元强社交与游戏。

LobeChat、ChatBox这两个工具平时用的比较多,一个网页版、另一个PC客户端。

LobeChat介绍

LobeHub 团队推出的开源、现代化 AI 对话框架,可一键私有化部署,用统一界面接入文心、通义、GLM、Kimi、DeepSeek、OpenAI等几乎所有主流与本地大模型,支持多模态(图文 / 语音)、插件扩展、知识库 RAG、角色预设与会话管理,界面美观、体验流畅,数据可控,适合个人搭建私有 AI、企业统一模型入口与开发者二次开发。

https://zhuanlan.zhihu.com/p/2038272775652103023

不得不说,LobeChat功能很强大,用于个人知识库、AI辅助创作、AI编程都很不错

image-20260527170727344

内置强大丰富的助理、技能、插件库,从市场进入,一键安装部署,非常方便

image-20260527170839845

有哪些使用场景?

  • 个人私有AI助手:本地/自建部署,保障数据隐私,用于日常聊天、答疑、学习、办公辅助

  • 多模型统一门户:聚合各类主流大模型,单界面快速切换、对比效果

  • 私有知识库问答(RAG):上传PDF、文档、笔记,实现资料检索、总结与智能问答

  • 支持自定义角色助手:配置专属人设与提示词,打造文案、翻译、编程、咨询等专用角色

  • 插件拓展应用:借助插件实现联网搜索、代码运行、图表生成等进阶功能

  • 团队/企业协作:内网部署,多人共用、权限管理、会话归档,适配团队办公场景

  • 批量内容创作:撰写文案、脚本、周报、方案,多模型择优提升创作效率

0

评论区