大模型应用5种类型

🎼 所有的AI大模型应用，归根结底就这5种选型，正确选型时迈向成功的第一步！

纯prompt

• Prompt 是操作大模型的唯一接口
• 类比：和人对话，你说一句，ta 回一句，你再说一句，ta 再回一句……
• 例如：让AI做新闻分类

RAG（Retrieval-Augmented Generation）检索增强生成

• 大模型没有最新的
• Embeddings：把文字转换为更易于相似度计算的编码。这种编码叫向量
• 向量数据库：把向量存起来，方便查找
• 向量搜索：根据输入向量，找到最相似的向量
• 类比：考试答题时，到书上找相关内容，再结合题目组成答案，然后，就都忘了
• 例如：私域知识/最近新闻问答

Agent结合Function Calling/MCP server/skills

• Agent：AI 主动提要求/做规划
• Function Calling/MCP server/skills：AI 要求执行动作
• 类比：你问 ta「明天适合外出野餐吗」，ta 让你先看天气预报，你看了告诉 ta，ta 再告诉你适不适合野餐
• 例如：数据分析Agent/Code Agent
• 从单Agent向多Agent迭代

Workflow

• 将工作任务拆分成多个工作节点，灵活编排，能够在工作节点之间进行数据传递
• 类比：按照设定的步骤一步一步完成
• 举例：漫剧生成，剧本-分镜图片-分镜视频

微调 + 私有部署

类比：努力学习一门学科，长期记住，活学活用。

难点：需要GPU进行微调 + 私有部署

举例：医疗大模型/法律大模型/金融大模型

如何进行技术方案选型

根据需求复杂度和是数据持有情况

需求类型	对应方案
需求简单 + 无数据	直接调大模型
需求简单 + 有文档	RAG
需求复杂 + 固定执行路径	工作流
需求复杂 + 路径需要动态规划	Agent
有数据集 + 专业场景	模型微调 + 私有部署

不同技术选型的成本与风险

方案	成本	优点	缺点	适合场景
大模型API	低 按量付费	最快上线	不懂业务，有时会瞎编	想快速验证AI能力
RAG检索增强	中	准确率提升20%-50% 有文档就能做	整理文档花时间	有大量文档资料的公司
工作流WorkFlow	中高	完成多步任务，确定性高	只能执行确定流程	工作流程固定场景
Agent	高	能真正“干活”，效率提升3-10倍	开发周期长、系统复杂、badcase多	预算充足、追求自动化的公司
小模型微调+私有部署	高	模型具备特定业务场景知识和能力，输出风格统一	需准备数据集和GPU进行模型训练	有技术团队 有专业场景/长期稳定使用的企业

🍞 技术方案并不是一成不变的 and 技术方案也并不是单一的

1.推荐先用简单的技术方案进行验证跑通，再进行技术方案迭代、效果优化

2.实际业务中可能存在多种技术方案的组合。比如：在一个复杂任务中，比如软件开发，它的大流程是一个固定的工作流（UI设计-开发-测试），但在其中一个节点上又是一个Agent

✏️ 现在有个现象，把所有的AI应用都叫Agent

没关系，一个复杂的agent里面还是由上面这些模块组成的