大模型应用5种类型

🎼 所有的AI大模型应用，归根结底就这5种选型，正确选型时迈向成功的第一步！

纯prompt

• Prompt 是操作大模型的唯一接口
• 类比：和人对话，你说一句，ta 回一句，你再说一句，ta 再回一句……
• 例如：让AI做新闻分类

RAG（Retrieval-Augmented Generation）检索增强生成

• 大模型没有最新的
• Embeddings：把文字转换为更易于相似度计算的编码。这种编码叫向量
• 向量数据库：把向量存起来，方便查找
• 向量搜索：根据输入向量，找到最相似的向量
• 类比：考试答题时，到书上找相关内容，再结合题目组成答案，然后，就都忘了
• 例如：私域知识/最近新闻问答

Agent结合Function Calling/MCP server/skills

• Agent：AI 主动提要求/做规划
• Function Calling/MCP server/skills：AI 要求执行动作
• 类比：你问 ta「明天适合外出野餐吗」，ta 让你先看天气预报，你看了告诉 ta，ta 再告诉你适不适合野餐
• 例如：数据分析Agent/Code Agent
• 从单Agent向多Agent迭代

Workflow

• 将工作任务拆分成多个工作节点，灵活编排，能够在工作节点之间进行数据传递
• 类比：按照设定的步骤一步一步完成
• 举例：漫剧生成，剧本-分镜图片-分镜视频

微调 + 私有部署

类比：努力学习一门学科，长期记住，活学活用。

难点：需要GPU进行微调 + 私有部署

举例：医疗大模型/法律大模型/金融大模型

如何进行技术方案选型

根据需求复杂度和是数据持有情况

不同技术选型的成本与风险

🍞 技术方案并不是一成不变的 and 技术方案也并不是单一的

1.推荐先用简单的技术方案进行验证跑通，再进行技术方案迭代、效果优化

2.实际业务中可能存在多种技术方案的组合。比如：在一个复杂任务中，比如软件开发，它的大流程是一个固定的工作流（UI设计-开发-测试），但在其中一个节点上又是一个Agent

✏️ 现在有个现象，把所有的AI应用都叫Agent

没关系，一个复杂的agent里面还是由上面这些模块组成的