FDE大模型应用开发实战是什么？
FDE全称前沿部署工程师（Forward Deployed Engineer），核心使命是「让前沿技术精准扎根产业」。本课程围绕大模型应用的全链路实战展开，从API调用到本地部署，从RAG知识库到多智能体协作，从模型微调到生产环境交付。
LangChain + LangGraph
从LangChain 1.0基础到多智能体工作流编排，掌握工具调用、记忆管理、中间件控制和Human-in-the-loop等高级能力。
Ollama + vLLM + OpenWebUI
掌握本地大模型部署与推理、高性能API服务搭建、知识库与智能体配置，实现数据不出企业的私有化AI能力。
LLaMA-Factory微调与量化
从LoRA轻量化微调到RLHF/DPO，从模型评估导出到量化部署，形成「微调→部署→调用→工作流编排」的完整闭环。
为什么学习FDE大模型应用开发？
企业AI落地不是跑一个Demo就完了，真正的挑战在于私有化部署、业务系统对接、安全合规和持续优化。FDE就是帮你跨越从「会用大模型」到「能交付大模型应用」的鸿沟。
从Demo到生产交付
课程强调API化部署、身份认证、安全控制等工程化实践，确保学员交付的是能真正上线的AI应用，而非停留在Demo阶段。
微调→部署→调用→编排
覆盖模型微调(LLaMA-Factory)、本地部署(Ollama/vLLM)、工程化调用(LangChain/FastAPI)和工作流编排(LangGraph)完整链条。
Web + 移动端智能体
基于Streamlit + LangServe + FastAPI搭建PC Web和移动端Agent应用，实现多端融合的AI应用交付。
谁适合学习FDE大模型应用开发？
本课程面向需要参与企业级AI项目部署、实施、应用接入与场景落地的技术团队。
后端/全栈开发工程师
希望将大模型能力集成到业务系统中，掌握AI应用的工程化开发和部署能力。
算法/数据工程师
希望从模型训练延伸到应用交付，掌握模型微调、部署和服务化的全流程技能。
AI平台建设团队
负责企业内部私有知识库问答、Agent助手、业务流程自动化等AI项目的技术团队。
典型学习场景
智能体开发
LangChain Agent、工具调用、记忆管理、中间件
RAG知识库
向量数据库、PDF解析、混合检索、重排序
工作流编排
LangGraph多智能体协作、Human-in-the-loop
模型微调
LoRA、RLHF/DPO、量化部署、LLaMA-Factory
课程大纲 · 8天特训路径
8天系统课程覆盖大模型应用开发全链路：从API调用到智能体构建，从RAG到LangGraph，从MCP到工程化部署，再到模型微调与量化，实现完整闭环。
Day 1 本地大模型与LangChain 1.0入门
LLM理论基础、OpenAI接口编程实战（多轮聊天/流式输出/结构化输出/多模态）、LangChain 1.0基础与Chat Models、Agent基础与快速体验。
Day 2 LangChain智能体进阶与工具调用
Content Blocks多模态、工具调用与联网搜索、对话记忆管理（短期+长期）、中间件与安全控制、Human-in-the-loop人类干预。
Day 3 RAG增强检索与知识库智能体
Embedding嵌入与Chroma DB、RAG架构与知识库构建（PDF加载/文档清洗/拆分灌库/召回测试）、知识库检索智能体、RAG质量评估与优化（混合检索/重排序/重问）。
Day 4 LangGraph工作流与多智能体协作
StateGraph/Nodes/Edges核心概念、多步骤工作流构建、智能体工作流（持久化/工具调用/时间回溯）、多智能体架构与协作。
Day 5 MCP服务扩展与工程化落地
MCP服务基础与自定义MCP Server、Streamlit搭建Web/移动端Agent应用、LangServe+FastAPI工程化API部署（Token认证/RESTful规范）、综合案例实战。
Day 6 Ollama/vLLM本地部署与推理
Ollama本地大模型管理、HuggingFace/ModelScope模型社区、vLLM高性能推理与API服务（OpenAI兼容）、OpenWebUI全流程应用（知识库创建/工具配置/智能体构建）。
Day 7 LLaMA-Factory微调基础
大模型原理深入（注意力机制/Transformer/GPT/RLHF）、Fine-tuning微调概念（LoRA工作原理与流程）、LLaMA-Factory框架入门、数据集准备（alpaca/ShareGPT/OpenAI格式）、SFT训练与测试。
Day 8 微调进阶、量化与生产部署
超参数调优与动态合并、模型评估（通用能力/NLG）与导出、量化（INT4/INT8）、RLHF/DPO微调实战、WebUI Board一站式管理、基于Transformers的LoRA微调Pipeline、实现「微调→部署→调用→编排」完整闭环。
详细课程内容
8天课程覆盖大模型应用开发全链路技术栈，每天聚焦一个核心主题，配备丰富的实战案例和动手实验。
第1天：本地大模型与LangChain 1.0快速入门
1. LLM大模型理论基础（入门版）
- 大模型是怎么炼成的
- 理解推理模型和指令模型
- 高效提示词编写思路
2. OpenAI接口编程实战
- 实现单轮/多轮聊天
- 流式输出（Streaming）
- 结构化输出（定义JSON Schema等）
- 多模态大模型使用（图文等）
3. LangChain 1.0基础与Chat Models
- LangChain1.0基本模块和架构介绍
- Chat Models基本概念及使用方式
- 使用init_chat_models接入DeepSeek
- 接入智谱（zhipuai）与通义千问大模型
4. Agent基础与快速体验
- 理解Agent基本概念
- 快速创建Agent（基于LangChain 1.0）
- Agent的流式输出
- 结构化输出JSON格式
第2天：LangChain智能体进阶与工具调用、中间件
1. Content Blocks与多模态内容建模
- Content Blocks统一接口：文本内容、推理内容
- 文本+推理内容的结构化管理
2. 工具调用与多模态智能体
- 理解OpenAI工具调用机制
- 实现联网搜索工具（如搜索引擎、汇率兑换工具使用）
- 理解和使用多模态，实现车牌解析
- 给智能体添加工具调用，理解Function Call与ReAct模式
3. 对话记忆管理（短期+长期）
- 使用短期记忆（基于多轮聊天历史）
- 短期记忆CheckPoint管理
- 聊天历史管理（删除与摘要）
- 使用长期记忆（跨会话多轮聊天）
4. 中间件与智能体控制
- 理解中间件基本概念
- AgentMiddleware的钩子函数
- 使用装饰器实现中间件
- 自定义中间件——演示敏感词过滤
5. 系统中间件与安全控制
- 系统Summarization摘要中间件
- Context Editing Middleware上下文编辑中间件
- 安全和控制类中间件
- Model Call Limit和Tool Call Limit
- Human-in-the-loop：人类干预中间件使用
第3天：LangChain RAG增强检索与知识库智能体
1. Embedding嵌入与相似度匹配基础
- 理解Embedding嵌入基本概念
- 使用智谱AI和通义千问嵌入大模型
- 使用余弦相似度实现语义匹配
2. 向量数据库Chroma DB实战
- Chroma DB基本概念
- 创建和管理Collection
- 文档添加与向量检索
3. RAG增强检索架构与知识库构建
- 理解RAG增强检索架构流程
- 构建向量数据库：实现"华中科技大学学生手册知识库"
- 加载本地PDF文档、文档清洗、文档拆分与灌库
- 向量数据库基本维护、召回测试、评估知识库质量
4. 知识库检索智能体构建
- 构建两步式RAG，实现知识库检索智能体
- 使用工具调用方式，增强知识库检索智能体
- 使用BeautifulSoup（BS4）实现Web网页爬虫方式创建知识库
5. RAG应用质量评估与优化
- 如何评估RAG应用的质量
- 使用BM25Retriever实现混合检索（向量+关键词）
- 实现重排序增强RAG检索效果
- 实现重问（query rewriting）增强检索效果
第4天：LangGraph工作流编排与多智能体协作
1. LangGraph概述与核心设计
- LangGraph概述、关键特性和核心设计
- LangGraph的核心理念：StateGraph、Nodes和Edges
2. LangGraph核心概念与用法
- State状态使用
- Node节点设计
- 深入理解Edge（静态/动态边）
- 理解动态路由（根据状态选择不同路径）
- 调用子图（子工作流）
3. 工作流构建案例
- 构建多步骤工作流
- 案例：发票信息提取流程编排
- 案例：制作公司宣传海报流程编排
- 案例：调用Redis实现智能问答
4. 使用LangGraph构建智能体工作流
- 构建多轮聊天工作流
- 持久化聊天信息
- 集成工具调用
- 人类干预节点设计（Human-in-the-loop）
- Time Travel时间回溯
- 图的Stream支持（流式可视化）
- 多智能体架构实现（Agent协作）
第5天：MCP服务扩展与Web/移动端应用工程化落地
1. MCP（Model Context Protocol）服务基础
- 理解MCP基本概念
- 注册高德MCP服务
- 使用Agent调用高德地图MCP工具（基本调用与演示）
2. 自定义MCP Server
- 创建自定义MCP Server
- 实现自定义MCP Server调用
3. 使用Streamlit搭建Web/移动端Agent应用
- 创建Streamlit Web应用，文本数据展示
- 图表可视化组件与Form表单元素
- 页面布局与容器设计，多页面与页面导航
- 理解Session机制
- 基于Streamlit实现PC Web Agent聊天应用
- 基于Streamlit实现移动端Agent聊天应用
- Streamlit发布与部署
4. LangChain部署：LangServe+FastAPI工程化
- LangChain部署：Serving with LangServe
- 理解FastAPI，实现开发API接口
- 理解RESTful风格API设计规范
- 开发业务API接口（智能体/RAG/工作流）
- 使用Token实现身份认证机制
- FastAPI服务发布与部署
- 使用requests调用API服务
5. 综合案例实战与总结
- 综合案例：完整实现一个Agent聊天应用的开发和部署
- 课程阶段性总结与企业落地建议
第6天：使用Ollama、vLLM部署和应用本地大模型
1. Ollama本地大模型管理
- Ollama简介
- Ollama安装和常用参数配置
- 管理本地大模型（下载、更新、删除、配置）
2. HuggingFace模型社区
- HuggingFace简介
- 注册与安装（CLI/SDK）
- 模型探索与推理
- 下载模型到本地
3. ModelScope魔塔社区
- ModelScope魔塔社区简介
- 模型探索与推理
- 下载模型
4. vLLM高性能推理与API服务
- vLLM推理环境准备：租用算力服务器
- 使用vLLM实现模型推理
- 使用vLLM实现部署模型API服务（支持deepseek-r1、Qwen3、嵌入模型等）
- 使用OpenAI风格接口实现模型推理（兼容OpenAI SDK/协议）
5. OpenWebUI全流程应用
- 下载和安装OpenWebUI
- 使用OpenWebUI：注册帐号、模型配置、交互管理
6. OpenWebUI知识库与智能体
- 使用OpenWebUI，实现知识库创建
- 使用OpenWebUI配置工具：搜索引擎、天气预报等
- 使用OpenWebUI构建智能体（结合前5天Agent实战经验）
第7天：LLaMA-Factory微调基础
1. 大模型原理基础（从微调视角深入）
- 大模型是如何训练的？
- 理解注意力机制（Self-Attention）
- 理解Transformer架构
- 生成式语言模型GPT基础
- 理解强化学习RLHF流程与思想
2. Fine-tuning微调基本概念
- 什么是Fine-tuning模型微调
- 微调的具体方法
- 轻量化微调概念
- 低秩适应微调LoRA工作原理
- LoRA微调流程
- 模型选择和微调数据需求
- 评估微调后的模型能力
3. LLaMA-Factory框架入门
- LLaMA-Factory框架简介
- 安装LLaMA-Factory框架并搭建微调环境
- 基座模型下载
4. 数据集准备与标准格式
- Identity.json认知数据集
- 下载和转换数据集
- 理解alpaca、ShareGPT、OpenAI格式规范
5. 启动训练与基础测试
- 开始训练模型：什么是SFT（Supervised Fine-Tuning）
- 训练命令介绍及关键参数说明
- 启动训练与监控
- 使用训练好的模型进行聊天测试（对比微调前后效果）
第8天：LLaMA-Factory微调进阶、量化与生产部署
1. 模型训练进阶与超参数调优
- 理解模型训练中的超参数调优
- 动态合并模型策略（如多阶段LoRA合并）
2. 模型评估与导出
- 模型评估：通用能力评估、NLG文本生成评估
- 导出LoRA模型
- 将导出模型转换为Ollama支持格式（便于本地部署）
3. 量化与预训练方向
- 理解和实现模型量化（如INT4/INT8）
- 理解和实现模型微调：预训练方向的延伸
4. LLaMA-Factory+RLHF/DPO实战
- LLaMA-Factory基于RLHF的实践流程
- 下载和整理RLHF/DPO数据集
- DPO（Direct Preference Optimization）微调与推理
- 模型评估与导出
5. LLaMA-Factory接口与WebUI Board一站式管理
- LLaMA-Factory接口调用方法
- 一站式WebUI Board使用：模型配置、推理、训练、评估和导出
6. 基于Transformers库的LoRA微调Pipeline实现
- 基于Transformers库实现LoRA模型微调流程
- 结合前几天的部署方案，将微调模型接入Ollama/vLLM/OpenWebUI、LangChain/LangGraph工作流
- 形成"微调→部署→调用→工作流编排"的闭环演示
授课老师介绍
我们的讲师团队由资深AI应用开发与模型部署专家组成，拥有丰富的大模型企业级落地实战经验。
讲师
艾威FDE讲师团队
艾威FDE课程讲师均为AI应用开发领域的实战专家，深度掌握LangChain、LangGraph、LLaMA-Factory、vLLM等主流大模型工程化技术栈。讲师具备多个企业级AI项目从0到1的交付经验，能够将复杂的AI技术转化为可落地的实操方案。
- 专长领域：大模型应用开发、智能体架构设计、模型微调与部署、RAG知识库构建
- 授课风格：实战驱动、项目导向、案例丰富
- 企业服务：已为多家企业提供AI应用开发和部署培训服务
实战结业与能力认证说明
完成8天全部课程学习后，学员将具备独立完成大模型应用从开发到部署的全链路交付能力。
完成全部8天课程学习后，学员将获得艾威培训FDE特训营结业证书。学员将掌握LangChain智能体开发、LangGraph多智能体工作流编排、RAG知识库构建、模型微调（LLaMA-Factory）、本地模型部署（Ollama/vLLM）、工程化API交付（FastAPI/LangServe）等核心技能，能够胜任企业级AI应用的前沿部署工程师角色。课程还提供完整的项目源码和部署配置模板，便于工作中复用。
FDE大模型应用开发实战 近期开班计划
艾威培训定期开班，支持企业定制化内训，欢迎咨询近期课表。
滚动开班（详询）
面授班：定期在北上广深等城市开班
直播班：线上同步直播，全国学员均可参加
可按企业时间定制
企业内训：根据团队时间灵活安排
课程内容可依据企业技术栈需求定制调整
为什么选择艾威培训？
艾威培训成立于2003年，深耕IT及数字技能培训领域二十余年，是众多世界500强企业的长期培训合作伙伴。
20+年培训行业经验
成立于2003年，累计培训学员超过20万人次，在AI和软件开发培训领域拥有深厚积累，培训品质值得信赖。
真实项目案例驱动
课程以企业级项目案例贯穿始终，学员将在8天内完成多个完整的AI应用实战项目，学完即具备独立交付能力。
紧跟前沿技术栈
课程内容持续更新，涵盖LangChain 1.0、MCP协议等最新技术，确保学员掌握的是当前业界主流的AI应用开发技术。
学员真实收获
听听往期学员对FDE大模型应用开发课程的真实评价：
"从API调用到完整交付"
以前只会调OpenAI API做Demo，学完这门课可以独立完成智能体开发、RAG构建、模型微调和部署，整个能力链条都打通了。
"微调终于不玄学了"
之前自己摸LLaMA-Factory总是各种报错，课程里一步一步带着做，从数据准备到训练到量化导出，流程清晰，终于把微调搞明白了。
"回去直接搭平台"
课程里OpenWebUI+Ollama+LangChain的组合方案我们回去直接复制，两周就搭起了公司内部的AI知识库问答系统。
常见问题 FAQ
关于FDE大模型应用开发实战课程，你可能会关心：
需要什么编程基础？完全没接触过大模型能学吗？
课程要求熟悉Python语法和数据分析，具备基本的Web技术和HTTP接口调用概念，有基础的Linux使用经验更佳。对于大模型本身不需要先验知识——课程第一天就从LLM理论基础讲起，循序渐进。如果你有Python开发经验但没怎么用过大模型，这门课非常适合作为入门到进阶的系统学习。
8天内容会不会太压缩了？能消化得了吗？
8天课程经过精心设计，每天聚焦一个核心主题，理论+实战穿插。前5天重点在智能体和应用开发（LangChain/LangGraph/RAG/MCP），后3天重点在模型部署和微调（Ollama/vLLM/LLaMA-Factory）。每个模块都有动手实验，学完当天就有产出，不会出现只听课不动手的情况。
课程是用云端环境还是本地环境？
前5天的智能体和应用开发部分可以使用普通开发环境。第6-8天的模型部署和微调部分需要GPU环境，我们会提供算力服务器的使用指引（包括租用方案）。面授班由艾威提供实验环境。
学完能直接在工作中用吗？
课程的定位就是"能部署、能接入、能演示、能交付"。每个模块都围绕真实企业场景设计：RAG知识库是基于真实PDF文档构建的，工作流编排用的是实际业务场景（发票提取、海报生成等），模型微调教的是完整的训练→评估→导出→部署Pipeline。课程源码和配置模板学员可以带走复用。
企业内训能定制吗？
可以。企业内训可根据团队的技术栈和业务场景定制案例，比如聚焦某个特定领域（金融/医疗/政务）的RAG知识库构建，或者侧重某个技术方向（如模型微调或智能体开发）。天数也可以根据需求调整。
页面信息更新与说明
本页面近期更新时间：2026-08-07