求知 文章 文库 Lib 视频 iPerson 课程 认证 咨询 工具 讲座 Model Center 汽车系统工程   模型库
    学习助手
会员   
 


AI智能体开发技术实践
10月22-23日 线上



FDE（前沿部署工程师）实践指南
11月11-12日 北京+线上



OCSMP 认证培训
11月19-20日 北京+线上
 
 
 FDE(前沿部署工程师)
 L1 基础
一、 入门篇：什么是 FDE▸
1.1 人工智能的发展历程
1.2 什么是 FDE
1.3.学习路线图
1.4 FDE 的三种类型
二、模型是怎么工作的▸
2.1 Transformer 架构概述
2.2 Attention 机制深入
2.3 KV Cache 详解
2.4 FFN、Normalization 与位置编码
2.5 Decoding 策略-从采样到生成的完整指南
2.6 MoE 架构详解
2.7 MLA（Multi-Latent Attention）详解
2.8 多模态大模型
2.9 Thinking/Reasoning 模型-推理部署新范式
2.10 大语言模型训练流程
2.11 预训练与后训练
2.12 大模型微调实践
2.13 大模型 Scaling Law
 L2 高阶
三、 GPU：理解推理的物理载体▸
3.1 GPU 架构概览
3.2 GPU 显存模型
3.3 GPU 性能瓶颈分析
3.4 GPU 互联与多卡通信
四、 让推理变快：推理引擎与量化▸
4.1 vLLM 深度解析
4.2 TensorRT-LLM 深度解析
4.3 SGLang 深度解析
4.4 模型量化基础
4.5 量化方案详解
4.6 KV Cache 量化
4.7 Speculative Decoding
4.8 FP8 推理
五、大模型怎么部署到多块 GPU 上▸
5.1 张量并行（TP）
5.2 流水线并行（PP）
5.3 MoE 并行
 L3 应用
六、用 LLM 构建应用▸
6.1 提示词工程 — 掌握 AI 时代的"代码"
6.2 RAG 原理应用- 让大模型拥有"外挂知识库"
6.3 Agent 架构与实战-让大模型自主完成任务
6.4 AI评测入门指南,怎么知道你的AI系统好不好
七、生产环境部署架构▸
7.1 Prefill-Decode分离部署-高吞吐推理新标准
7.2 弹性扩缩容
7.3 可观测性体系
7.4 容灾与降级
7.5 多租户与平台化
 L4 实战
八、成本与运营▸
8.1 成本优化策略
8.2 容量规划与弹性伸缩
8.3 自建 vs 云 API
九、动手实验▸
9.1 实验：用 vLLM 部署 7B 模型
9.2 实验：量化部署工作流
9.3 实验：性能 Profiling 工作流
9.4 实验：连续批处理调优
9.5 实验：多卡 TP 部署
9.6 实验：OOM 排查演练
十、AI 驱动业务流程▸
10.1 业务流程编排 — 让 AI 按规则办事
10.2 企业系统集成 — AI 与业务系统的桥梁
10.3 业务指标体系 — 让技术成果被看见
十一、合规与安全▸
11.1 数据隐私 — AI 系统的隐私保护体系
11.2 审计与可解释性 — AI 决策的可追溯体系
11.3 Prompt 安全 — 防御注入攻击与内容风险
 L5 面试
十二、面试答题方法▸
12.1 面试答题框架
12.2 自我介绍模板
12.3 技术答题框架
12.4 项目故事（STAR 格式）
12.5 行为面试题
12.6 HR 面策略
12.7 面试前 Checklist
12.8 AI 系统设计面试题库
 附录
十三、变更管理与组织采纳▸
13.1 灰度上线策略 - 从试点到全量
13.2 ROI 度量框架 - 向 CEO 证明 AI 值得投资
十四、团队管理与建设▸
14.1 团队文化
14.2 成长路径
14.3 培养机制
14.4 知识管理
十五、前沿技术参考▸
15.1 前沿技术评估流程
十六、术语与资源▸
16.1 术语表
16.2 案例研究