求知 文章 文库 Lib 视频 iPerson 课程 认证 咨询 工具 讲座 Model Center 汽车系统工程   模型库
    学习助手
会员   
 


AI智能体开发技术实践
10月22-23日 线上



FDE(前沿部署工程师)实践指南
11月11-12日 北京+线上



OCSMP 认证培训
11月19-20日 北京+线上
 
 
FDE(前沿部署工程师)
319 次浏览
1次  
目录

L1 基础

一、 入门篇:什么是 FDE

1.1. 人工智能的发展历程

1.2 什么是 FDE

1.3 学习路线图

1.4 FDE 的三种类型

二、模型是怎么工作的

2.1 Transformer 架构概述

2.2 Attention 机制深入

2.3 KV Cache 详解

2.4 FFN、Normalization 与位置编码

2.5 Decoding 策略 — 从采样到生成的完整指南

2.6 MoE 架构详解

2.7 MLA(Multi-Latent Attention)详解

2.8 多模态大模型

2.9 Thinking / Reasoning 模型 — 推理部署的新范式

2.10 大语言模型训练流程

2.11 预训练与后训练

2.12 大模型微调实践

2.13 大模型 Scaling Law

L2 进阶

三、 模型是怎么工作的

3.1 GPU 架构概览

3.2 GPU 显存模型

3.3 GPU 性能瓶颈分析

3.4 GPU 互联与多卡通信

四、 让推理变快:推理引擎与量化

4.1 vLLM 深度解析

4.2 TensorRT-LLM 深度解析

4.3 SGLang 深度解析

4.4 模型量化基础

4.5 量化方案详解

4.6 KV Cache 量化

4.7 Speculative Decoding

4.8 FP8 推理

五、大模型怎么部署到多块 GPU 上

5.1 张量并行(TP)

5.2 流水线并行(PP)

5.3 MoE 并行

L3 进阶

六、 用 LLM 构建应用

6.1 提示词工程 — 掌握 AI 时代的"代码"

6.2 RAG 原理及应用 — 让大模型拥有"外挂知识库"

6.3 Agent 架构与实战 — 让大模型自主完成任务

6.4 AI 评测入门指南 — 怎么知道你的 AI 系统好不好

七、生产环境部署架构

7.1 Prefill-Decode 分离部署 — 高吞吐推理的新标准

7.2 弹性扩缩容

7.3 可观测性体系

7.4 容灾与降级

7.5 多租户与平台化

八、成本与运营

8.1 成本与运营全景

8.2 成本优化策略

8.3 容量规划与弹性伸缩

8.4 自建 vs 云服务选择

九、动手实验

9.1 实验:用 vLLM 部署 7B 模型

9.2 实验:量化部署工作流

9.3 实验:性能 Profiling 工作流

9.4 实验:连续批处理调优

9.5 实验:多卡 TP 部署

9.6 实验:OOM 排查演练

十、AI 驱动业务流程

10.1 业务流程编排 — 让 AI 按规则办事

10.2 企业系统集成 — AI 与业务系统的桥梁

10.3 业务指标体系 — 让技术成果被看见

十一、合规与安全

11.1 数据隐私 — AI 系统的隐私保护体系

11.2 审计与可解释性 — AI 决策的可追溯体系

11.3 Prompt 安全 — 防御注入攻击与内容风险

L5 面试

十二、面试答题方法

12.1 面试答题框架

12.2 自我介绍模板

12.3 技术答题框架

12.4 项目故事(STAR 格式)

12.5 行为面试题

12.6 HR 面策略

12.7 面试前 Checklist

12.8 AI 系统设计面试题库

附录

十三、变更管理与组织采纳

13.1 灰度上线策略 — 从试点到全量

13.2 ROI 度量框架 — 向 CEO 证明 AI 值得投资

十四、团队管理与建设

14.1 团队文化

14.2 成长路径

14.3 培养机制

14.4 知识管理

十五、前沿技术参考

15.1 前沿技术评估流程

十六、术语与资源

16.1 术语表

16.2 案例研究


您可以捐助,支持我们的公益事业。

1元 10元 50元





认证码: 验证码,看不清楚?请点击刷新验证码 必填



319 次浏览
1次
欢迎参加课程:
数据建模方法与工具
MBSE(基于模型的系统工程)
基于 UML 和EA进行分析设计