预训练：从零训练，需要海量数据和算力
微调：在已有模型基础上调整，少量数据即可

预训练 ≈ 从小学到大学的完整教育
微调 ≈ 大学毕业后参加一个短期职业培训

更新模型所有参数

优点：效果最好，模型完全适配新任务
缺点：
- 需要大量显存（70B 模型约需 1.4TB 显存）
- 容易过拟合小数据集
- 每个任务需要保存一份完整模型权重

原始权重 W（冻结不变）
↓
输入 x → xW → 输出

改为：
原始权重 W（冻结不变）
↓
输入 x → xW + xBA → 输出
↑
低秩矩阵 B（d×r）和 A（r×d）可训练
其中 r << d，通常 r = 8, 16, 64

全参数微调 70B：
- 模型权重：140GB（FP16）
- 梯度：140GB
- 优化器状态（Adam）：280GB
- 总计：~560GB（需 8×A100 80GB）

LoRA 微调 70B（r=16）：
- 模型权重：140GB（可量化为 INT4 → 35GB）
- LoRA 参数：可忽略
- 梯度 + 优化器：~2GB
- 总计：~40-175GB（取决于量化）

QLoRA = 4-bit 量化基座 + LoRA 微调

核心创新：
1. 基座模型量化到 4-bit（NF4 格式）
2. LoRA 参数保持 FP16
3. 量化误差通过双量化和分页优化器补偿

全参数微调：
每个任务一个完整模型副本
70B × N 个任务 = 70N × 140GB 存储

LoRA 微调：
一个基座模型 + N 个 LoRA 适配器
70B × 1 + LoRA × N = 140GB + N × 50MB
存储节省 99%+

合并后推理：
性能与原始模型完全一致（无额外开销）

动态 LoRA 推理：
额外开销 < 2%（vLLM 的 LoRA Hub 实现）
优势：多个任务共享一个基座模型