大模型

串起语言建模、对齐微调、推理优化、检索增强与系统评测。

学习路线

从 Token 与自回归建模开始，理解 Transformer 和解码过程；再按任务选择提示、检索或微调，并使用固定评测集比较质量、成本和延迟。

已完成 0 / 12 个知识点

大语言模型

理解语言模型从文本表示到自回归生成的完整链路。

• Tokenization、Embedding 与位置编码规划中
• Decoder-only Transformer 与因果掩码规划中
• 预训练目标、Scaling 与数据治理规划中
• 采样、Beam Search、KV Cache 与上下文窗口规划中

对齐、微调与推理

让基础模型适应任务、偏好和有限计算资源。

• SFT、RLHF 与 DPO规划中
• PEFT、LoRA 与提示学习规划中
• 量化、蒸馏、并行和 MoE规划中
• 工具调用、结构化输出和 Agent 循环规划中

检索、评测与安全

把外部知识接入模型，并系统衡量质量、成本和风险。

• Embedding、向量检索、重排与 RAG规划中
• 离线基准、人工评测与 LLM-as-judge规划中
• 幻觉、提示注入与数据泄露规划中
• 延迟、吞吐、Token 成本与可观测性规划中