| title | 精选资料入口 |
|---|---|
| description | 按主题集中收纳少量原始论文与官方文档,方便需要时进一步阅读。 |
| search | false |
先读正文理解,再按需要读原文。这里集中保留代表性入口;每篇正文末尾还有与该页直接相关的短链接。资料查阅日期为 2026-10-15,论文年份与协议版本分别标注,不把查阅日期当作“已穷尽最新研究”的声明。
| 主题 | 原始资料 |
|---|---|
| 架构与表示 | Transformer、BERT、T5 |
| 分词 | BPE、SentencePiece |
| 模块与位置 | RMSNorm、SwiGLU、RoPE |
| 稀疏与多模态 | Switch、DeepSeek-V3、CLIP、LLaVA |
| 主题 | 原始资料 |
|---|---|
| 规模与数据 | Chinchilla、FineWeb |
| 微调 | InstructGPT、LoRA、QLoRA |
| 偏好与 RL | PPO、DPO、DeepSeekMath / GRPO、DeepSeek-R1 |
| 蒸馏 | Knowledge Distillation、Sequence-level KD |
| 主题 | 原始资料 |
|---|---|
| Attention 与 cache | FlashAttention、PagedAttention、DeepSeek-V2 / MLA |
| 量化与采样 | GPTQ、AWQ、Speculative Decoding |
| 并行与分片 | Megatron-LM、ZeRO、PyTorch FSDP |
| 工程实现 | vLLM、NVIDIA NCCL |
| 主题 | 原始资料 |
|---|---|
| 行动与规划 | ReAct、Reflexion、Tree of Thoughts |
| 检索 | RAG、DPR |
| 协议 | MCP 2026-07-28、JSON Schema |
| 评测与编码 | SWE-agent、SWE-bench、WebArena |
论文中的速度、分数和训练成本属于对应的模型、数据、硬件和评测协议。本知识库重在机制;需要复现数字时回到实验章节和公开代码。框架文档核对安装版本,尤其是快速变化的协议与分布式 API。