Skip to content

Latest commit

 

History

History
51 lines (38 loc) · 3.51 KB

sources.md

File metadata and controls

51 lines (38 loc) · 3.51 KB
title 精选资料入口
description 按主题集中收纳少量原始论文与官方文档,方便需要时进一步阅读。
search false

精选资料入口

先读正文理解,再按需要读原文。这里集中保留代表性入口;每篇正文末尾还有与该页直接相关的短链接。资料查阅日期为 2026-10-15,论文年份与协议版本分别标注,不把查阅日期当作“已穷尽最新研究”的声明。

模型基础

主题 原始资料
架构与表示 Transformer、BERT、T5
分词 BPE、SentencePiece
模块与位置 RMSNorm、SwiGLU、RoPE
稀疏与多模态 Switch、DeepSeek-V3、CLIP、LLaVA

训练

主题 原始资料
规模与数据 Chinchilla、FineWeb
微调 InstructGPT、LoRA、QLoRA
偏好与 RL PPO、DPO、DeepSeekMath / GRPO、DeepSeek-R1
蒸馏 Knowledge Distillation、Sequence-level KD

推理与系统

主题 原始资料
Attention 与 cache FlashAttention、PagedAttention、DeepSeek-V2 / MLA
量化与采样 GPTQ、AWQ、Speculative Decoding
并行与分片 Megatron-LM、ZeRO、PyTorch FSDP
工程实现 vLLM、NVIDIA NCCL

Agent

主题 原始资料
行动与规划 ReAct、Reflexion、Tree of Thoughts
检索 RAG、DPR
协议 MCP 2026-07-28、JSON Schema
评测与编码 SWE-agent、SWE-bench、WebArena

原文中的数字怎样使用

论文中的速度、分数和训练成本属于对应的模型、数据、硬件和评测协议。本知识库重在机制;需要复现数字时回到实验章节和公开代码。框架文档核对安装版本,尤其是快速变化的协议与分布式 API。

新研究入口见前沿问题;版本维护方法见维护说明。