[Agentic RL][01] 练习两天半,完全从零开始实现PPO算法(基于Qwen2.5-0.5B),不依赖第三方强化学习框架,从原理讲解到代码实现
[知识蒸馏][02] 练习两分半,使用DeepSeek-R1蒸馏训练自己的本地小模型(Qwen2.5-0.5B),原理流程全讲解,模型数据全给你
[veRL] 从原理层面理解训练参数,PPO & GRPO,batch size,kl & entropy
[Agent][01] 练习两天半,从零开始实现Deep Research(DeepSeek自动生成带插图的markdown报告),原理讲解到代码实现
LLMs-Zero-to-Hero,完全从零手写大模型,从数据处理到模型训练,细节拉满,一小时学会。 build a nanoGPT from scratch
【手把手实现】DeepSeek R1蒸馏训练Qwen 3B
【精读AI论文】知识蒸馏
练习两天半,从零实现多模态大模型(多图场景,多轮对话),从原理讲解到代码实现,搭配流程图,清晰易懂
全面超越GraphRAG,速度更快,效果更好,落地部署更方便。从原理、本地Qwen2.5-3B模型部署到源码解读,带你全流程解析LightRAG
完全从零手写MOE大模型,复现 DeepSeek MOE 算法,彻底 MOE 算法进化之路,build a nano MOE LLM from scratch
[知识蒸馏][03] 闭关两天半,完全从零开始实现Embedding模型知识蒸馏(学生模型Qwen3-Embedding-0.6B,教师模型4B/8B)
[知识蒸馏][05] 闭关两天半,从零实现大模型Logits知识蒸馏(Cross-Tokenizer,GLM4-9B-->Qwen2.5-0.5B)
[LLM+RL] 理解 GRPO 公式原理及 TRL GrpoTrainer 代码实现(advantage 与 loss 计算)
RAG实战系列(医疗知识问答),从零开始实现多路召回检索,带你了解检索流程和算法原理
练习两天半,从零实现DeepSeek-R1(基于Qwen2.5-0.5B和规则奖励模型,GRPO),从原理讲解到代码实现,解开DeepSeek-R1的神秘面纱
[知识蒸馏][12] 一个很容易被忽略但是很重要的问题:为什么OPD中一般不直接使用reverse kl backward?
Qwen+GRPO后训练实现复杂医疗推理和疾病诊断
练习两天半,完全从零开始训练混合专家模型(MoE),从预训练到SFT全流程代码实现,搭配实例讲解MoE前向传播,绝对让你搞懂混合专家模型
闭关两周半,完全从零开始实现Qwen3-Next模型(参数60M,线性注意力GatedDeltaNet),从架构原理到代码实现,绝对是你能找到的最详细的讲解
[Agent][02] 练习两周半,完全从零开始实现Manus(LangGraph,智能数据分析报告生成),原理、流程到代码,让Agent不再神秘