LLMs-Zero-to-Hero,完全从零手写大模型,从数据处理到模型训练,细节拉满,一小时学会。 build a nanoGPT from scratch
【精读AI论文】知识蒸馏
[知识蒸馏][01] 耗时两天半,完全从零开始实现大模型知识蒸馏(Qwen2.5系列模型),从原理讲解、代码实现到效果测试,绝对让你搞懂模型蒸馏
【2025/Minimind】Only三小时!Pytorch从零手敲大模型,架构到训练全教程
练习两天半,从零实现DeepSeek-R1(基于Qwen2.5-0.5B和规则奖励模型,GRPO),从原理讲解到代码实现,解开DeepSeek-R1的神秘面纱
[知识蒸馏][02] 练习两分半,使用DeepSeek-R1蒸馏训练自己的本地小模型(Qwen2.5-0.5B),原理流程全讲解,模型数据全给你
练习两周半,使用Qwen2.5-0.5B和SigLIP从零开始训练多模态大模型,从预训练到SFT完整流程,让你真正搞懂多模态大模型
练习不到两天半,完全从零开始训练大模型,从训练tokenizer到预训练再到SFT全流程,让你完全搞懂大语言模型
[知识蒸馏][03] 闭关两天半,完全从零开始实现Embedding模型知识蒸馏(学生模型Qwen3-Embedding-0.6B,教师模型4B/8B)
练习两天半,完全从零开始实现DeepSeek Sparse Attention(DSA,DS-V3.2-Exp),从原理讲解到代码训练全流程,你一定要看
[知识蒸馏][06] 闭关两天半,完全从零实现大模型RL知识蒸馏(On Policy Distillation,Qwen2.5),你值得拥有
单卡A800强化学习训练32B模型(DeepSeek-Qwen-32B,GRPO),低显存也能强化学习
[知识蒸馏][04] 闭关2.5天,Embedding模型微调VS蒸馏(Qwen3-0.6B),谁更胜一筹,数据会告诉你答案,从原理流程、代码实现到结果分析
【8】KV Cache 原理讲解
练习两天半,从零实现多模态大模型(多图场景,多轮对话),从原理讲解到代码实现,搭配流程图,清晰易懂
手把手教你大模型训练与部署,从配置GPU到训练大模型【全网最详细教程】
[Agentic RL][05] 练习两天半,教你如何使用verl框架进行强化学习(环境安装、数据集处理、奖励函数构建、重要参数解析、debug)
怎么加快大模型推理?10分钟学懂VLLM内部原理,KV Cache,PageAttention
[Agentic RL][01] 练习两天半,完全从零开始实现PPO算法(基于Qwen2.5-0.5B),不依赖第三方强化学习框架,从原理讲解到代码实现
闭关两天半,完全从零开始实现Training-free GRPO(无需更新参数的GPRO,完全解放你的GPU),从原理到代码实现全流程,绝对是你想看的