首页

投稿

练习两天半，从零实现多模态大模型（多图场景，多轮对话），从原理讲解到代码实现，搭配流程图，清晰易懂

3.4万

101

2025-06-07 21:45:48

未经作者授权，禁止转载

之前基于qwen2.5-0.5b和siglip从零实现了多模型大模型，但是预训练与sft使用的数据都是单图场景，那么多模态大模型如何处理多图输入呢？其实和单图输入并无本质差异，无非是一些小细节和数据处理存在差异。针对多图场景写了一套训练代码，搭配流程图讲解，清晰易懂。

偷星九月333 发消息

两耳不闻窗外事，一心只搞大模型

练习两周半，使用Qwen2.5-0.5B和SigLIP从零开始训练多模态大模型，从预训练到SFT完整流程，让你真正搞懂多模态大模型

27:12

练习不到两天半，完全从零开始训练大模型，从训练tokenizer到预训练再到SFT全流程，让你完全搞懂大语言模型

31:06

多模态大模型都在用的SigLIP，完全从零开始实现，原理、模型结构到训练代码，你肯定学得会

17:26

练习两天半，完全从零开始训练混合专家模型（MoE），从预训练到SFT全流程代码实现，搭配实例讲解MoE前向传播，绝对让你搞懂混合专家模型

48:50

续上集（完全从零开始训练混合专家模型），效果展示与对比

14:48

研究两天半，让你完全搞懂DeepSeek多头潜在注意力机制（MLA）的原理与实现，搭配详细注释的代码，你完全学得会

36:07

练习两天半，完全从零开始实现DeepSeek-V3的MTP(魔改Qwen2.5-0.5B)，从原理到代码实现，让你明白为什么DeepSeek快的飞起

31:16

练习两天半，从零实现多模态大模型（多图场景，多轮对话），从原理讲解到代码实现，搭配流程图，清晰易懂

17:28

闭关两周半，完全从零开始实现Qwen3-Next模型（参数60M，线性注意力GatedDeltaNet），从架构原理到代码实现，绝对是你能找到的最详细的讲解

53:23

Qwen3-Next到Kimi-Linear，混合线性注意力架构超越Softmax注意力，带你深度了解Kimi-Linear架构原理

12:59

练习两天半，完全从零开始实现DeepSeek Sparse Attention（DSA，DS-V3.2-Exp），从原理讲解到代码训练全流程，你一定要看

27:45

研究两天半，让你完全搞懂DeepSeek的Engram模块原理与实现，清晰流程搭配详细代码注释，一看就懂

33:03

蒸蚌！从零开始实现DeepSeek的mHC，从原理到完整代码实现，一学一个笑嘻嘻

13:57

练习两天半，从零实现kimi注意力残差，让马斯克点赞的kimi最新架构

15:55

练习两天半，从零实现DeepSeek V4 CSA&HCA模块，原理讲解搭配最简代码实现，一看就懂

21:59

GLM5.2 IndexShare/KVShare讲解，更长的上下文，更低的成本，更快的速度

10:01

KIMI K3的三个核心架构：KDA、Attention Residuals和Stable LatentMoE

12:31

recurrent depth，gpt-6-astra的新架构？让模型无声的思考

14:13

开源决策模型 Laya（Jev开源版）架构与训练详解

18:42

三个维度理解稀疏注意力（如何选择、选择粒度、如何计算），简单直观

17:18

顶部