• 投稿

0.1B MiniMind-O 开源 | 4 张 3090、4 小时、1个人就能完成全模态模型训练!

3579
1
2026-05-07 21:59:03
98
28
253
48
只有 0.1B参数,却能听、能看、能说话?MiniMind系列第三弹 MiniMind-O 来了——单卡RTX 3090仅需约2小时,就能从零训练一个完整的全模态Omni模型! 📌 本期看点: 拒绝级联流水线:不是ASR→LLM→TTS的三段式拼接,而是Thinker+Talker双路径端到端架构,语音和文本在hidden state层面直接连通,延迟更低、信息无损。 中间层Bridge设计:Thinker不向Talker传embedding(太浅)也不传最后一层(被LM head带偏),而是取中间层隐藏状态作为语义桥梁,语音一致性(CER)显著更优。 Mimi八码本流式语音:Talker通过MTP同时预测8层Mimi audio codes,支持24kHz流式语音输出,边生成边播放,还能实时打断(Barge-in)。 In-Context音色克隆:不用微调权重,换一段参考音频即可切换音色,内置5种预设音色,支持unseen语音克隆。 视觉也打通了:冻结SigLIP2编码图像,SenseVoice编码语音,全部通过轻量MLP Projector注入同一序列,真正实现"看图说话"。 📊 硬核数据: 可训练参数仅 113M(Dense)/ 315M-A115M(MoE) 单卡3090,mini数据集 约2小时 跑通完整链路 英文短句CER低至 0.053,与0.5B的Mini-Omni2同量级 📄 论文:MiniMind-O Technical Report: An Open Small-Scale Speech-Native Omni Model arXiv 主页:https://arxiv.org/abs/2605.03937 PDF 直链:https://arxiv.org/pdf/2605.03937 💻 开源代码:https://github.com/jingyaogong/minimind-o
专注于AI领域:论文精读 | 技术干货 | 行业动态 只讲干货,不灌鸡汤~ 全网同名|欢迎加入多模态实验室一起搞事情~
4.8万播放
简介
碾压CogVideoX与CameraCtrl!微软+浙大World-R1根治视频模型几何幻觉,PSNR暴涨10.23dB!
06:22
Agent账单爆炸?华为放出QuantClaw,成本直砍21%,延迟降16%,性能不降反升!
06:03
大模型推理瓶颈被突破!AgentV-RL:多轮工具增强验证,4B模型性能超70B达25.2%!
07:57
长视频理解迎来范式革命!VideoSeek三层工具包:从"暴力解析"到"智能寻证",帧数暴跌90%
08:39
快手KAT-Coder-V2:SWE 79.6%超Claude,训练快6.2倍
09:42
LG开源首枚视觉语言模型EXAONE 4.5 | 开源VLM新王,256K上下文+工业级性能
05:04
GaussianGPT: 迈向自回归 3D 高斯场景生成,用 Transformer 逐个 Token 生成 3D 场景!
13:57
告别反复测试!上交大提出EffiSkill,代码效率提升12%!
12:30
南京大学ADM模型颠覆MBRL,强化学习进入任意步长时代!
15:08
京东开源JoyAI-Image,240亿参数碾压Nano Banana 2!
08:13
12GB 显存就能跑!30B 模型被 9B 按在地上摩擦,MiniCPM-o 4.5 凭什么这么猛?
09:58
0.1B MiniMind-O 开源 | 4 张 3090、4 小时、1个人就能完成全模态模型训练!
10:39
你的 AI 画图总是数不对、摆不对?苹果提出UniReasoner:不改扩散模型,只加推理完美解决!
11:04
告别纯文本 Prompt!北大提出 VL-SAM-v3:给检测器装上"视觉海马体",即插即用,零样本即可全面SOTA!
10:20
Video-LLM 物理直觉竟然不如小学生?上交大PhyAR直接干翻Qwen3.5,代码已开源!
09:17
高分辨率图像≠算力黑洞!看LLaVA-UHD v4如何将MiniCPM-V 4.6送上多模态大模型“端侧第一”的宝座!
11:02
何凯明ELF论文解析 | 它真的可以终结GPT开启的自回归时代吗?
11:38
SAM 系列最大痛点被打通了!RUAC:只用 0.6% 参数,让 SAM2 在 23 个领域零样本通吃!
11:26
效果堪比GPT-Image-2!商汤发布SenseNova-U1:8B 参数完成SOTA性能,1500次免费用!
15:55
CLIP一用就废?Res²CLIP:零样本泛化拉满,无需重新训练通吃新领域!
13:30
马斯克亲测好用的“编程新王”!Cursor自研的Composer 2.5 为什么可以用1/10的成本,做出媲美Opus4.7的效果?
13:49
碾压Codex?复旦x北大提出自进化Harness Engineering,deepseek-v4暴涨10个点!
09:57
在手机上也能跑的SAM?华为提出TinySAM2:参数减半,毫秒级响应!
15:22
高分辨率图像感知难题有解了!CVSearch:无需训练,即插即用!效果还比SAM3好!
12:10
谢赛宁团队最新力作!RAEv2:ImageNet生成、文生图、世界模型三项SOTA!训练效率提升超过10倍!
10:46
还在用 VLM 给 SAM3 打辅助?CLIP-Guided SAM:仅用167M参数,SAM3精度再暴涨10个点!
10:19
视频理解的感知新范式!| LLaVA-OneVision-2:视频理解/空间推理/目标跟踪全面屠榜,大幅超越Qwen3-VL!
14:21
最强分割模型SAM3也翻车了?InstructSAM:用2B参数精心设计出的统一端到端方案,推理效率大幅提升!
16:43
像素级统一Transformer重新定义文生图新范式!HiDream-O1-Image:200B参数刷新SOTA记录!
11:00
多模态Agent的"技能树"来了!浙大联合OPPO提出Skill-3D:场景感知进化,8B模型后训练逆袭SOTA!
12:44
视频理解从离线到实时的范式跃迁!复旦MOSS-Video-Preview已开源,单卡H200实时处理256帧!
09:15
快🤚首个全模态基座模型登场!Keye-VL-2.0:256K无损上下文,Agent工具全栈SOTA!
10:50
客服
顶部
赛事库 课堂 2021拜年纪