• 投稿

单卡5090,10小时预训练+SFT+DPO训练出能聊天、ToolCall的大模型

1.7万
2
2026-06-14 11:51:13
573
250
1566
127
大概64M参数,单卡5090,3块钱,从零训出一个能聊天的小模型。Pretrain→SFT→DPO三步走,基于MiniMind开源项目,纯PyTorch零封装。
研究大模型最较真的人
客服
顶部
赛事库 课堂 2021拜年纪