首页

投稿

【闪客】上帝视角拆解三年 LLM 架构演进！

11.3万

376

2026-05-09 18:58:56

未经作者授权，禁止转载

这期视频用最最最最通俗的语言给大家描绘了下大模型架构的演进历程，希望大家喜欢并且有帮助！ PE： https://arxiv.org/abs/1706.03762v7 RoPE： https://arxiv.org/abs/2104.09864 NoPE： https://arxiv.org/abs/2305.19466 YaRN： https://arxiv.org/abs/2309.00071 LayerNorm： https://arxiv.org/abs/1607.06450 RMSNorm： https://arxiv.org/abs/1910.07467 QKNorm / KVNorm： https://arxiv.org/abs/2010.04245 Pre-Norm / Post-Norm： https://arxiv.org/abs/2002.04745 MHA： https://arxiv.org/abs/1706.03762v7 MQA： https://arxiv.org/abs/1911.02150 GQA： https://arxiv.org/abs/2305.13245 MLA： https://arxiv.org/abs/2405.04434 Sparse Transformer： https://arxiv.org/abs/1904.10509 DSA： https://arxiv.org/abs/2512.02556 SWA： https://arxiv.org/abs/2004.05150 Gemma2 使用 SWA： https://arxiv.org/abs/2408.00118 CSA / HCA： https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro/blob/main/DeepSeek_V4.pdf KDA： https://arxiv.org/abs/2510.26692 Gated DeltaNet： https://arxiv.org/abs/2412.06464 Lightning Attention： https://arxiv.org/abs/2401.04658 Mamba： https://arxiv.org/abs/2312.00752 Mamba-2： https://arxiv.org/abs/2405.21060 Mamba-3： https://arxiv.org/abs/2603.15569 MoE： https://arxiv.org/abs/1701.06538 Switch Transformer： https://arxiv.org/abs/2101.03961 DeepSeekMoE： https://arxiv.org/abs/2401.06066 GELU： https://arxiv.org/abs/1606.08415 SiLU： https://arxiv.org/abs/1702.03118 Swish： https://arxiv.org/abs/1710.05941v1 RC： https://arxiv.org/abs/1512.03385 HC： https://arxiv.org/abs/2409.19606 mHC： https://arxiv.org/abs/2512.24880 AttnResidual： https://arxiv.org/abs/2603.15031

飞天闪客发消息

专治不明白，合作：dibingfa2020

为啥所有AI都数不清手指？多模态底层原理

07:06

开源大模型“开源”了什么？

05:31

你管这破玩意叫UE8M0？

05:03

你管这破玩意叫GPU？

05:05

10分钟大白话理清3000+开源模型

09:24

AI文生图的底层原理

09:32

DeepSeek光学压缩技术究竟是啥？

04:49

你管这破玩意叫张量？

09:42

大模型是如何测试的？以Gemini3为例

08:53

【闪客】三年AI年度总结！割裂感

14:37

【闪客】你管这破玩意叫智能体？Manus背后的技术

07:52

【闪客】深入解读 DeepSeek 元旦论文！但是用大白话哟~

09:24

【闪客】名词诈骗！一口气拆穿Skill/MCP/RAG/Agent/OpenClaw底层逻辑

14:46

【闪客】揭秘 OpenClaw 背后干了什么？怪不得这么费钱...

06:45

【闪客】AI视频的底层诅咒！Seedance2.0真的很牛吗？

09:26

【闪客】这一次，彻底搞懂蒸馏/开源/套壳，这些乱七八糟的概念！

07:20

【闪客】20 行代码彻底搞懂小龙虾！男女老少都看得懂哟~

13:39

【闪客】深入解读 Kimi 爆火论文，马斯克都转了！到底什么是注意力残差？白话解读哟

08:01

【闪客】一次 ClaudeCode 的对话流程！源码泄漏后终于能学到了~

10:34

【闪客】如何给老妈讲明白 AI 的底层逻辑？0️⃣公式，还得准确，我想到个例子~

05:42

【闪客】你管这破玩意叫 Harness？虚拟世界的牛马套餐！

11:32

【闪客】深入解读 DeepSeek V1 ～ V4！男女老少都听得懂～

11:38

【闪客】如果AI有真情绪，你舍得折磨它吗？黑镜中的场景提前到来了

09:05

【闪客】大模型已死？上帝视角拆解三年 LLM 架构演进！

11:24

【闪客】你管这破玩意叫韬（τ）定律？这只是我的标题风格别喷我~

07:43

【闪客】1M 上下文很难吗？深入解读 GLM5.2 上下文背后的技术

06:19

【闪客】新名词诈骗！你管这破玩意叫 Loop Engineering？

08:02

【闪客】大模型的分数是咋测出来的？深入拆解 Benchmark 背后的秘密

10:42

【闪客】GPT5.6 是什么水平？我花了 1036 元帮你测了下！效果直观，就是有点费钱！

05:44

【闪客】大大大模型哪大了？深入解读超大模型 Kimi K3 背后的技术

09:21

【闪客】什么是大模型斩杀线？这居然是我大学经济学课的内容！

06:04

【闪客】GPT-6 Astra 信息背面，真的提升这么大吗？这里有点说法

08:12

【闪客】水印真的不会影响输出的内容吗？结论没那么简单... Fable 5.1 信息背面

08:52

【闪客】Computer Use 是什么？它真的有在看你的屏幕吗？可能和你想的不太一样...

11:05

【闪客】你管这破玩意叫 Jev？

06:43

【闪客】这些 Jev 的案例都是骗人的！揭秘 Jev 玩我的世界效果骗局

08:27

【成品】REA

06:55

【成品】当你对一个超大参数的模型进行后训练之后？Kimi K3.1 Pro 诞生！

07:15

【闪客】你管这破玩意叫 Lean？身临其境感受 AI 爆破数学的魅力！

13:50

【闪客】ETH 是什么？它被 AI 证伪又代表了什么？深入解读目前为止最震撼的猜想推翻！

15:05

顶部