Welch Labs 讲 ResNet：2015年网络越深反而越差，30层输给14层。何恺明用跳跃连接让新层只学残差，深层网络变得可训练，横扫ImageNet、COCO，成为本世纪被引最多论文。后来康奈尔发现删层、打乱层影响很小，残差网络更像在迭代精炼残差流；这思路延续到DINOv2和Meta寄存器tokens，把残差流当工作记忆。片尾还类比量子力学诞生。
----------------------------------------------------------------
00:00:00 引言
00:00:56 当深度学习失效时
00:02:55 前向追踪数据
00:07:26 退化问题
00:08:13 探查模型
00:11:55 损失景观
00:14:17 破碎梯度
00:14:58 残差网络
00:19:06 Jane Street：令人着迷的工作之地
00:19:17 残差网络带来全新理解
00:20:40 残差流
00:23:04 视觉Transformer需要寄存器
00:27:03 AI与科学进步
00:29:00 在Patreon上支持Welch Labs！
----------------------------------------------------------------
原标题：The most cited paper of the century is a brilliant hack
原作者：Welch Labs
发布日期：2026-09-01
视频链接：https://www.youtube.com/watch?v=QgH9sr7G13Q
