• 投稿

AI为什么非要用显卡?根源是数学里的矩阵运算/深度长视频GPU物理结构与工作原理科普

3万
57
2026-08-17 15:19:13
1733
504
2472
158
为什么训练大模型一定要用显卡?🔥 显卡一开始只是为游戏而生! 从 3dfx 初代 3D 加速卡,到英伟达 CUDA、张量核心登场。 GPU 不靠更强的单核性能,靠海量并行矩阵计算,完成了从游戏芯片到 AI 算力巨兽的惊天逆袭。 看完搞懂 GPU 底层原理,看懂 AI 时代的核心硬件~ 我们将拆解底层逻辑:GPU 并不是更强的 CPU,海量并行单元、矩阵计算能力,才是它统治 AI 时代的根本~ 同样是处理器,CPU 擅长串行复杂逻辑,而 GPU 依靠海量计算核心实现大规模并行运算,这也是它既能渲染游戏画面,又能支撑 AI 大模型训练的底层根源~ 拆开 GPU 芯片,内部由成百上千个流多处理器 SM、张量核心、光追核心、寄存器、共享显存控制器组成。大量小巧简单的计算单元并排排布,擅长同时处理大量重复矩阵运算。游戏中,它并行计算多边形、光影纹理;AI 场景下,张量核心专门加速神经网络矩阵乘法~ CPU 核心少但功能强大,适合调度、分支判断;GPU 核心数量庞大,专注批量重复计算。早期显卡只为 3D 游戏渲染而生,CUDA 释放了 GPU 通用计算能力,后续张量核心、光追核心不断加入,让一块芯片同时兼顾图形渲染、AI 计算、光线追踪。看懂 GPU 的物理结构,就能明白为什么如今的 AI 时代,显卡会成为不可或缺的算力底座~
硬核科技创投不亏钱小能手,吹牛表演艺术家,一个技术理想主义者。
聊透芯片
(6/7)
21.9万播放
简介
【聊透芯片】芯片的本质是什么?一口气讲清楚芯片到底是什么东西?他之于世界的意义
13:45
【聊透芯片】普通人为什么要了解芯片,一口气说清楚芯片对于现代世界的意义所在,挖个系列坑~
04:42
作为人类工业皇冠上的明珠,光刻机是如何工作的呢?
13:54
别只盯着光刻机!先进封装才是 AI 算力的隐形核心,积木式集成重塑芯片
09:16
从家用PC到AI超算,带你了解完整的存储层级,深度拆解DRAM/3DNAND/SRAM/HDD的物理结构
25:44
AI为什么非要用显卡?根源是数学里的矩阵运算/深度长视频GPU物理结构与工作原理科普
28:46
短距光通信的“隐形基石”,是个视频看懂VCSEL光芯片
07:50
客服
顶部
赛事库 课堂 2021拜年纪