以 GEMM 为例,学会使用Nsight Compute
【AI Infra 一小时入门】GPU、CUDA、vLLM、PyTorch、KV Cache、Triton、K8s、Ray,一次搞懂大模型背后的技术体系
让 AI 看懂 NCU Report:自动分析 CUDA Kernel
CUDA 向量化到底快在哪?用 NCU 指标拆给你看
CUDA 算子优化:从 Add Kernel 看懂向量化与显存带宽
从零到一:像刷力扣一样手撕100个AI Infra的Kernel算子(CUDA+Triton+Pytorch)
CUDA快速反量化原理:不用I2F指令实现INT8→FP16转换
Nsight Compute 内存分析详解:Request、Sector、Wavefront
Nsight Compute 占用率详解:Occupancy 到底是怎么算出来的?
Kernel Bench 详解:如何评测大模型生成的 CUDA Kernel
CUDA人工智能编程教程
深入浅出深度学习算子优化 — TFLOPS 到 FlashAttention
手撕AI Infra算子系列4:CUDA、Triton、Pytorch的前世今生
老张公开课:算力、GPU、AI服务器详解(上)
NVIDIA【AI基础设施和操作基础知识】AI Infrastructure and Operations Fundamentals
FP8 attention计算精度分析
CUDA 底层指令学习:ldmatrix 的使用方法
从英伟达CUDA到昇腾CANN,计算架构为何这么重要?
通关cuda、anaconda、pytorch的安装(深度学习必备基本功)
[中配]Mojo + Vulkan 太疯狂了:无需CUDA,任何GPU都能跑本地AI(再见英伟达) - Cloud Codes