• 投稿

【AI 教学实验】预测,为什么会产生智能?从神经元、突触到 Transformer

1万
10
2026-10-06 06:57:53
含AI生成内容
379
106
1162
102
这是一次实验:从文案、图形到配音,整支视频都由 AI 生成。上一期讲了大模型怎么用、内部怎么算;这一期回答一个更根本的问题:**为什么预测下一个词,会产生智能?** 视频把神经科学和深度学习两条线放在一起讲: · 生物如何产生智能:神经元的积分放电(LIF 方程)、赫布学习与 NMDA 受体、STDP、Oja 规则(赫布学习 = 主成分压缩)、多巴胺与时序差分误差、三种学习系统、信用分配之谜 · 表征与记忆:视觉层级、稀疏编码、概念细胞、网格细胞与“概念空间的地图”、Hopfield 网络、互补学习系统、海马体预演、N400 · 语言与预测:语言网络与推理网络分离;链式法则、交叉熵 = 熵 + KL、损失即压缩率;预测何时会逼出世界模型(行星轨道 vs Othello) · 剖开 Transformer:叠加与 Johnson–Lindenstrauss、注意力的数学、注意力 = 现代 Hopfield 网络、线性注意力 = 赫布式快速权重 = 一步梯度下降、前馈层 = 键值记忆、残差流、RoPE · 电路:归纳头、两跳推理的因果验证、模加法的傅里叶算法与“顿悟” · 汇合与边界:原理对照表、TC⁰ 与思维链、softmax 稀释、幻觉的机制来源、数据效率与持续学习的差距 画面中的标签区分了“实验确证”“数学等价 / 定理”“形式相似”和“仍有争议 / 未解”。注意力与梯度下降的等价只在线性化模型中严格成立;网格细胞与 RoPE 只是形式相似;预测误差神经元、强化学习的作用等仍有争论。资料检索于 2026 年 10 月。配音为 1.25 倍速。如有不准确之处,欢迎在评论区指出。 ⏱ 章节 00:00 开场:这是一次 AI 教学实验 00:56 01 智能的起点:记忆、比较与行动 02:11 02 神经元:积累证据,做出决定 03:56 03 学习:突触如何记住经验 07:29 04 表征与记忆:概念、地图与回放 11:26 05 人类的特别之处与语言 12:32 06 预测为什么会逼出建模 14:33 07 概念如何住在向量里 15:53 08 注意力:会检索、会学习的记忆 19:00 09 前馈层、残差流与位置 20:53 10 从部件到思维:电路 23:36 11 两条线的汇合与边界 文案与图形:AI(Claude)|配音:Gemini 语音合成
Calcit 作者。WebGPU 患者。
客服
顶部
赛事库 课堂 2021拜年纪