• 投稿

大模型进化论06:为什么“逻辑”输给了“算力”| 深度解读《苦涩的教训》:OpenAI 开启大模型工业化的底层哲学

3328
2
2026-02-03 13:19:56
174
126
131
35
OpenAI 的豪赌与“苦涩”的觉醒 2019年,GPT-2 统一了 NLP 任务,但 OpenAI 却陷入了巨大的迷茫: 仅仅靠“预测下一个词”,真的能实现通用人工智能(AGI)吗? 面对数百万美元的算力投入,如果这条路走不通怎么办? 就在这个决定 AI 历史走向的关键时刻,一篇名为《苦涩的教训》(The Bitter Lesson)的短文横空出世,彻底打消了 OpenAI 的疑虑,吹响了 AI 工业化变革的号角。 本期视频你将看到: 🔍 三大世界的碰撞: 为什么说人类的“逻辑世界”只是物理世界的“有损压缩”?而“数字世界”又是如何通过暴力算力还原真实的? ♟️ 四大历史铁证: 从国际象棋到围棋,从语音识别到计算机视觉,机器是如何一步步抛弃人类经验并反超人类的? 📉 “苦涩”的本质: 为什么 AI 的进步总是伴随着人类尊严的打击、研究时间的浪费和掌控感的丧失? 🚀 通往 GPT-3 之路: 简单范式 + 强算力 = 唯一的真理。 如果说《苦涩的教训》是一篇定性的“哲学宣言”,那么下一期我们要聊的 Scaling Law(标度律) 就是定量的“科学手册”。 📌 章节时间轴: 00:00 GPT-2 成功后的分歧与焦虑 01:45 关键人物 Rich Sutton 与《苦涩的教训》 03:20 物理、逻辑、数字:重新定义 AI 的三个世界 05:10 惨痛的案例:为什么教机器“规则”反而让它变笨? 08:45 人类尊严的打击:为什么这种教训是“苦涩”的? 10:30 OpenAI 的信仰:简单范式 + 强算力的胜利 11:50 下集预告:吹响工业化号角的 Scaling Law
主要研究人工智能大模型,主要兴趣泛科技。Eidola Academy社区 https://eidolaacademy.github.io/
8.1万播放
简介
大模型进化论01: AlexNet笑傲江湖 | 卷积神经网络彻底战胜手动派 | 大模型 | 深度学习的启航 | Rethinking 大模型进化论第1回
10:32
大模型进化论02:ResNet 真正做对了什么 | 你真的懂ResNet吗 | 破解梯度消失 | 深度复盘 ResNet 与梯度流的秘密
05:44
大模型进化论03:Transformer的本质是万物皆KV | 深入理解Key-Value结构
18:53
大模型进化论04:BERT与GPT路线之争 | Pre-Training时代开启,BERT为何只是昙花一现 | 深度复盘
12:37
大模型进化论05:GPT-2与NLP大统一时代 | OpenAI如何用“万物皆可序列化”改写历史?
07:02
大模型进化论06:为什么“逻辑”输给了“算力”| 深度解读《苦涩的教训》:OpenAI 开启大模型工业化的底层哲学
10:05
大模型进化论07: 深度拆解 Scaling Law | 为什么“大力出奇迹”是科学而非运气?| OpenAI 凭什么敢豪赌百亿?
18:11
大模型进化论08:GPT-3意外出现智能涌现 | 大模型学会二阶智能 | In-context learning出场
07:44
大模型进化论09:大模型为什么会写代码?揭秘OpenAI与开源社区的“数据解放” | 程序员噩梦的开始
10:53
大模型进化论10:混合专家模型(MoE)进化史 | 大模型为什么要稀疏?
07:07
大模型进化论11:图像生成领域的“楚汉争霸” | GAN与扩散模型
08:34
大模型进化论12:卷积失宠 | 图像Token化 | Transformer在图像处理中强势崛起
11:52
大模型进化论13:CLIP出场 | 图像识别规模化 | 从GPT-3到通用视觉 | 一切皆对齐
09:10
大模型进化论14:DALL-E 文生图的核心原理
09:46
大模型进化论15:强化学习PPO | OpenAI 的天才设计 | 大模型强化学习的核心引擎
12:36
大模型进化论16:广义优势估计 | PPO的另外一半 | 强化学习的核心
09:49
大模型进化论17:基于人类反馈的强化学习 | 当强化学习遇到大模型
09:25
大模型进化论18:AI是随机鹦鹉?| OpenAI意见分歧 | AI的路线之争
06:19
大模型进化论19:思维链出场 | 大模型智能再次升级
04:55
大模型进化论20:大模型智能涌现?| 规模效应
07:15
大模型进化论21:DPO 轻量版的强化学习
04:05
大模型进化论22:如何训练大模型使用工具
07:58
大模型进化论23:ReAct
03:07
大模型进化论24:告别就时代 | 走进新时代
06:14
客服
顶部
赛事库 课堂 2021拜年纪