• 投稿

为什么 AI 参数变大,就会长出全新的能力?

3万
19
2026-07-13 20:00:00
个人观点,仅供参考
559
75
1111
87
同样的架构,同样的训练方式,同样的数据来源。唯一变化的是规模。小模型做三步推理接近瞎猜,大模型突然就能做了。不是"做得更好了一点",而是之前完全不行,突然就行了。更多同样的东西,为什么会产生完全不同的东西? 本期内容: 1. Scaling Law:参数、数据、算力同时放大,整体误差平滑下降——但某些具体能力并不是平滑出现的 2. 多步推理、思维链、少样本学习:三种突然"开关式"出现的能力 3. 相变:水变成冰时,温度连续变化,状态却不连续跳变——冰的坚硬不属于任何一个水分子4. 信息论视角:涌现不是表面现象,而是新的信息模式被创造出来 5. 从参数到智能、神经元到意识、蚂蚁到群体智能、分子到生命——涌现不只属于AI 6. 密度之外,结构同样关键:同样的数据和规模,换一种架构,结果可能完全不同 信息不只是构成现实的东西。它还是创造新层级现实的过程。 订阅频道,和Neo一起探索信息与现实的底层结构!
9.3万播放
简介
AI 揭示的深层现实:信息比物质更加根本
13:47
为什么 AI 参数变大之后,会突然长出全新的能力?
16:03
结构:信息流动的拓扑,决定了系统能力的上限
11:29
注意力机制:智能涌现的分水岭
12:11
理解的本质:压缩是理解的机制,模型是理解的产物
15:54
说中文和说英文,为什么像两个不同的大脑?语言如何塑造思想
16:43
你活在自己的世界模型里,而非活在 “现实本身” 里
13:47
现实与模拟的边界,还有边界吗?
13:48
当模型里出现了建模者自己,会发生什么?
13:58
意识是信息涌现以外的东西,还是信息的一部分?
14:18
AI,我们到底在创造什么?
12:52
客服
顶部
赛事库 课堂 2021拜年纪