如果让一个AI只知道1930年以前的事情，它能不能写Python代码？能不能预测未来？今天介绍的 talkie 项目，就是这样一个来自1930年的AI——一个只用1931年之前文本训练的13B参数语言模型。
【00:00 开场：跟1930年的人聊天】 你有没有想过，跟一个生活在1930年的人聊天是什么感觉？他不知道智能手机，没听过二战，但对维多利亚时代的礼仪和大萧条时期的民生了如指掌。talkie 就创造了这样一个AI对话伙伴，它是目前最大的复古语言模型。
【00:34 talkie 是什么】 由GPT原始论文作者Alec Radford等人开发，2026年4月发布的开源模型。核心特点：只用1931年之前的文本训练，知识截止1930年12月31日。对之后的一切一无所知——不知道登月，不知道互联网，甚至不知道电视长什么样。
【01:21 训练数据】 2600亿个token，全部来自1931年之前的英文文本。包括当时的书籍、报纸、期刊、科学论文、专利和法律文书。数据由互联网档案馆等组织提供原始扫描件，通过OCR转录成数字文本。
【02:02 三个模型变体】 基础版是纯预训练产物；指令微调版用礼仪手册、百科全书和诗集做后训练，让模型学会对话，没用任何现代聊天数据；还有个现代对照组，相同架构但用现代网页训练，方便对比复古和现代模型差异。
【02:54 三大挑战】 时间泄漏问题：怎么确保训练数据里没有1931年以后的文本？数据质量问题：全靠OCR从纸质转录，学习效率仅为人工转录的30%。后训练数据匮乏：没有现成的复古对话数据，只能从头构建训练流水线。
【04:09 出人意料的能力】 最令人着迷的是：一个不知道计算机为何物的模型，居然能写出正确的简单Python程序。研究者还用它测量模型对1930年后历史事件的"惊讶程度"——1950-60年代事件让模型最惊讶。官方网站还有24小时直播，用Claude不断向talkie提问。
【05:03 未来计划】 团队正在训练GPT-3级别的复古模型，预计今年夏天发布。语料库可扩展到一万亿token，足以训练ChatGPT级别的复古模型。还在开发专用复古OCR系统和多语言扩展。
【05:43 为什么重要】 talkie 让研究者第一次可以严格控制语言模型的知识边界。现代所有大模型都共享互联网数据，talkie 提供了一个完全不同的对照组，让我们可以追问：对语言模型的认知，有多少是关于人类语言本身的，又有多少只是关于互联网这个特定数据集的？项目在GitHub完全开源，Apache 2.0协议。
GitHub：github.com/talkie-lm/talkie 官网：talkie-lm.com
