刘小排解读 Anthropic 模型如何通过书籍数据进步

刘小排以数学家与刷题学生比喻基础模型和蒸馏模型的能力差异，并用 Anthropic 的书籍采集流程解释头部模型如何扩充训练语料。文中引用法院记录称，Anthropic 曾在 2021～2023 年下载数百万份盗版书，随后通过 Project Panama 大量购买实体书，切脊、扫描后回收，以获取冷门、专业和学术书籍文本。