AI for AI 到底在研究什么？从 neo lab、机制可解释性到原模型

本文整理自小宇宙播客《149. 亲历中美 neo labs 资本狂潮和清华刘子鸣聊AI for AI、机制可解释性和 Max Tegmark》通过 Ai好记 转录整理以下为精炼整理后的内容。这期播客原访谈约 100 分钟信息密度很高。我用 Ai好记 转成文字后它的精华速览把整场对话提炼成了几个核心板块。其中有一条总结让我印象很深大意是“AI for AI 不是让 Agent 写更多代码而是让系统具备研究判断能力”。就是这句话让我决定把这期内容整理成文把几条技术线索串起来讲清楚。下面结合 Ai好记 生成的思维导图和原文逐字稿拆解 AI for AI、Physics of AI 和原模型这三条相互关联的方向。AI for AI 不只是更勤奋的 Coding Agent现在不少 AutoResearch 项目的基本思路很直接让 Agent 写代码、跑实验、读指标然后进入下一轮迭代。它们解决的核心问题是实验执行速度可以理解为更勤奋的研究助手。Ai好记 的AI 润色版笔记里把刘子鸣的观点梳理得很清楚他说的 AI for AI 更强调研究判断。系统不仅要执行实验还要能提出值得验证的假设理解不同架构之间的关系并预测一次训练可能得到什么结果。为此团队提出了 OPHIS 框架把研究过程拆成观察、问题、假设、干预和加速五个环节。这个拆分很关键。我点击文字大纲跳转到原文稿相应段落发现刘子鸣在访谈里举了一个非常具体的例子论文通常只保留成功结果大量失败实验、方向调整和判断依据不会进入公开文本。没有这些过程数据模型学到的只是论文写作而不是科研本身。把研究思维结构化实际上是在为自动科研补一套训练语料。从 AI for Physics 到 Physics of AI这个转向很有意思。刘子鸣本科阶段做的是 AI for Physics用机器学习解决物理问题。ChatGPT 之后他把两者的位置反了过来开始研究 Physics of AI也就是借用物理学寻找规律的方法反过来理解模型为什么有效、训练过程如何演化、哪些结构可能具有更好的泛化能力。在 Ai好记 生成的思维导图里Physics of AI 被放在了机制可解释性的上游位置这个归类让我重新理解了它们的关系机制可解释性关注的是模型内部已经形成的结构而 Physics of AI 试图回答的是这些结构在训练过程中是怎么涌现出来的。访谈中提到的 KAN 经历也佐证了这一点。早期原型仍像一个黑盒直到网络内部结构被可视化研究价值才变得直观。重点不是一张图有多漂亮而是模型能否从只给预测进一步变成可以观察、提出假设和验证机制的研究对象。原模型帮架构搜索先做一次「初筛」访谈后半段提出了原模型的概念也就是 Meta-Model。它的输入不是普通文本而是模型架构、数据集和优化器等配置信息输出则是训练曲线和最终性能的预测。假设研究者有 100 个架构想法传统方式需要逐个训练原模型的目标是先预测哪些方案更值得投入再把真实算力集中到少数候选上。短期看它更像训练副驾驶长期愿景则是让系统参与模型设计甚至发现不同于 Transformer 的结构。我在笔记的沉浸式阅读模式下重新读了一遍这一段的原文和润色版对照。刘子鸣在访谈里的表述比润色版更谨慎反复强调「这仍是一条早期路线」原模型能否跨任务泛化、研究过程能否被可靠结构化、预测误差会不会把搜索带偏都需要持续验证。neo lab 为什么在中美同时升温我把这个话题放在最后说因为在笔记里它更像是前面几条技术线索的「背景板」。中美都出现了一批由年轻研究者主导的新型实验室也就是 neo lab它们往往研究驱动明显组织形态处于高校实验室与创业公司之间。资本提前下注并不等于技术路线已经被验证。更合理的理解是现有 Transformer 路线已经高度拥挤而下一代架构、自动科研和模型可解释性仍有大量搜索空间。顶尖研究者需要算力和工程团队投资机构希望尽早占据可能出现范式变化的位置双方需求碰到一起形成了这轮热潮。结语这场访谈最值得关注的不是下一轮融资会有多热而是 AI 研究正在尝试把自身也变成 AI 可以学习和优化的对象。从机制可解释性到 OPHIS再到原模型它们共同指向一个问题机器能否从执行实验继续走向理解实验和设计实验。以上内容由 Ai好记 转录整理它适合短时间消化这类长访谈视频是一款音视频转图文笔记的 AI 学习助手支持各大主流平台链接及本地音视频文件转入后自动生成精华速览、思维导图和结构化笔记。消化这类长访谈视频