许多科学发现问题,本质上是在开放空间中面向特定奖励的决策问题。近期,伦敦大学学院汪军老师领导的团队发布了大发现模型(Large Discovery Models, LDMs),专门用于解决科学发现领域中 “如何设计下一个实验” 的问题。
LDM 是一套递归式的基础模型架构,核心是将生成式基础模型与高斯过程奖励模型相结合:基础模型依托历史信息与上下文,在开放空间中持续拓展、重塑当前的有效搜索空间;高斯过程则在该搜索空间内,基于实验历史构建贝叶斯奖励信号,评估各个候选方案用于下一轮实验的价值。LDM 能够依据实验数据与基础模型的上下文更新完成实时迭代,奖励信号也可以通过后训练融入基础模型参数,由此形成快、慢两套学习闭环。

论文: Large Discovery Models: Empirically-grounded Model-Based Open
来源:机器之心