Amazon Science 论文解释机器学习研究智能体为何不过拟合
Amazon Science 团队在论文《What fits (into few tokens) doesn't overfit: Compression and generalization in ML research agents》中提出,机器学习研究智能体在基准上反复爬坡却不过拟合,原因在于最终有效的策略高度可压缩。
入选理由用可重置的 LLM 研究智能体替代人类研究社区做对照实验,为基准刷分为何没有普遍过拟合给出可检验的解释。