为何 on-policy 自蒸馏不是持续学习的万能解
Base Labs 在 11 月 6 日的研究更新中论证,on-policy 自蒸馏(OPSD)虽在部分场景仍有用,但不值得继续投入研究。作者指出,带提示的教师模型已知答案、无需回溯或保留余地,这种稠密监督主要引入偏差,等于用干净但有偏的信号换掉噪声大但方向正确的奖励。
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
2,324 条收录动态,更新于 23:20
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
Base Labs 在 11 月 6 日的研究更新中论证,on-policy 自蒸馏(OPSD)虽在部分场景仍有用,但不值得继续投入研究。作者指出,带提示的教师模型已知答案、无需回溯或保留余地,这种稠密监督主要引入偏差,等于用干净但有偏的信号换掉噪声大但方向正确的奖励。
Anthropic 发布研究文章《The components of agent memory》,将 Claude 智能体记忆拆为会话日志、记忆笔记、知识表征和注入上下文四层,并引入“做梦”机制,让模型在两次交互之间的空闲时间回顾日志、纠错并更新知识库。
Peter McCrory 等人用基于任务的研发进展模型,探讨 AI 可能如何影响不同领域的整体科研进展速度。结果显示,若现有 AI 能力被广泛采用,部分领域的研究产出可能翻倍。
Peter McCrory 在 X 上称,科学家使用 Claude 时主要集中在数据分析和写作,数据分析约占 Claude 会话的三分之一、约占 Claude Code 会话的近一半。科研构思与数据收集的使用比例更低,尽管受访科学家将这些任务评为重要。原文未说明统计口径与样本范围。
Anthropic 发布报告《AI for scientific discovery: How researchers use Claude》,考察 AI 使用情况在不同科学领域和研究任务间的差异。报告评估采用模式后发现,Claude 在形式科学中的使用相对更多。
完整回顾为每个部分都配有交互式图表,还包括各实验室内部的模型构成。 阅读更多:https://openrouter.ai/data/october-2026
Anthropic 在官方研究博客中说明其对 Claude 智能体记忆的设计思路,把记忆定义为跨会话保留、以可读上下文形式保存的经验知识,并区分于权重更新、会话内学习和上下文压缩。
Transluce 训练不同规模的 Qwen3.5 监督模型,在给定微调数据集、提示词和基座模型回答的条件下预测微调后 Qwen3.5-2B 的回答,发现性能随模型与数据规模呈幂律提升。例外是与被监督模型同源的监督模型表现优于更大模型,且性能存在非零损失下限。研究还显示预测性能可泛化到更难的分布外数据集。
史上最大的开源项目之一是如何做发布的?🦞 @dallinfinite 讲解了 OpenClaw 的发布流程:dev、beta 和 stable 三个渠道,每周一班的 beta 列车,以及由一个智能体会话全程护航每次发布。
来自 @thinkymachines 的 Inkling 2 Small 在 ARC-AGI(已验证): - ARC-AGI-2:81.7%,每任务 $0.27 - ARC-AGI-1:96.5%,每任务 $0.08 在我们评估过的所有开放权重模型中,它在 ARC-AGI-1 和 ARC-AGI-2 上均表现最佳。 Thinking Machines 计划下周发布完整权重。
Anthropic 科学博客发文讨论 AI 如何开始改变科学建模:科学家仍主要手工编写模型,并需在多个竞争性版本间权衡。客座作者 Jakob Macke、Daniel Gedon 与 Stefan Wahl 描述 AI 可将科学模型以代码形式编写、运行、拟合和修订,从而探索多种可能的模型结构,并找出数据支持的解释。
Anthropic AI for Science 资助的 ELLIS Institute Tübingen 与图宾根大学研究者 Jakob Macke、Daniel Gedon、Stefan Wahl 撰文讨论 AI 如何改变科学建模。文章以 Hodgkin-Huxley 模型为例,将建模拆为构建、约束与解释三步,指出 AI 在参数约束上进展最大,但仅给出拟合模型并不等于带来理解。
@thinkymachines - 排行榜:https://arcprize.org/leaderboard - 复现公开结果:https://github.com/arcprize/arc-agi-benchmarking - 测试政策:https://arcprize.org/policy - Inkling 2 Small 完整结果:https://arcprize.org/results/thinky-inkling-2-small
@thinkymachines 与 7 月 30 日发布的原版 Inkling Small 相比,Inkling 2 Small 的 ARC-AGI-2 半私有得分翻了一倍多,从 40.14% 提升至 81.67%。
讨论的关键里程碑: • 开源影响:MedGemma 如何为全球各地的本地社区卫生工作者提供支持 • 影像工作流程:为何将乳腺X线摄影阅片时间从数天缩短至数分钟可能有助于挽救生命 • 前沿研究:深入了解 AMIE——Google 的多模态诊断 AI
OpenAI 推出 BioBasicsBench,这是一个包含 100 项任务的基准,用于衡量 AI 智能体解读原始实验数据以及处理湿实验室日常科研工作的表现。原文链接:https://openai.com/index/measuring-how-ai-agents-handle-wet-lab-science
入选理由OpenAI 把评测对象从问答转向湿实验室原始数据的解读,研究者可据此判断智能体能否接手日常实验数据处理。
MIT 团队开发的基础模型 CheMeleon 用 PubChem 中 100 万个分子的约 1600 种分子描述符做预训练,可在少量数据下微调预测溶解度、黏度、生物活性等性质,在 58 个测试案例中表现优于其他基础模型和依赖专家规则的经典模型。
OpenAI 与专注酶设计的生物技术公司 Ligo 推出 BioBasicsBench,用 100 项来自真实实验的任务评测 AI 智能体能否解读实验室原始数据、识别错误,以及判断证据是否支持某一结论。
怎样才能对自己作为研究者的未来更有信心? 对 Tony Chae 而言,在 Microsoft Research 的本科研究实习提供了一个探索新想法、与研究人员合作、并在实验室之外建立联系的机会。 这段经历帮助 Tony 拓展了知识、发展了新视角,并在他为未来的博士学业做准备时建立了信心。
新模型不该意味着要等新的 OpenClaw 版本发布 @obviyus 深入介绍他在模型目录、基于账户的发现以及 Codex 版本管理方面的工作 来自我们的工程系列:https://openclaw.ai/blog/use-new-models-in-openclaw-without-an-update
该报道聚焦 AI 智能体在自动化实验室中的角色,称其可设计由机器人驱动的实验室并代为运行。由于页面正文未能加载,具体工具名称、发布机构、证据阶段与样本量等信息无法核实。
Terence Tao 博客新帖汇总了 Pavel Etingof《Use of AI in Mathematical Research: A Guide for Young Mathematicians》、Anna Gilbert 两篇及 Larry Guth、Atoosa Kasirzadeh 等关于数学与 AI 的文章链接,并延续以往做法邀请读者在评论区补充更多文章。
Longtail-SWE 发布 202 个 issue 解决任务,覆盖 Clojure、Dart、Elixir、Erlang、F#、Haskell、Julia、Kotlin、Lua、OCaml、R、Scala、Swift 共 13 种在现有仓库级基准中覆盖不足的语言。
Artificial Analysis 发布 VIALS-AA 榜单,评测 Handshake AI 的 VIALS 生命科学视觉推理基准,161 项任务覆盖八个领域,需解读凝胶印迹、流式细胞图、质粒图谱和系统发育树等图像并得出科学结论。
Google 推出面向网络安全与多步骤任务的 Gemini 4 Carbon,Mistral 公开万亿参数 Large 4(“Le Chonk”)权重,Google DeepMind 预览世界模型 Genie 4。
Google DeepMind 公布新研究,称在人工监督下用 AI 智能体对已退役的 1024 位 RSA 密码系统做压力测试,发现两类主要弱点,说明这些系统可在比此前认为更低的计算预算下被攻破。
Google DeepMind Science 团队与密码分析专家合作,展示 AI 智能体在数周内取得两项密码分析进展,可绕过较旧的数字签名保护,并批量分解遗留的 1024 位 RSA 密钥。
https://x.com/i/article/2118746079923437568
我们分享一项新研究,展示AI智能体如何加速加密压力测试的科学进程。 在人类引导下,我们的模型发现了传统1024位RSA密码系统中的两大弱点。 我们的科学副总裁@Pushmeet 进一步解释 ↓ https://x.com/pushmeet/status/2118752095859794390
https://x.com/i/article/2118746079923437568
尽管现代2048位系统仍能抵御这些特定攻击,但这项工作揭示了一个关键转变。 随着我们进入AI驱动的数学与计算新时代,我们不能再依赖历史上的困难性假设,必须持续对密码学标准进行压力测试。