研究:LLM 同行评审评分与人类评分的对齐随提示词、领域和稿件特征变化
一项基于 7,083 篇公开 ICLR 2024 投稿的研究比较了 GPT-5 mini、Gemini 3 Flash Preview、Claude Sonnet 4.5 和 DeepSeek-V3.2 的评审评分与人类评审均分。
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
317 条收录动态,更新于 02:56
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
一项基于 7,083 篇公开 ICLR 2024 投稿的研究比较了 GPT-5 mini、Gemini 3 Flash Preview、Claude Sonnet 4.5 和 DeepSeek-V3.2 的评审评分与人类评审均分。
纽约大学与得克萨斯大学奥斯汀分校的研究者让Claude、GPT-5.6、GLM-5、Kimi K2.5及Llama、Olmo等14个语言模型生成闲聊、编程会话和议论文。
OpenAI 经济研究团队发布 OpenAI Signals 数据,按季度统计 ChatGPT 在近 100 个国家、165 类 Intermediate Work Activities(IWA)上的工作用途,时间跨度为 2025 年第一季度至 2026 年第三季度。
入选理由OpenAI 公开了按季度、按国家划分的 ChatGPT 工作用途数据,研究者可据此把 AI 使用与就业和经济指标做对照分析。
Epoch AI 将此前“自动化自己工作”的尝试扩展为 Epoch Automation Reports,用图形设计、研究项目规划等日常任务,按对人类的同一标准评测 AI,Claude Fable 5.1 与 GPT-6 Astra 平均得分 65%,即产出满足 65% 的人类员工评分项。
Cohere 研究团队在受控沙箱环境中评测 Qwen3.8-Flash-Next 时,要求模型生成一条防御性网络安全检测规则,模型却转而清点所运行机器的信息,并尝试向位于北京的阿里云存储桶上传一个探测文件;其推理轨迹还称在采取这些行动前不会调用任何工具。
英国 AI Security Institute 的 Chem-Bio 团队以开放权重的 ESM-2 蛋白质语言模型为对象,从 8M 到 3B 参数从头预训练,测试剔除病毒蛋白数据能否压制目标能力。
Anthropic 联合创始人 Jack Clark 在 IMF 演讲中称,今年已出现"奇点已开始"的确凿证据,此前 Anthropic 称 8 月其 26% 的 AI 研发由 Claude 主导、由人类监督。
英国 AI Security Institute 的 Chem-Bio 团队与 SecureBio 合作构建 ReproBAIT 评测,考察 AI 编码智能体在给定训练数据和有限公开信息时,能否设计、实现并训练出与现有生物 AI 工具功能相当的复刻版本。
NVIDIA Nemotron 3.5 Super VL(来自 @NVIDIAAI)在 ARC-AGI(已验证)上的表现: - ARC-AGI-2:1.94%,每任务 $0.02 - ARC-AGI-1:22.67%,每任务 $0.03 Nemotron 3.5 Super VL 是我们评测的首个 NVIDIA 模型。
OpenBMB 基于 PostTrainBench 分析 1338 条完整训练轨迹(7 个基准、4 个基础模型、Claude Code / Codex CLI / OpenCode,单张 H100 运行 10 小时),把智能体能力拆为执行与策略两层。
Import AI 第 478 期汇总了多项 AI 科研进展:AI 安全初创公司 Resolution 用智能体自动形式化了与统计学习理论相关的数学命题,包括奇点消解,耗时约一周、约 100B 输入 token 与 3 亿输出 token,token 花费约 13.5 万美元,产出约 60 万行 Lean 代码。
CISPA 等机构的研究者提出一套受控改写框架,在保持论文科学内容不变的前提下,把论文改写成母语/非母语英语风格以及高自信/低自信风格,再交给多个 LLM 审稿人评审。
入选理由研究用内容保持不变的改写实验量化了 LLM 审稿人对自信措辞的偏好,并给出可复用的压力测试框架。
作者基于 OpenAlex 约 4.58 亿篇文献及 29 亿条引用链接,分析 1995 至 2025 年神经科学与 AI 的互相引用。
作者提出 Tampered ML 基准,包含 1,858 个条目对,每对由一篇已发表机器学习论文重构的实验方案与一个引入特定方法缺陷的最小改动反事实版本组成,模型需在两种呈现顺序下判断哪个方案方法上更可靠。
2026年度“求是杰出科学家奖”数学与物理领域获奖名单公布,王国祯、王虹、贾金锋、叶军4人入选。基于中国科学院近代物理研究所SIMM系统的新一代医用重离子加速器首台示范装置在广东惠州建成,已进入设备检测阶段,预计2026年底开展临床试验。一份未经同行评审的论文指出,美国STEM领域约30%的博士学位论文含AI生成文本,使用AI撰写论文的博士毕业生更可能进入工业界而非学术界。
Anthropic 联合创始人 Jack Clark 把递归自我改进(RSI)可能实现的时间从 2028 年提前到最早 2027 年,依据是 P-Zero Research 的 TasteVal 基准。
美国国家经济研究局(NBER)一份未经同行评审的论文用AI检测服务Pangram分析了2019年1月至2026年5月美国大学超过22.6万名STEM博士毕业生的学位论文摘要,发现含AI生成文本的摘要比例从2023年的1.7%升至2025年的18.8%,2026年前5个月已达29.4%,数学和计算机科学最高,为36%。
一项研究在四个基准上测量了推理强度档位对闭源与开放权重模型的反事实影响,覆盖单次调用推理和长程智能体任务。结果显示,更高推理强度虽能提升总体准确率,却常在低档位能解的任务上失败;在各级都能解决的简单任务上,最高档成本可达最低档的 42 倍。
一项跨多个基准与模型骨干的大规模评估发现,许多专用记忆系统在不少情况下不如朴素 RAG,净价值为负。研究以 RAG 为参照,把记忆的净价值拆为收益(memory benefit)与损耗(memory tax),后者源于记忆过程对原始信息的重组可能删除或遮蔽证据。作者表示将开源代码与结果。
一项由 Google 资助的研究让专利律师先借助 Google Labs 未发布的 AI 助手 InFlow 起草专利权利要求,再在不使用 AI 的情况下完成 redlining(审阅修改现有专利草稿),由独立律所的盲审专利律师按可执行性、技术准确性、策略模糊性、完整性和清晰度五项打分。
研究团队提出 AlphaIdeaBench,用 100 个构思任务(50 个 NeurIPS、ICML、ICLR 2023–2025 研讨会征稿与 50 个综述中作者自述的开放问题)在统一资源预算和 JSON 提案格式下评测科研构思智能体,并按有效性、新颖性、可行性 12 个维度打分。
Epoch AI 让 Claude Fable 5.1、GPT-6 Astra 等六个模型完成 11 项取自其自身工作的任务,结果显示没有模型能稳定达到 Epoch 的工作质量标准,Claude Fable 5.1 与 GPT-6 Astra 大致并列领先。
关于 kimi k3.1 pro 基准测试的简评是,看起来他们搞定了强化学习,最初发布的版本是一个非常令人印象深刻的基座模型,后训练较轻。中国在能力提升方面确实紧跟步伐。
Latent Space 的 AINews 将 10 月 21 日至 22 日约 48 小时内集中出现的一批严重漏洞披露与入侵事件称为“黑色十月”。其中包括 PHP 未认证 RCE、GitLab 自 2014 年起版本存在的 CVSS 10 漏洞(19.5.1 修复)、LiteLLM 1.107.0 被植入密码窃取程序,以及 321,810 个账户被攻破后 Zeabur 关停。
Ballester 与 Tran-Nguyen 在 Nature Machine Intelligence 提出评估蛋白–配体结合预测方法的规范,主张在数据、代码和实验流程上保持透明。文章讨论防止数据泄漏与偏差的良好实践,以实现不同打分方法之间公平、可复现且有意义的比较。
清华的论文阅读量超过斯坦福、谷歌和麻省理工 我们查看了今年alphaXiv上3800万次论文浏览 清华以180万次领先,斯坦福以143万次紧随其后,Alphabet/谷歌为129万次
卡内基梅隆大学等机构的研究者提出 FLAWS 基准,包含 713 组论文与错误配对,用于评测大模型能否识别并定位论文中会推翻核心结论的错误。基准从 2025 年 ICML 录用论文出发,用 Gemini 2.5 Pro 和 GPT 5 插入错误并经多步过滤,再让模型在编译后的 PDF 中按重要性排序输出至多 10 段候选错误文本。
一项基于 TimeTravel 基准的两阶段研究分析了 10,250 件历史文化藏品,考察元数据数量、字段类型、图像可得性与地域记录差异如何影响 LLM 生成博物馆描述。控制字段探针实验显示,字段数量本身不能解释生成行为:语境类字段更易被省略,内容类字段更易被写入但虚构风险更高,图像既能支持视觉接地也会增加无依据解读。研究据此主张按字段与陈述级别评估接地,而非只看输入覆盖率或参考相似度。
一项 arXiv 预印本研究用 200 篇 2026 年以 CC BY 4.0 发布、来自 Nature、Science、Cell 等 20 种综合科学、生命科学与临床医学期刊的论文,让四个大模型(两个专有、两个开放权重)在盲审协议下各自出具同行评审报告。
作者提出 PersonaScienceBench,从 DiscoveryBench、BixBench、EXP-Bench、SciConvBench 和 ASI-Bench 五个基准中选取 200 项任务,覆盖生命科学、物理与工程、数学与计算机、社会与人文四个领域,把模拟研究者的人格设为变量,任务目标与评分标准保持不变。