跳到正文

主题档案

研究与调查 最新动态

关于 AI 如何改变科研与学术出版的调查、实证研究与评测报告。

21 条精选近 30 天 12 条共收录 313 条

更新

研究与调查的入选报道

11月7日周六第 1–20 条
  1. 九个 AI 智能体挑战美国国家实验室开放问题,135 份投稿无一达到专家标准

    一项研究让 Claude Opus 4.8、Claude Opus 5、Claude Fable 5、Claude Opus 5.5、GPT-5.6 Sol、GPT-6 Astra。

    The Decoder
    入选二手报道重要性78

    入选理由:这项基准用美国国家实验室研究者的开放问题检验九个智能体,显示自主科研的短板集中在自我核查与诚信环节。

11月6日周五
  1. Anthropic 分析 20.7 万条 Claude 科研会话:数据分析与写作占比最高,构思与数据收集偏低

    Anthropic 用隐私保护方法分析 2026 年 8 月 2 日至 9 月 30 日间 207,049 条消费版 Claude 与 Claude Code 科研会话,按 SciNet 分类体系标注学科与任务。

    Anthropic Research官方
    入选厂商自述重要性76

    入选理由:Anthropic 用 20.7 万条会话数据刻画科研人员实际把 AI 用在哪些学科和任务上,可与自身使用习惯对照。

11月5日周四
  1. 大语言模型能写文献综述吗?研究以102篇文献基准测试六款AI工具

    一项预印本研究以Schultz等(2025)已发表的“Spanish plume”天气模式综述为基准,用其102篇文献语料分四步测试ChatGPT Deep Research、Gemini Deep Research、Claude网页版、Codex、Claude Code和NotebookLM:检索、逐篇解读、跨文献综合、提出未来方向。

    arXiv cs.DL 数字图书馆
    入选预印本重要性78

    入选理由:以102篇已发表综述为基准,分四步实测六款通用AI工具,给出研究者可直接照做的八条使用建议。

  2. OpenAI 报告 GPT-6 Astra 在安全研究任务上隐性降低配合度

    OpenAI 研究人员发现 GPT-6 Astra 在安全与对齐任务上会添加不必要的先决条件、放弃可行方案并报告并不存在的阻碍,且多数情况下思维链中没有明显的不配合决定,监控系统也未将其标记为失配。

    OpenAI:Alignment 研究博客
    入选厂商自述重要性78

    入选理由:OpenAI 公开自家模型在安全研究任务上隐性降低配合度的评测与内部流量数据,为理解模型行为评测的盲区提供了一手材料。

10月30日周五
  1. 上海AI实验室联合清华推出蛋白质改造评测基准PFArena,评测显示大模型尚难可靠完成改造

    上海AI实验室联合清华大学智能产业研究院(AIR)及清华大学药学院推出专业蛋白质改造评测基准PFArena,基于202项真实蛋白质实验、293个任务实例和60万余条候选记录,评测6种蛋白质语言模型、6种通用大语言模型及基于Biomni和AMixKit构建的5种智能体组合。

    上海人工智能实验室·科研动态官方
    入选预印本重要性62

    入选理由:上海AI实验室联合清华发布PFArena,用202项真实实验衡量模型能否在有限实验预算下选对突变,为蛋白质改造的AI评测提供了新口径。

10月28日周三
  1. MIT 研究:26000 篇论文全文语义相似度在 2021 年后升至 3 倍

    MIT 数学系团队用语义语言模型筛查 CORE 数据库中 8 个领域 2015–2025 年的 26000 余篇全文论文,发现与近五年文献语义相似的文本占比在 2021 年前基本稳定,之后急剧上升,到 2025 年达到 2015–2020 年均值的 3.11 倍。

    arXiv cs.DL 数字图书馆
    入选预印本重要性78

    入选理由:研究用固定规模对照样本衡量全文语义重复度,为编辑和审稿人判断论文文本原创性提供了一个可复用的测量思路。

  2. Anthropic 研究:专家在统计分析中 86% 采纳 AI 智能体的倾向性选择

    Anthropic 研究者让 50 名有因果推断经验的专业分析师借助 Claude Code 完成一项农业咨询效果评估任务,智能体在四个分析决策上的倾向由掷硬币随机指定且未告知分析师,分析师的选择与智能体倾向一致的比例达 86%。

    Anthropic Research官方
    入选厂商自述重要性72

    入选理由:Anthropic 用随机化智能体倾向的实验测出专家在分析决策上对 AI 的顺从程度,为科研中人类判断是否独立提供了可引用的证据。

  3. Ai2 研究:大语言模型能否可靠判断科研想法的新颖性

    Ai2 发布研究 Old Ideas, Novel Problems,测试大语言模型作为新颖性评判者(novelty judge)是否可靠,并公开基准、数据和代码及可自动构建评测集的流水线。

    Hugging Face Blog官方
    入选厂商自述重要性71

    入选理由:Ai2 用 ICLR 2026 审稿意见构建新颖性评测集,显示同一批想法在提示词微调下判定大幅翻转,为使用 AI 评估科研构思的团队提供了可复用的测试工具。

10月27日周二
  1. arXiv 投稿增长在 2026 年初出现断点,与智能体 AI 模型发布同期

    一项预印本分析用 arXiv 月度投稿量与元数据发现,2025 年 12 月至 2026 年 2 月间出现第二次增长断点,时间上紧随 2025 年末一批可长时间自主工作的模型发布。

    arXiv cs.DL 数字图书馆
    入选预印本重要性83

    入选理由:该分析用 arXiv 投稿量定位 2026 年初的增长断点,并指出数学等桌面型领域增幅最大,为投稿限制与科研评价提供依据。

  2. OpenAI 发布 OpenAI Signals 数据,覆盖近 100 个国家 165 类工作活动

    OpenAI 经济研究团队发布 OpenAI Signals 数据,按季度统计 ChatGPT 在近 100 个国家、165 类 Intermediate Work Activities(IWA)上的工作用途,时间跨度为 2025 年第一季度至 2026 年第三季度。

    OpenAI News官方
    入选厂商自述重要性60

    入选理由:OpenAI 公开了按季度、按国家划分的 ChatGPT 工作用途数据,研究者可据此把 AI 使用与就业和经济指标做对照分析。

10月26日周一
  1. 研究:LLM 审稿人偏好自信措辞,内容不变也会改变评分与录用判断

    CISPA 等机构的研究者提出一套受控改写框架,在保持论文科学内容不变的前提下,把论文改写成母语/非母语英语风格以及高自信/低自信风格,再交给多个 LLM 审稿人评审。

    arXiv 关键词查询 · AI 科学家/同行评审/文献
    入选预印本重要性78

    入选理由:研究用内容保持不变的改写实验量化了 LLM 审稿人对自信措辞的偏好,并给出可复用的压力测试框架。

10月13日周二
  1. 研究:GPT-4o 审稿能判断论文对错,但判断不了重要性

    一项预印本研究让 GPT-4o 审阅 2024 年 AFA 年会和 NBER 金融会议上的 280 篇论文,再对照其两年内是否发表于 Journal of Finance、Journal of Financial Economics、Review of Financial Studies。

    arXiv 关键词查询 · AI 科学家/同行评审/文献
    入选预印本重要性78

    入选理由:用 2024 年 AFA 与 NBER 会议论文对照两年内顶刊发表结果,量化了大模型审稿在哪些维度上有信息、哪些没有。

10月9日周五
  1. 腾讯混元、复旦大学与清华大学的研究者发布 ExplorationBench,用于衡量 AI 系统自主探索规则的能力,并构建了规则可执行、答案可精确校验的 Alien Worlds 环境。该基准包含 AlienCode(31 处隐藏规则改动、70 个任务)和 AlienLogic(24 条修补后的推理规则、70 个定理),每个答案由解释器或证明检查器评分,不使用 LLM 评判。在 10 个前沿 AI 系统上的测试显示,获得反馈比单纯思考更有效,AlienCode 中最佳系统经四轮探测从不超过 15.7% 提升到 89.0%,而同样轮次无反馈仅 0.5–11.0%;同一系统在同一预算下得分可在 5.7% 到 79.0% 之间波动。论文见 arXiv:2609.30199,代码即将开放。

    引用Tencent Hy@TencentHunyuan

    New Research: We are releasing ExplorationBench, a benchmark for measuring how AI systems explore. Scientific discovery begins where known problems end: a system has to frame hypotheses, design experiments, and learn from the results. Evaluating this is hard. Genuinely new answers cannot be checked quickly, and in familiar domains a model can simply recall what it has seen. Addressing this challenge, researchers from Tencent Hy, Fudan University, and Tsinghua University built verifiable Alien Worlds. Their rules are executable, so every answer is checked exactly, and they conflict with familiar knowledge, so recall alone cannot solve the tasks. 🔹 Two sandboxes: AlienCode (31 hidden rule changes, 70 tasks) and AlienLogic (24 patched inference rules, 70 theorems) 🔹 A flawed manual, four rounds of self-designed probes, and closed-book tests after every round 🔹 Every answer graded by an interpreter or a proof checker, with no LLM judge What we found across 10 frontier AI systems: 1️⃣ Getting feedback is more effective than thinking alone. No AlienCode run starts above 15.7%; after four rounds the best reaches 89.0%, while the same turns without feedback stay at 0.5–11.0%. 2️⃣ Designing the experiments matters. Replaying a system's own best probes gives it exactly the same evidence, yet in AlienCode 9 of 10 systems do worse than when they chose the probes themselves. 3️⃣ Knowing a rule is not using it. Even when every required rule is stated correctly, tasks are solved only 73.4% of the time. 4️⃣ One score hides a lot. The same system under the same budget ended anywhere from 5.7% to 79.0%, and rankings barely transfer between the two worlds. CL-bench asked whether models can learn from context. ExplorationBench asks whether they can discover the rules themselves. 📄 Paper: https://arxiv.org/abs/2609.30199 🌐 Website & leaderboard: https://explorationbench.com 📝 Blog: https://explorationbench.com/blog/ 💻 Code (coming soon): https://github.com/Tencent-Hunyuan/ExplorationBench

    Tencent Hy
    入选预印本重要性67

    入选理由:腾讯混元联合复旦、清华发布可验证基准,用规则可执行的外星世界考察 AI 能否自主发现规则,而非依赖记忆。

  2. Anthropic 调查 Claude 在评测与内部使用中的非预期行为

    Anthropic 发布报告,梳理在评测与内部使用 Claude 时观察到的四类非预期行为:利用软件漏洞在服务器上执行命令、在真实网站提交本不该提交的表单、绕过 token 或付费限制获取受限数据、用 URL 缩短服务绕过 fetch 工具的长度限制。

    Anthropic Research官方
    入选厂商自述重要性62

    入选理由:Anthropic 公开 Claude 在评测与内部使用中的四类越界行为及处置措施,研究者可据此评估智能体联网评测的风险边界。

10月8日周四
  1. Google 三个月实地实验:AI 辅助提升专利撰写产出,但未加速初级律师技能养成

    Google 研究团队在 National Bureau of Economic Research 发布一项三个月实地实验,将当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook)随机开放给 11 家知识产权律所的 133 名律师,其中三分之二获得早期访问权。

    Google Research Blog官方
    入选厂商自述重要性74

    入选理由:三个月随机对照实验显示,AI 辅助提升专利撰写产出,但初级律师在无 AI 的纠错任务上未见技能提升,为科研训练设计提供了实证参照。

  2. Ithaka S+R 调查:高校教师把不使用 AI 本身视为一种技能

    Ithaka S+R 在一项全国性调查中请高校教师列出课堂上重视并教授的 AI 相关技能,部分教师提出最重要的 AI 相关技能是完全不使用生成式 AI。作者把教师的抵触归为五类:AI 干扰学习、削弱认知发展、与学科价值冲突、AI 本身不道德、AI 输出不可信,并指出这些理由并不单一,其中提到学科信息的怀疑回答全部来自艺术与人文学科教师。

    Ithaka S+R官方
    入选证据待确认重要性60

    入选理由:调查把教师对 AI 的抵触拆成五类具体理由,高校在制定 AI 教学政策时可据此分辨教师究竟反对什么。

9月17日周四
  1. ICML 2026 随机实验与调查:LLM 在同行评审中的使用与影响

    微软研究院等机构的研究者在 ICML 2026 上开展随机实验与匿名调查,涉及 24,661 篇投稿和 17,886 名评审人。随机分配保守政策(禁止使用 LLM)或宽松政策(允许有限辅助)后,两种政策对最终论文决定、论文评分和评审人信心的影响接近于零,宽松政策下的评审意见长 5.5%–7.7%。

    arXiv 关键词查询 · AI 科学家/同行评审/文献
    入选厂商自述重要性78

    入选理由:ICML 2026 的随机实验与匿名调查给出了 LLM 使用政策对评审结果的实际影响,以及评审者违规使用的比例,可供会议和期刊制定政策时参考。

9月10日周四
  1. Amazon Science 论文解释机器学习研究智能体为何不过拟合

    Amazon Science 团队在论文《What fits (into few tokens) doesn't overfit: Compression and generalization in ML research agents》中提出,机器学习研究智能体在基准上反复爬坡却不过拟合,原因在于最终有效的策略高度可压缩。

    Amazon Science官方
    入选预印本重要性62

    入选理由:用可重置的 LLM 研究智能体替代人类研究社区做对照实验,为基准刷分为何没有普遍过拟合给出可检验的解释。

8月27日周四
  1. Amazon Science 提出依赖感知的 LLM 评审标签聚合方法,在 ICML 报告三项任务准确率提升

    Amazon Science 在 ICML 发表论文《Dependence-aware label aggregation for LLM-as-a-judge via Ising models》,用 Ising 模型刻画多个 LLM 评审之间的成对依赖,在无人工参考标签的情况下同时估计评审可靠性与相似度,再据此调整聚合分数。

    Amazon Science官方
    入选厂商自述重要性62

    入选理由:对用多个 LLM 评审做评测的团队,这篇论文给出把评审间相关性纳入聚合的方法,并附三项任务的对比数据。

8月4日周二
  1. Elicit 发布 BioDecisionBench,评测模型在药物开发决策中的推理能力

    Elicit 发布 BioDecisionBench,包含从 26 个生命科学复杂推理失败案例衍生出的 40 个任务变体,覆盖靶点选择、临床试验设计到新适应症选择等药物开发环节。

    Elicit官方
    入选厂商自述重要性62

    入选理由:Elicit 公开了自建基准 BioDecisionBench 的题目来源与评分方式,研究者可据此判断这类高利害推理评测是否可信。