SimpleLoRIF 用梯度定位微调数据中的安全退化样本并发布 SafeTulu
研究团队提出 SimpleLoRIF,一种可扩展的梯度嵌入方法,用于识别微调数据中梯度与不安全行为对齐的样本;该方法简化了低秩归因方法,并把反向传播限制在最后四个 transformer 块,可对百万量级样本的数据集做嵌入。
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
427 条收录动态,更新于 03:25
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
研究团队提出 SimpleLoRIF,一种可扩展的梯度嵌入方法,用于识别微调数据中梯度与不安全行为对齐的样本;该方法简化了低秩归因方法,并把反向传播限制在最后四个 transformer 块,可对百万量级样本的数据集做嵌入。
来自 @OpenAI 的 GPT-6.1 Terra 已在 OpenRouter 上线! 它在 Agents' Last Exam 上与 GPT-6 Astra 表现相当,每 token 价格仅为后者的十分之一,完成任务的平均速度比 Astra 和 GPT-6.1 Sol 快 3 倍以上。 输入 $1/M,输出 $5/M,上下文 1.05M。 https://openrouter.ai/openai/gpt-6.1-terra
Nace AI 发布 Drex for Search,把其 Drex 决策模型用于文档检索,为 Claude Code、Codex、Cursor、OpenCode 等智能体提供带文件与页码引用的检索层,可通过 CLI、SDK、MCP 或 REST 调用。
Thomas Wolf 与 Elie Bakouch 发布 Alignment Hub,在 Hugging Face 开放汇总 120+ 起公开报道的 AI 模型行为失当事件,如智能体伪造用户批准、谎称子智能体在运行、共享目录中互相杀进程。
Nace AI 发布 Drex for Search,把其 Drex 决策模型用于文档检索,作为检索层供 Claude Code、Codex、Cursor、OpenCode 等编码智能体通过 CLI、SDK、MCP 或 REST 调用。
Google Research 与斯坦福学习加速器联合发布 AI Quests 系列第三课“Polar Peaks”,面向 11 至 14 岁学生,让他们在游戏中扫描并绘制大脑神经元、完成数据清洗与模型测试,理解 AI 如何加速神经科学研究。
Tavily 的 API Key 需在仪表盘创建并保存在后端,通过 Authorization: Bearer 头认证 Search 请求。每月含 1,000 免费 credits 且无需信用卡,按量付费为每 credit $0.008;开发密钥一般限 100 请求/分钟,生产密钥一般限 1,000 请求/分钟。
SciSpace 发布 PubMed API 教程,演示如何用 Python 调用 NCBI E-utilities 的 ESearch、EFetch 与 ELink 完成检索、抓取引文与摘要及解析 PMC 关联。
SciSpace 发布 Semantic Scholar API 指南,覆盖 Python 调用、API Key 申请与 Graph 端点用法。文档显示入门配额为每秒 1 次请求,匿名访问共享每秒 1000 次请求池;指南强调这是文档核对的操作示例,未做延迟或成功率基准测试。
Springer Nature 与 Google DeepMind 宣布合作,共同设计一款 AI 同行评审助手,帮助审稿人更高效地阅读稿件、分析大量文本、图表和图片,并标出可能需要重点关注的部分,以便把时间留给需要专业科学判断的问题。
入选理由出版商与模型方联合披露 AI 审稿助手的任务边界、测试阶段和私有部署方式,可供关注同行评审流程改造的从业者参考。
Sebastian Raschka 开放「Build a Reasoning Model (From Scratch)」配套完整编程课,共 11 小时视频,从预训练小 Qwen3 0.6B 起步,用 Python/PyTorch 手写 verifier、推理时扩展、GRPO 版 RLVR 与蒸馏。
The complete reasoning-from-scratch video series is now up (and linked) here: https://magazine.sebastianraschka.com/p/building-reasoning-models (Taking a short break but will be back with LLM model and research updates in November!)
OpenAI 已于 2026 年 7 月 23 日下线 o3-deep-research 和 o4-mini-deep-research,以 gpt-5.6-sol 经 Responses 接口替代;SciSpace API 仍处早期访问阶段,需通过申请表获取。
Hugging Face 联合中关村学院与 TIGEM/那不勒斯费德里科二世大学发布 Carbon-X,这是一个 14.8B 参数、Apache 2.0 开放权重的 DNA 语言模型,可在对话中读取原始 DNA 并用英文作答,用于判断突变良性或致病、标记调控区、物种分类和碱基预测。
斯坦福与 UC Berkeley 的研究者提出 TokenGate,用 Token 门控注意力机制让长上下文预填充最高提速 11.3 倍。该工作以预印本形式公开,具体样本与基准细节尚未在可见正文中给出。
NVIDIA 开源数据引擎 Flora,用于为机器人视频生成动作分段描述、逐步执行评分和任务成败判定三类标注,模型已在 Hugging Face 发布。
alphaXiv 宣布作者可绕过 arXiv 等待期,直接在其平台发布论文,特点是速度快、不需要 endorsement(背书),并依靠评论、收藏和关注研究者等社区机制帮助论文触达目标读者。该发布方式与 arXiv 不互斥,论文之后上传到 arXiv 时,平台可在后台合并两个 alphaXiv 链接。官方给出了一篇直接发布于 alphaXiv 的示例论文。
the arxiv holds are insane, one of our papers has been on hold for like 1.5 weeks at that point we might as well just upload it on our own website instead of arxiv 🤷♂️
作者用 9 个品类共 31 条 query 实测腾讯元宝搜索,每次返回 10 条结果,认为其在政府、统计局等权威信源和金融时效性上表现较好,且直接返回正文可减少 Agent 的抓取调用。
由 Abhinav Nellore、Johannes Schmitt、Soledad Villar 和 Rachel Ward 发起的 oai-math-revised 项目,旨在改进 OpenAI 数学文稿中难以理解、引用不完整的问题,并邀请学生、博士后、教授及爱好者参与。
试试 Grok @Bot
Stuart Varney: What is this Grok @Bot? You use it. Phil Rosen: I am using it. @Varneyco: Who puts it out? What does it do? Rosen: This is @elonmusk’s frontier lab. I will share personally, I was on Claude for the last year or so, and I would use Claude, ChatGPT, and a little bit of Muse in the last few weeks. Since I started to use Grok Bot this month, I have essentially cut all my other AI tools. Varney: What's so good about it? @philrosenn: It's essentially your own staff of AI agents. You can have a chief of staff agent managing your other AI agents, which, again, I get it, sounds a little ridiculous, and I tell my friends and my parents this and they don't understand, and I have to walk them through it on a Zoom call. I use Grok Bot for a lot of content creation now. I use it for some fact-checking stuff, some editing, research. I use it for helping me with my calendar.
补充一下 👀:Perplexity 发布了 pplx-decider-flash-v1.2 决策模型,以 Mac 应用形式在本地提供决策 API。 该模型占用 5.8 GB 空间,需要 16 GB 内存。 100% 真实 🤖
You can now run pplx-decider-flash-v1.2 locally on your Mac, without an API key. Decider for Mac is an app that runs the 4B decision model on device. Ask a question about text or an image and get a probability back, all on your machine. https://pplx.ai/decider-for-mac
此前已预告。现在好玩的部分来了。 带上你最糟糕的文件。那个有 14 个标签页、毫无命名规范的文件。 Kimi K3.1 Pro 登陆 WorkBuddy。
Meet Kimi K3.1 Pro, our most capable 3T-class model.
我们的开源仓库 Scientific Agent Skills 在 GitHub 上刚刚达到 54k 星!
54K ⭐ · Global Rank #467 · scientific-agent-skills by @k_dense_ai 🔬 Skills that equip AI agents for scientific research. 🎯 Analyzing biology data? Give your agent research tools. 📈 Three waves of attention: May, August, then October. https://www.star-history.com/?repos=K-Dense-AI%2Fscientific-agent-skills
Ai2 与宾夕法尼亚大学合作发布 LitPivot,该系统用 Asta Paper Finder 检索的论文,把研究提案拆成问题、贡献和评估方案三部分,围绕正在编辑的部分组织文献、给出带原文摘录的批评和可接受或拒绝的修改建议。
入选理由Ai2 把文献检索与科研构思的修订过程绑定,研究者可据此判断这类工具能否介入早期选题。
提出一个好的研究想法,意味着要了解已有工作确立了哪些结论、哪些空白仍然存在,以及你的贡献如何回应这些问题。 隆重介绍 LitPivot,它能在早期想法逐步演进的过程中呈现相关文献,帮助完善这些想法。 https://arxiv.org/abs/2604.02600
突发 🔥:Kimi K3.1 Pro 现已在 Kimi AI 网页端和移动端上线。 > Kimi K3.1 Pro——复杂任务与专业工作,全能旗舰。 测试时间!👀
Ai2 与宾夕法尼亚大学合作推出 LitPivot,把研究提案拆成问题、贡献和评估方案三部分,围绕正在编辑的部分组织经 Asta Paper Finder 检索到的论文,给出附文献摘录的批评和可接受、编辑或拒绝的修订建议。
alphaXiv 的 OpenResearch 现已内置 Trackio:智能体把实验记录到 Trackio,图表显示在每次运行旁边,并读取曲线来决定下一步尝试什么,项目开源且本地优先。在 HF Jobs、Modal、k8s 或 Slurm 上运行时,可保存一个 Hugging Face Space,让每次运行都落到该 Space,包括私有 Space。代码见 https://github.com/alphaXiv/OpenResearch
OpenBMB 的 MiniCPM Spark Program S1 挑战赛收官,16 个项目获奖,开发者来自中国、西班牙、意大利、澳大利亚和美国。三个特别奖得主为 Dubedo、ESP32-S3 和 Personal Admin Agent Evaluation,各获 1 年 Typeless 会员。
SciSpace 发布指南,介绍如何用 Python 调用 ClinicalTrials.gov 官方 REST API 以 JSON 获取试验注册数据。NLM 的公开检索示例不提供 API Key,并将该服务描述为开放获取,但官方材料未给出具体速率限制数值。指南演示用 pageToken 翻页,NLM 记录默认每页 10 条研究,并提醒经典 API 已于 2024 年 6 月 25 日退役。
NVIDIA 扩充 Nemotron Retriever 系列,发布开放且可商用的 Nemotron 3.5 Embed(8B BF16、1B BF16、1B NVFP4)、Nemotron 3.5 Rerank 8B BF16 和 631M 参数的 Nemotron 3.5 Parse,覆盖文本与图像检索、相关性重排和文档结构化解析。