跳到正文
事件追踪已归档

EleutherAI研究:潜意识偏好可跨模型传递

首次报道 最新进展 1 篇报道,1 个来源

事件综述根据 1 篇报道整理,10月26日更新

EleutherAI 在 SOAR 项目下发布论文《Tracing Subliminal Learning Through Pretraining》,研究学生模型如何通过语义上无关的训练数据习得教师模型的偏好,即“潜意识学习”在预训练中的跨模型迁移。 据 EleutherAI 介绍,该研究追踪了偏好信号从教师模型向学生模型传递的过程,并称这类偏好可经由蒸馏传递。论文目前以预印本形式发布,尚未见同行评审或独立复现。

综述由模型根据报道生成,细节以各篇原文为准。

进展时间线

北京时间,最早在上
  1. EleutherAI:BlogEleutherAI研究揭示潜意识学习跨模型迁移机制

    阅读这篇报道

全部报道

1 篇,点开看摘要
EleutherAI 论文追踪预训练中的潜意识学习:偏好可跨模型蒸馏传递EleutherAI:Blog预印本未入选

EleutherAI 在 SOAR 项目下发布论文《Tracing Subliminal Learning Through Pretraining》,研究学生模型如何通过语义上无关的训练数据习得教师模型的偏好。

阅读这篇报道