AISI：蛋白质模型预训练数据过滤易被低成本恢复

事件综述根据 1 篇报道整理，10月26日更新

英国 AI Security Institute 的 Chem-Bio 团队发布博客称，他们以开放权重的 ESM-2 蛋白质语言模型为对象，从 8M 到 3B 参数从头预训练，测试在预训练数据中剔除病毒蛋白数据能否压制目标能力。结果显示，即使最大的 3B 参数模型，恢复完整能力也只需约 80 美元的 H100 算力，说明数据过滤作为防护手段容易被绕过。 该结论仅基于 ESM-2 单一模型家族，AISI 称其能否推广到其他蛋白质模型尚不确定；对于可在推理时检索额外数据的模型，过滤可能更不有效。AISI 还表示，恢复成本的测量并不精确，因此对防篡改能力如何随模型规模变化，结论可信度有限。

综述由模型根据报道生成，细节以各篇原文为准。