Schneier on Security· Bruce Schneier·· 6 天前AI 评分36
开放权重 AI 模型可被植入后门:从 1.5B 到 7B 模型的验证
Backdooring Open-Weight AI Models
AI 导读
任何权重被修改过的开放模型都可能携带后门,包括任务微调、合并适配器和 abliterated 构建;作者用开放基座、公开数据集和租用 GPU 低成本制作了后门模型,先以 1.5B 模型验证概念,再扩展到 7B 并通过 OpenAI 的 Codex CLI 测试。
来源:Schneier on Security · schneier.com