跳到正文
Schneier on Security· Bruce Schneier·· 6 天前AI 评分36

开放权重 AI 模型可被植入后门:从 1.5B 到 7B 模型的验证

Backdooring Open-Weight AI Models

AI 导读

任何权重被修改过的开放模型都可能携带后门,包括任务微调、合并适配器和 abliterated 构建;作者用开放基座、公开数据集和租用 GPU 低成本制作了后门模型,先以 1.5B 模型验证概念,再扩展到 7B 并通过 OpenAI 的 Codex CLI 测试。

来源:Schneier on Security · schneier.com