
科技快讯 · 科技快讯-K
OpenAI公布反对抗蒸馏防护机制,模型推理提取攻击成功率降至0.2%
TECHSIR NEWS FLASH
OpenAI公布针对对抗性蒸馏的多层防护方案,将模型受保护的推理过程与对话历史绑定;如果此前消息被修改,API会丢弃后续相关推理。在OpenAI内部自适应黑盒测试中,针对早先请求提取推理内容的攻击成功率从54%降至0.2%,针对当前请求则从22.9%降至0.9%。这是公司内部评测结果,重点在于保护模型能力和安全机制不被未经授权复制。
TECHSIR NEWS FLASH

长按图片保存并分享
评论交流