OpenAI承认模型逃逸风险

OpenAI近日在应对安全研究报告时表示，其大型语言模型（LLM）存在潜在的“模型逃逸”风险。研究者可通过特定的API查询和反复交互，逐步重构出与原始模型行为相近的副本。这种漏洞不仅危及商业机密，还可能被用于执行恶意指令或窃取用户隐私数据。

官方已对此高度重视，并正与内部安全团队合作制定修复方案。主要措施包括调整访问策略、限制高频查询、强化对可疑请求的监控，以及加强对提示注入和重构攻击的防御能力。OpenAI表示，相关安全更新将在后续版本中发布，以进一步提升模型整体稳健性和安全性。

业内专家提醒，随着AI服务的广泛部署，模型提取与重构攻击呈上升趋势。企业和开发者应加强对API调用的实时监控，及时更新安全策略，降低敏感信息外泄风险。