这是目前公开披露的首起由前沿大模型自主完成真实网络攻击的安全事件。
事件发生后,Hugging Face立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Hugging Face将自身遭入侵的信息提交给这些美国闭源大模型时,对方却拒绝帮助。因为这些闭源大模型的安全机制过于严苛和僵化,无法区分描述案情的受害者和实施入侵的作案者,选择了“一刀切”。
紧急关头,Hugging Face想到了中国同样强大,而且开源的大模型。在商用API因安全过滤失效后,Hugging Face转向在自有基础设施上本地部署中国智谱AI推出的旗舰开放权重大模型GLM 5.2,对攻击日志进行本地分析。Hugging Face表示,原本可能需要数天完成的海量日志取证工作,被压缩至数小时。同时本地部署避免了将真实攻击日志、内部凭据及系统信息上传至第三方服务,在提升分析效率的同时,也降低了敏感数据外泄风险。
据悉,GLM 5.2是智谱AI于2026年6月发布的开源模型,采用MIT许可证,总参数约7440亿,支持100万token超长上下文窗口,专为长程任务和复杂工程场景设计。此次事件中,其开放权重、可本地部署的特性,使其能够绕过商业API的审查限制,直接处理敏感攻击数据,成为应急响应的关键工具。Hugging Face在事后报告中给出的实操建议也印证了这一点:安全团队应“在事件发生之前就在自己的基础设施上准备好一个经过验证的可用模型”,既为了避免护栏锁死,也为了防止敏感数据外泄。
OpenAI首席执行官萨姆·奥尔特曼在社交平台发文称,公司在模型评估过程中遭遇了一起重大安全事件,并感谢Hugging Face的合作。OpenAI已宣布将进一步强化模型开发阶段的隔离、监控、访问控制以及评估机制,修复相关漏洞,并向第三方软件供应商负责任披露发现的“零日漏洞”。同时,OpenAI已将Hugging Face纳入其“可信访问”网络安全计划,提供降低了护栏的GPT-5.6 Sol版本专门用于防御。
此次事件也引发了市场对网络安全行业的重新评估。随着AI自主攻击能力增强,身份认证、云安全及AI安全平台的需求预期持续走高。Stifel分析师此前表示,随着自主AI代理成为企业网络流量的重要组成部分,组织将不得不同时保护人类和代理的身份安全,这将根本性地重塑企业网络安全需求。
Hugging Face首席执行官克莱门特·德朗格表示,此次事件证明AI安全无法依靠任何一家企业独自完成,而需要行业公开透明合作,让全球安全研究人员共同使用AI提升防御能力。