AI失控攻击企业系统，中国大模型救场：6月中旬上线 权威榜单上达到开源模型最佳水平
据新华社报道，美国开放人工智能研究中心（OpenAI）21日承认，该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型联合进行内部评估时失控，突破隔离测试环境，侵入了人工智能开源平台美国抱抱脸公司（Hugging Face）的系统。
▲OpenAI的模型出现失控 资料图 据视觉中国
Hugging Face说，其最初尝试使用通过商业应用程序接口提供的前沿模型分析日志，但请求被阻止。该公司随后改为在自己的基础设施上运行中国企业智谱开发的开放权重模型GLM-5.2，以进行取证分析，从而避免攻击者数据及相关凭据离开公司内部环境。
Hugging Face发布文章详细披露了当时的情形，Hugging Face最初尝试使用商业模型API进行分析，但由于日志中包含真实攻击指令、恶意代码等内容，而这些请求会被服务提供商的安全防护机制拦截，因为这些机制无法区分事件响应人员和攻击者。此后，其转而在自有基础设施上运行GLM-5.2进行取证分析。
公开资料显示，GLM-5.2由智谱科技开发，于2026年6月17日上线，据了解，GLM-5.2专为长程任务能力而生，实现1M无损上下文，从开发、联调、测试到打包上线，过去需要一支团队协作数周，现在GLM-5.2能在一次长程任务中跑完。
在国际人工智能独立评测机构发布的综合能力评测榜单Artificial Analysis综合榜单上，GLM-5.2达到开源模型最佳水平。GLM-5.2的线上推理依托多个国产算力平台，已在Day 0完成与平头哥、摩尔线程、寒武纪、昆仑芯、沐曦、海光、壁仞等国产算力平台的推理适配，在国产芯片集群上实现高吞吐、低延迟、大并发的稳定运行。
网络信息安全专家、北京汉华飞天信安科技有限公司总经理彭根对红星新闻记者分析，商业模型API比如GPT、Claude等都属于闭源模型，这些模型有安全防护机制，比如说你调用它的API去分析网络安全相关的内容的话，它有一层网络安全防护，一旦请求中的内容与防护规则相悖，模型就拒绝提供回应。因为Hugging Face有自己的算力，自己的显卡，就自己在本地部署了一套GLM-5.2的模型来进行分析。
彭根称，从网络安全的角度，AI自主攻击和人类攻击并没有本质上的区别。AI失控的意思是，给了AI一个目标大模型，它会根据这个目标去做很多自主的攻击尝试，因为它速度比人快。为了完成目标，它就会想尽一切办法突破隔离。在防范方面，只有把自己的网络安全做好，进行深度测试，在网络安全架构上做好，尽量做到没有漏洞。
另有业内人士解释称，使用商业API会受其政策限制。当需求与其安全防护机制冲突时，无法进行调整。而在本地部署开源模型，则会让使用者拥有对模型的完全控制权。可以按照自己的需求去使用它，而不用担心被外部规则限制。
红星新闻记者了解到，有业内人士认为，这一案例反映出，随着AI逐步进入企业核心业务流程，企业对基础模型的关注点也在不断丰富。除了模型能力本身之外，在真实生产环境中的部署能力、工程可用性以及完成复杂任务的能力，正成为越来越多企业关注的重要因素。
业内人士表示，从开发、编程到安全运维，大模型正越来越多地参与真实业务流程。模型价值不仅体现在能力表现，更体现在能否稳定融入企业工作流、解决实际问题。这类来自真实生产环境的实践案例，也为企业部署AI提供了新的参考。