适配国内智能体监管要求，蚂蚁发布两款开源安全护栏筑牢AI运行防线_科技资讯_新闻资讯

适配国内智能体监管要求，蚂蚁发布两款开源安全护栏筑牢AI运行防线

创始人

2026-07-14 13:30:33

0次

7月13日，蚂蚁AI安全实验室宣布开源智能体安全护栏SingGuard-NSFA，并同步披露多模态安全护栏SingGuard的详细信息。两款模型分别面向“自主执行的智能体”和“多模态交互的大模型”两大场景，标志着蚂蚁在AI安全领域进一步完善系统化布局。

当前AI正从内容生成迈向自主执行阶段，智能体可自主调用工具、运行代码、规划任务，多模态大模型具备图像、文本等多信息理解能力，AI系统能力边界拓展的同时，安全风险也从模型输出延伸至行为控制、权限管理和系统治理层面。过去一年，提示词注入、权限滥用、恶意代码执行、数据泄露等安全事件频发，如Amazon Q提示词投毒、Microsoft Copilot数据泄露、开源智能体OpenClaw提示词注入风险等，显示智能体自主性越强，安全风险放大效应越明显。

2025年12月，OWASP发布《智能体应用安全十大风险》，系统梳理智能体特有安全威胁；2026年5月，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，首次从国家层面对智能体安全治理提出明确要求。

针对智能体行为安全痛点，SingGuard-NSFA可在智能体执行动作前完成实时安全检测，从请求拦截和响应兜底两端构建行为安全防护体系；SingGuard则面向文本、图片及跨模态内容建立统一安全判断框架，可识别隐藏在不同模态中的复杂攻击，同时支持运行时动态加载自然语言安全规则，无需重新训练模型即可更新规则，适配规则演进快、业务流量大的生产环境。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

来源：市场资讯

要求数据护栏模型风险监管行为智能蚂蚁防线智能体模态

上一篇：AI赋能，青春起航：科技助力齐鲁学子大学梦

下一篇：星海图在南宁成立科技新公司，含AI业务

适配国内智能体监管要求，蚂蚁发布两款开源安全护栏筑牢AI运行防线

相关内容

最新资讯