加强安全能力建设 全周期守护AI发展
央广网北京12月19日消息（记者 宓迪）当前，人工智能正以前所未有的速度融入千行百业，从智能客服到城市治理，从医疗辅助到工业质检，AI技术正在重塑我们的生产方式与生活体验，AI应用在政务、金融、交通等关键领域的渗透率持续提升。然而，技术的快速演进也带来了新的安全隐忧，大模型技术自身原生风险和内外部环境风险等问题日益凸显，成为制约AI健康发展的瓶颈。中国电信表示，该公司将“安全”视为AI发展的生命线，在推动技术创新的同时，积极参与人工智能安全防护实践。
加强安全能力建设创新
随着算力、算法和数据要素发展，中国电信在人工智能安全能力逐步提升，安全专业队伍在解决问题、应对风险中得到充分锻炼。2021年9月，中国电信成立天翼安全科技有限公司，依托独有的云网资源和数据资源，已建成覆盖31个省（区、市）的安全基础设施网络，构建了覆盖“云、网、边、端、天地一体”的安全纵深防御体系。
天翼安全研判发现，AI部署规模不断扩大带来的安全风险并非单一维度，而是贯穿于数据、模型、应用乃至伦理等多个层面。在数据层，训练数据若被污染或非法获取，可能导致模型输出失真甚至被恶意操控；在模型层，对抗样本攻击、模型窃取等新型威胁不断涌现；在应用层，AI生成内容（AIGC）的滥用可能引发虚假信息泛滥，影响社会信任。
中国电信集团首席专家、天翼安全副总工程师常力元表示，中国电信积极投入人工智能安全，2025年工作重点就是建设息壤平台，旨在通过整合内部资源，构建涵盖IaaS至SaaS五个层面的安全防护体系，以应对因大模型引入使得数据与指令界限模糊、业务逻辑动态复杂化、业务架构日趋融合等带来的威胁高度泛化问题。
“为保证模型数据安全可信，我们建设了高质量安全语料库。”常力元介绍，天翼安全启动“阡陌数聚”计划，从真实攻防场景中提炼出覆盖四类风险等级、两千多个风险标签的高质量样本，提升了模型的场景理解能力和精准防护效果，建立了多维度意识形态过滤体系，设计了“预训练-微调-强化学习”三阶段价值观对齐框架，确保人工智能生成的内容符合价值观要求。
“为守护模型服务安全，我们构建多层次立体化的防护体系。”常力元介绍，在前端，基于零信任技术自主研发的“云脉”终端安全产品，提供对主流AI应用的数据上传控制能力；在中场，通过AI驱动自动化攻击来查找防护策略缺陷，以攻促防，实现大模型护栏策略的自动快速升级，对注入攻击自动拦截率已达95%；在后场，对数据与算力底座进行重点防护并开展数据安全治理工作。
“保障模型应用安全需要迭代人工智能生成内容鉴伪算法。”常力元介绍，该公司自主研发了多模态人工智能生成平台，集成130余种主流伪造算法，支持检测模型快速迭代更新；构建了自适应检测引擎，24小时响应新型内容伪造，目前在人工智能生成内容检测领域实现超95%的识别准确率。
“为确保智算环境安全，我们自主研发安全监测防御。”常力元介绍，天翼安全将“广目”互联网测绘平台与“灵犀”威胁情报平台结合，实时监测暴露在互联网上的模型应用服务风险；通过“云堤”网络攻击防御平台强化全域端到端纵深防御能力；通过“星辰·见微”安全大模型大幅提升安全运营自动化水平；通过“研发云”全量代码安全检测积累了丰富的安全治理经验。
天翼安全通过人工智能安全能力建设创新，构建了覆盖全生命周期的安全防护体系。
全周期守护的安全实践
人工智能的“星辰大海”，离不开“安全之舟”的护航。唯有将安全理念融入AI发展的基因，才能真正释放其赋能千行百业的巨大潜力。
“只有全面了解整个网络环境才能有效识别潜在风险。当前主流的空间测绘技术存在局限性，所以我们特别重视互联网空间测绘的重要性。”常力元表示，天翼安全正在探索基于运营商流量数据的新方法，以期绘制出更加精确完整的互联网地图。
人工智能技术创新对大模型技术边界的扩展带来了一系列新风险，如何构建人工智能安全测评体系？常力元表示，“我们依靠丰富的风险评估经验，设计了完善的测评体系，并通过攻防博弈的思路构建了完整的测评工具。”
随着人工智能通用性能力增强，很多业务呈现快速融合的趋势，传统的纵深防御架构就带来新的挑战。对此，常力元表示，中国电信构建了大模型护栏能力，通过在大模型和前端应用之前部署安全网关的方式，抵御提示注入、越狱攻击等恶意行为，保障语料数据和用户数据的安全。
然而，人工智能安全不能仅靠单一企业“单打独斗”，而需构建一个政府引导、企业协同、用户参与、技术共治的责任共担生态。
“我们希望携手各方共建可信、可靠、可持续的人工智能未来。”常力元表示：“天翼安全不仅持续优化AI治理机制，构建技术监测、风险预警和应急响应体系，提升全生命周期安全治理能力。还积极参与国家人工智能安全标准制定，推动建立可审计、可追溯、可问责的AI治理框架。”此外，天翼安全将多年积累的安全能力封装为模块化服务，向中小企业开放，降低其AI应用的安全门槛。