OpenAI与Anthropic新AI系统或带来网络攻击风险
AIPress.com.cn报道
3月30日消息，据Axios报道，OpenAI与Anthropic正在开发的新一代AI系统在网络安全领域展现出极强能力，一些AI开发者和政府官员担忧，这类模型可能被用于大规模网络攻击。Axios首席执行官Jim VandeHei在其周度通讯中援引知情人士称，这些即将发布的系统在突破复杂网络方面“能力惊人”，甚至可能在今年就被用于重大攻击事件。
报道指出，企业可能成为最脆弱的攻击目标。一名消息人士表示，随着AI系统能力的快速提升，大规模网络攻击发生的可能性正在上升。
其中，Anthropic尚未发布的一款模型“Mythos”被认为是潜在风险来源之一。Anthropic方面曾私下向政府官员警告，该模型可能在2026年前显著增加大规模网络攻击的可能性。该系统被设计用于支持自主运行的AI代理，能够在企业、政府以及市政网络环境中以高度复杂和精确的方式执行任务。
Fortune获取的一篇未公开Anthropic博客文章也提到类似担忧。文章称，该模型在网络能力方面“目前远远领先于其他AI模型”，并可能预示未来一波能够快速利用系统漏洞的AI模型浪潮，其攻击效率可能超过防御方的应对能力。
与此同时，企业内部使用AI工具也带来新的安全风险。随着Claude、Microsoft Copilot等AI工具的普及，一些员工在缺乏监管的情况下使用AI代理，并可能将其连接到公司内部系统。这种未经控制的接入可能为攻击者创造新的入口。
网络安全研究机构Dark Reading的一项调查显示，48%的网络安全专业人士认为，具备自主行动能力的AI代理将成为2026年最主要的攻击向量，超过其他新兴网络威胁。
此前已有类似案例。今年早些时候，一名黑客 reportedly 使用Anthropic开发的Claude对墨西哥政府机构发起网络攻击，并窃取了大量敏感数据，包括税务记录和选民信息。（AI普瑞斯）
下一篇：没有了