人工智能暗战浮出水面 先进模型Claude遭遇工业级能力提炼攻击

AI科技AI News

在生成式人工智能竞争日趋白热化之际,一场围绕核心能力的“隐形战争”正在展开。人工智能公司Anthropic近日披露,其旗舰模型Claude正遭遇多起“工业规模”的模型提炼行动,攻击者试图通过系统性方式,从这一先进模型中大规模提取推理、编程和工具调用等关键能力。

Anthropic在一份调查说明中指出,至少有三起高度组织化的提炼行动,涉及约2.4万个欺诈账户和超过1600万次交互请求。这些操作并非零散的技术测试,而是有明确目标的能力复制工程,意在快速获取Claude背后的专有逻辑,用于提升竞争性人工智能平台的性能。

所谓“模型提炼”或“蒸馏”,本身并非非法技术。在合规场景下,它常被用于将大型模型的能力迁移到更轻量、成本更低的系统中,服务于商业部署。但Anthropic强调,当这一技术被滥用时,其本质已演变为一种低成本、高效率的能力窃取方式,使攻击者无需投入巨额算力和时间,就能获得接近前沿模型的效果。

调查显示,这些攻击者借助复杂的代理网络绕过访问限制,并采用Anthropic内部称为“九头蛇集群”的架构,将流量分散至多个API接口和第三方云平台。即便个别账户被封禁,新的账户也会迅速补位,形成几乎没有单点失效的攻击体系。在已识别的一起案例中,单一代理网络同时控制着超过2万个欺诈账户,并将提炼请求混入正常用户流量中,极大增加了识别难度。

Anthropic认为,这类非法提炼不仅构成严重的知识产权风险,也带来潜在的安全隐患。未经授权复制的模型通常不包含原始系统中内置的安全防护机制,可能导致高风险能力在缺乏约束的情况下扩散。一旦这些能力被进一步整合进自动化系统或被公开传播,其后果将难以预测。

从技术特征来看,这些提炼行动呈现出高度一致的行为模式。请求内容往往集中于特定功能,结构高度重复,且数量远超正常使用需求。例如,其中一次行动在短时间内产生了超过1300万次交互,重点锁定在智能体编程与工具编排领域。Anthropic的安全团队在该行动进行中即识别异常,并发现当Claude推出新版本后,攻击流量在24小时内迅速转向新模型,显示出极强的针对性。

另一次行动则集中在计算机视觉、数据分析和推理能力上,通过数百个账户协同发起请求,试图逐步重建模型内部的推理路径。还有一项提炼活动专门收集带有完整逻辑链条的输出内容,以生成大规模训练数据,从而复刻模型的“思考过程”。

面对不断升级的攻击手段,Anthropic呼吁行业重新审视人工智能基础设施的防御体系。公司建议采用多层次的安全策略,包括基于行为特征的流量识别、对高风险账户类型的更严格验证,以及在产品和API层面同步强化输出保护机制。同时,持续监测跨账户的协同行为,被认为是识别此类攻击的关键。

Anthropic强调,这些披露并非孤立事件,而是当前人工智能产业在高速发展过程中必须直面的结构性挑战。随着模型能力不断提升,围绕其数据、逻辑和安全边界的博弈也将愈发激烈。如何在保障创新活力的同时,防止核心能力被系统性滥用,正在成为整个行业无法回避的问题。