9月10日,Anthropic发布最新威胁情报报告,披露其近期发现的多起针对Claude模型的异常使用活动,并将部分活动与中国AI企业关联。报告称,相关企业通过大量账号、代理服务及自动化请求获取Claude输出,并试图利用这些数据训练或改进自身模型。
多家中国AI模型被指涉及蒸馏
Anthropic称,阿里旗下Qwen、月之暗面Kimi、DeepSeek、智谱Z.ai以及小米、商汤、MiniMax等中国AI企业或相关模型,被发现存在不同程度的异常调用或模型蒸馏行为。
其中,阿里相关活动规模尤其受到关注。Anthropic称,5月至7月期间,与阿里账号相关的可疑交互达到约1.51亿次,被认为是其披露的最大规模蒸馏活动之一。
大量请求被用于训练模型
所谓“模型蒸馏”,是利用能力更强的教师模型生成大量输出,再将这些数据用于训练学生模型,从而降低训练成本并缩短研发周期。
Anthropic表示,部分相关活动并非正常的模型调用,而是通过大量账号和技术手段规避限制,持续获取Claude的回答,并针对推理、编程等能力进行系统性测试。
此前,Anthropic已经多次公开指控中国AI公司对Claude实施大规模蒸馏。此次最新报告则进一步扩大了披露范围,并给出了更多关于调用规模和操作方式的细节。
数据安全问题引发关注
报告还提到,部分异常调用涉及真实用户数据。Anthropic称,月之暗面相关活动中,有数据被转发至Claude,其中部分内容涉及敏感信息,包括军事设施附近的监控画面以及政府数据库相关资料。
Anthropic认为,这类行为不仅涉及模型能力获取,也带来了用户数据、企业机密以及AI服务安全方面的风险。
AI模型竞争进入新阶段
此次事件再次将“模型蒸馏”推向AI行业关注焦点。美国方面近期也指责包括DeepSeek、Moonshot AI、阿里等在内的中国AI企业进行大规模模型蒸馏,而中方则表示相关指控缺乏依据,并强调模型蒸馏本身是一种广泛使用的技术。
随着中美AI竞争持续升温,围绕模型训练数据、知识产权、用户隐私以及AI服务使用边界的争议仍在扩大。此次Anthropic的最新披露,也可能进一步推动行业对模型安全和数据使用规范的讨论。