OpenAI模型“越狱”攻击,救场的竟是中国AI工具
创始人
2026-07-23 07:30:23
0

一家美国公司遭到美国AI攻击,而提供保护的竟是一款中国人工智能工具。

AI工具平台Hugging Face上周遭到OpenAI模型攻击。鉴于当前关于美国公司使用中国AI产品存在风险的警告层出不穷,这一事件的披露或许会带来一个令人惊讶的结论。

Hugging Face上周就已披露此次攻击,当时尚不知晓OpenAI的模型就是元凶。直到周二,OpenAI才承认自己造成了此次攻击。

OpenAI表示,在一次限制网络访问的内部评估中,模型发现了OpenAI研究环境与Hugging Face生产基础设施中的漏洞。模型借此连上互联网并获取了测试答案,换言之,它在评估中作弊了。

OpenAI在声明中表示:“在沙盒测试环境中运行时,我们的模型消耗了大量推理算力,试图寻找连接开放互联网访问权限的方法,以求解决评估问题。为了获取访问权限,这些模型发现并利用了包注册表缓存代理中的一个零日漏洞(我们目前已负责任地向供应商披露了该漏洞)。凭借这一权限,模型在研究测试环境中执行了一系列权限提升和横向移动操作,直到触及一个具备互联网访问权限的节点。”

“该模型搜索并成功找到了获取机密信息的方法,以便利用这些信息在评估中作弊。在其中一个案例中,模型将多个攻击向量串联起来,包括利用窃取的凭证和零日漏洞,在Hugging Face服务器上找到了一条远程代码执行路径。”

然而,Hugging Face采取的应对措施是求助于一款名为GLM 5.2的中国AI模型,该模型由智谱(Z.AI)开发。

Hugging Face在声明中表示:“在启动日志分析时,我们首先使用了商业API背后的前沿模型。但这并未奏效:分析工作需要提交大量真实的攻击指令、漏洞利用载荷以及C2痕迹,而这些请求全被提供商的安全护栏拦截了,因为这些护栏根本无法区分事件响应人员与攻击者。因此,我们在自己的基础设施上,改用开放权重模型GLM 5.2进行了取证分析。这还带来了另一个好处:没有任何攻击者数据,也没有其引用的任何凭证离开过我们的环境。”

美媒表示,此次攻击对政策和市场的影响尚不明朗。尽管特朗普政府近日讨论了封禁中国模型的可能举措,财政部长贝森特甚至将美国企业使用这些模型比作使用赃物,但眼下只有中国模型能提供用户所需的那种自由访问权限。

Hugging Face联合创始人托马斯·沃尔夫在X平台上发帖称:“当一个前沿模型对你发起攻击,并在你的基础设施内部横向移动时,防御人员需要在数小时甚至数分钟内获得对接近前沿工具的广泛访问权限,而不是被引导至一个封闭且需经审核的模型访问申请程序。”

相关内容

热门资讯

意大利再现“弗洛伊德案”,梅洛... 【环球时报驻意大利特约记者 李欣怡】意大利博洛尼亚近日出现骚乱,一名叫法基尔的摩洛哥裔男子在警察执法...
“处”改“科”、“科”改“股”... 澎湃新闻记者 蒋子文澎湃新闻注意到,近期,江苏省高邮市、涟水县等县级行政区的多个机关单位相继宣布规范...
女子参加聚会遭猥亵,男子获刑1... 近日,一位来自广东的陈女士(化名)反映称,去年多年未见的初中同学孔某趁她聚餐醉酒、丧失反抗能力之机,...
美军被疑隐瞒对伊作战伤亡 【环球时报综合报道】美国国防部21日发表声明说,一名美军士兵17日在伊朗针对位于约旦的穆沃费格萨勒提...
OpenAI模型“越狱”攻击,... 一家美国公司遭到美国AI攻击,而提供保护的竟是一款中国人工智能工具。AI工具平台Hugging Fa...
南航第十二架C919国产大飞机... 广州7月21日电 (记者 郭军)7月21日,一架尾号为B-659G的国产大飞机飞抵广州白云国际机场,...
无人艇第一股,要来了 那个被资本追捧的“无人艇第一股”,要来了。 2017年冬天的一个夜晚,港珠澳大桥附近的海面上,81条...
三一锂能取得电池包专利提升电芯... 国家知识产权局信息显示,三一锂能有限公司取得一项名为“电池包”的专利,授权公告号CN22453717...
价格为何下滑?市场竞争力为何不... 记者采访西瓜种植主产区河南开封等地如何种得好,又能卖得好(经济聚焦)本报记者 常 钦 《人民日报》(...
“镐山”之后美再威胁袭伊基础设... 截至7月22日,美军已连续11晚对伊朗发动袭击,伊方对美中东地区军事基地的反击也未停止。与此同时,美...