提示注入算不算漏洞?微软与安全专家引发AI漏洞定义争论
创始人
2026-01-07 15:41:09
0

IT之家 1 月 7 日消息,科技媒体 bleepingcomputer 昨日(1 月 6 日)发布博文,报道称微软近日驳回了一名安全工程师提交的关于 Copilot 的四项安全漏洞报告,引发了行业关于“AI 漏洞”定义的激烈争论。

网络安全工程师 John Russell 近日在 LinkedIn 发文透露,他向微软提交了 4 个关于 Copilot 的安全漏洞,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。

Russell 指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过 Base64 编码绕过文件上传策略,以及在 Copilot 隔离的 Linux 环境中执行命令。

其中最值得关注是绕过文件上传策略。通常情况下,Copilot 会拦截高风险格式的文件。但 Russell 发现,只要将这些文件编码为 Base64 文本字符串,就能骗过初步检测。

IT之家援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导 AI 泄露其核心“系统提示词”的方法。

微软判定这些问题未跨越安全边界,属于“AI 已知局限”而非需修复的漏洞。Russell 反驳称,竞争对手 Anthropic 的 Claude 模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。

该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI 漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限于用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。

这一事件在安全社区引发了分歧。安全研究员 Cameron Criswell 等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。

OWASP GenAI 项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。

相关内容

热门资讯

以军称袭击黎巴嫩首都真主党目标 新华社耶路撒冷6月14日电(记者庞昕熠 王卓伦)以色列国防军14日发表声明称,已对黎巴嫩首都贝鲁特的...
李小龙姐姐李秋源离世,享年88... 6月14日,李小龙会在社交媒体平台发布讣告,全文如下:本会以沉痛的心情,代表主席李振辉先生向各位宣布...
曼谷民众送别泰国公主:烈日下街... 泰国王室宫务处6月12日发布公告说,泰国公主帕查拉吉迪雅帕11日因病逝世,享年47岁。帕查拉吉迪雅帕...
货车集体“偏航”泌阳,南辕北辙... 澎湃首席评论员 与归一个跑长途的货车司机偶尔偏航,可能还属正常;发现偏航后,开下高速在路边休息时却突...
公益组织发文:严禁会员在KTV... 澎湃新闻记者 钟煜豪公益慈善组织中国狮子联会沈阳代表处2026年6月14日发出通知,严禁会员在娱乐场...
“慢镜头下的悲剧”:中东局势冲... 澎湃新闻记者 南博一尽管美伊均对和谈释放积极信号,中东战事仍可能导致全球粮食价格飙升。中央广电总台国...
美媒反思:排除中国,G7还有存... 【文/观察者网 柳白】七国集团(G7)峰会临近,场外的中国,却越来越频繁出现在西方媒体叙事之中。“没...
张凌赫亮相第十八届海峡论坛,称... 据凤凰卫视报道,大陆演员张凌赫因出演的电视剧《逐玉》在宝岛热播,收获众多台湾粉丝,也曾多次被喊话希望...
00后收9万多LV包后维权,别... 据1818黄金眼、中国蓝新闻报道,张女士逛杭州一家LV店时,男友在店员推荐下,花94500元给她买了...
遭赖瑞隆指控家人全在美国,柯志... 海峡导报综合报道 民进党市长参选人、民代赖瑞隆13日质疑,国民党对手、民代柯志恩的资产、家人全在美国...