提示注入算不算漏洞?微软与安全专家引发AI漏洞定义争论
创始人
2026-01-07 15:41:09
0

IT之家 1 月 7 日消息,科技媒体 bleepingcomputer 昨日(1 月 6 日)发布博文,报道称微软近日驳回了一名安全工程师提交的关于 Copilot 的四项安全漏洞报告,引发了行业关于“AI 漏洞”定义的激烈争论。

网络安全工程师 John Russell 近日在 LinkedIn 发文透露,他向微软提交了 4 个关于 Copilot 的安全漏洞,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。

Russell 指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过 Base64 编码绕过文件上传策略,以及在 Copilot 隔离的 Linux 环境中执行命令。

其中最值得关注是绕过文件上传策略。通常情况下,Copilot 会拦截高风险格式的文件。但 Russell 发现,只要将这些文件编码为 Base64 文本字符串,就能骗过初步检测。

IT之家援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导 AI 泄露其核心“系统提示词”的方法。

微软判定这些问题未跨越安全边界,属于“AI 已知局限”而非需修复的漏洞。Russell 反驳称,竞争对手 Anthropic 的 Claude 模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。

该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI 漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限于用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。

这一事件在安全社区引发了分歧。安全研究员 Cameron Criswell 等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。

OWASP GenAI 项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。

相关内容

热门资讯

iOS26升级率低迷酿安全危机... 【环球网科技综合报道】1月11日消息,据forbes报道称,苹果公司近日确认,其最新发现的高危零日漏...
终于了解“毛豆大厅拼三张怎么开... 家人们!今天小编来为大家解答毛豆大厅拼三张透视挂怎么安装这个问题咨询软件客服徽9784099的挂在哪...
终于懂了“新全游究竟有挂吗?”... 网上科普关于“新全游有没有挂”话题很是火热,小编也是针对新全游作*弊开挂的方法以及开挂对应的知识点,...
【第一资讯】“战皇炸/金/花真... 【第一资讯】“战皇炸/金/花真的有挂吗?”(确实真的有挂)您好,战皇炸/金/花这个游戏其实有挂的,确...
【今日要闻】“普通扑克三公保庄... 【今日要闻】“普通扑克三公保庄大到底是不是挂?”(确实真的有挂)您好,普通扑克三公保庄大这个游戏其实...
【第一财经】“打两圈麻将真的有... 家人们!今天小编来为大家解答打两圈麻将透视挂怎么安装这个问题咨询软件客服徽9784099的挂在哪里买...
今日重大通报“中至南昌麻将辅助... 您好:中至南昌麻将这款游戏可以开挂,确实是有挂的,需要了解加客服微信【4282891】很多玩家在这款...
终于了解“红黑大战怎么装挂?”... 有 亲,根据资深记者爆料红黑大战是可以开挂的,确实有挂(咨询软件无需打开...
今日重磅消息“微乐掼蛋开挂器?... 今日重磅消息“微乐掼蛋开挂器?”(太坑了果然有挂)您好,微乐掼蛋这个游戏其实有挂的,确实是有挂的,需...
玩家最新攻略“九酷牛牛有挂吗?... 玩家最新攻略“九酷牛牛有挂吗?”(外卦神器下载)您好,九酷牛牛这个游戏其实有挂的,确实是有挂的,需要...