打造AI网安“红队”：OpenAI介绍内部漏洞检测模型GPT-Red_科技资讯

创始人

2026-07-16 14:10:40

0次

IT之家 7 月 16 日消息，OpenAI 当地时间 15 日介绍了其内部使用的网络安全“红队”模型 GPT-Red。该模型可自动化地进行各种网络攻击模拟，帮助 OpenAI 提升对外模型产品的鲁棒性。

OpenAI 表示，其过去半年自 GPT-5.3 后的每个生产模型均将“红队”模型用于训练。伪造思维链型攻击的成功率已从 GPT-5.1 上的 95% 降低至最新模型上的不足 10%；最新的 GPT-5.6 Sol 在 GPT-Red 的直接提示符注入攻击中失败率仅有 0.05%。

GPT-Red 使用自博弈强化学习进行训练：其本身和一组不同的防御型 LLM 在广泛的红队场景上同时进行训练。GPT-Red 因成功诱发有效失败而获得奖励，而防御型模型则因抵抗攻击并完成其原始任务而获得奖励。随着防御型模型变得越来越强大，GPT-Red 被迫发现更强大、更多样化的攻击。

“红队”模型与产品模型相隔离。OpenAI 相信其已开启了良性的人工智能网络安全循环，可利用现有模型来增强未来模型的鲁棒性、一致性、可信度。

入户总阀坏了可以只换芯吗入户总阀坏了是否可以只换芯，取决于阀门的类型和损坏程度。以下是一些常见情况：1. 球阀：如果是球阀，...

空调电路板坏了是修还是换？需要看空调的具体类型以及空调的使用年限。如果是变频空调，使用7年以上的，重新购买新的空调比更换电路...

整个房间电路坏了怎么维修整个房间电路坏了怎么维修？首先用电笔测量家用电器的电路，在测量中，红色线为火线，黄色线为零线，蓝色线...

卫生间吸顶灯怎么安装拆卸卫生间吸顶灯的安装和拆卸步骤可能会因灯具的型号和安装方式而有所不同，但通常可以按照以下一般步骤进行操...

厨房灯如何安装和拆卸厨房灯的安装和拆卸步骤可能会因灯具类型和安装方式而有所不同。以下是一般的安装和拆卸步骤：安装步骤：1...

匈牙利前外长，入职比亚迪当地时间7月15日，匈牙利前外交部长西雅尔多在社交媒体发文，宣布辞去议员职务，加入中国电动汽车巨头比...

3岁女童疑被生父女友捂死，生前... 7月15日，江苏3岁女童彤彤被害案一审开庭，被告人邱某以故意杀人罪被提起公诉。30岁的邱某，是彤彤生...

“我实在气得慌！”女老板跨越3... 潮新闻客户端记者吴馥梅实习生陈悦之施恩琪“跑这么远，我就想把人找到，把心里话说出来，讨个公...

出走的王子，“回家好难” 当地时间7月10日下午，英国格洛斯特郡海格罗夫庄园迎来了一场久违的家庭聚会。与以往王室团聚不同，这一...

“万达所有的利润都不带走！”贵... 据贵州省纪委监委7月16日消息：贵州省市场监督管理局党组成员徐刘蔚涉嫌严重违纪违法，目前正接受贵州省...