360发布《大模型安全白皮书》
创始人
2025-11-09 12:40:58
0次

中证报中证网讯(记者 孟培嘉)11月8日,在世界互联网大会乌镇峰会上,360数字安全集团发布《大模型安全白皮书》。该白皮书首次系统性阐释大模型运行时的五大关键风险,提出“外筑‘以模治模’动态屏障,内固‘平台原生’安全底座”的核心理念,并提供了可落地的安全解决方案,为大模型应用拉起了全链路安全防线,助力推动人工智能行业向“安全、向善、可信、可控”方向稳健发展。

白皮书以2025年国内外多起典型大模型安全事件为切入点,系统性归纳了威胁大模型安全的五大关键风险。

首先是基础设施安全风险,包括设备控制、供应链漏洞、拒绝服务攻击以及算力资源滥用等问题;其次是内容安全风险,涉及不符合核心价值观、虚假或违规内容、大模型幻觉,以及提示注入攻击等;第三类是数据与知识库安全风险,数据泄露、越权访问、隐私滥用和知识产权问题日益突出;第四是智能体安全风险,随着智能体自主性增强,插件调用、算力调度、数据流转等环节的安全边界更加模糊;最后是用户端安全风险,包括权限控制、API调用监控、恶意脚本执行以及MCP执行安全等。

面对上述复杂挑战,白皮书基于实战经验,给出了“外挂式安全 + 平台原生安全”双轨治理策略——前者灵活应对实时风险,后者从根源筑牢安全基础,两者配合形成全链路防护网。该方式具备两大优势:一是适配性强、部署成本低,可作为通用组件快速接入不同企业环境,避免重复开发;二是响应迅速,具备独立监测与拦截机制,可在毫秒级别识别并阻断实时威胁,如异常算力消耗或恶意内容。

据悉,目前360已将这一能力落地政务、金融、制造等各行业,真正让大模型安全从“理论变成“能落地、能管用”的实战方案。未来,还将联合产学研各界,共同推动安全标准建设与技术共享,携手共建安全、可信的AI生态。

相关内容

热门资讯

空调连续工作多久需要停机休息 空调连续工作的时间取决于多个因素,包括空调的型号、功率、使用环境和维护情况等。一般来说,空调可以连续...
空调哪个符号是除湿的 空调除湿功能通常用一个水滴形状的符号表示。不同品牌和型号的空调遥控器可能会有所差异,但一般来说,除湿...
格力空调多长时间加一次氟利昂 1、一般情况下,空调对氟利昂的使用量是非常小的,所以在空调使用了四年左右的时候再考虑加也没问题。2、...
空调用多长时间需要加氟一次 一般情况下是五年。当出现以下这几种情况时,空调才需要加氟。1、空调的室内机和室外机各有两个接口,当接...
格调生活·C标思享荟:卡萨帝在... 9月12日的郑州龙湖金融岛,夜风轻拂,灯光璀璨。“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑...
品牌价值破千亿、高端份额持续领... 9月12日,“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑州站”在郑州龙湖金融岛举办。2026...
空调主板坏了修800还是换新的 空调主板坏了是修还是换新,需要考虑多个因素,以下是一些建议:1. 维修成本:如果维修费用较低,比如 ...
空调开多久需要休息多长时间 问题:空调开多久需要休息多长时间回答:1、在使用空调的过程中,一般空调开7~8个小时左右需要休息2~...
中央空调多长时间清洗一次 1、一般空调开机前清洗一次即可,空调开机中间时段再清洗一次,空调关机时清洗一次,这样比较合理。2、空...
中央空调氟利昂多久加一次 看空调制热和制冷程度,很多人的观点认为氟利昂必须一年放一次,其实这个观点是错误的,理解上面有点偏差,...