360发布《大模型安全白皮书》
创始人
2025-11-09 12:40:58
0

中证报中证网讯(记者 孟培嘉)11月8日,在世界互联网大会乌镇峰会上,360数字安全集团发布《大模型安全白皮书》。该白皮书首次系统性阐释大模型运行时的五大关键风险,提出“外筑‘以模治模’动态屏障,内固‘平台原生’安全底座”的核心理念,并提供了可落地的安全解决方案,为大模型应用拉起了全链路安全防线,助力推动人工智能行业向“安全、向善、可信、可控”方向稳健发展。

白皮书以2025年国内外多起典型大模型安全事件为切入点,系统性归纳了威胁大模型安全的五大关键风险。

首先是基础设施安全风险,包括设备控制、供应链漏洞、拒绝服务攻击以及算力资源滥用等问题;其次是内容安全风险,涉及不符合核心价值观、虚假或违规内容、大模型幻觉,以及提示注入攻击等;第三类是数据与知识库安全风险,数据泄露、越权访问、隐私滥用和知识产权问题日益突出;第四是智能体安全风险,随着智能体自主性增强,插件调用、算力调度、数据流转等环节的安全边界更加模糊;最后是用户端安全风险,包括权限控制、API调用监控、恶意脚本执行以及MCP执行安全等。

面对上述复杂挑战,白皮书基于实战经验,给出了“外挂式安全 + 平台原生安全”双轨治理策略——前者灵活应对实时风险,后者从根源筑牢安全基础,两者配合形成全链路防护网。该方式具备两大优势:一是适配性强、部署成本低,可作为通用组件快速接入不同企业环境,避免重复开发;二是响应迅速,具备独立监测与拦截机制,可在毫秒级别识别并阻断实时威胁,如异常算力消耗或恶意内容。

据悉,目前360已将这一能力落地政务、金融、制造等各行业,真正让大模型安全从“理论变成“能落地、能管用”的实战方案。未来,还将联合产学研各界,共同推动安全标准建设与技术共享,携手共建安全、可信的AI生态。

相关内容

热门资讯

朋友追忆西安赛格坠亡者生前细节 7月1日,西安赛格国际购物中心发生一起坠楼事件。坠楼者为陕西利和商贸有限公司负责人严某,该公司在赛格...
普京宣布俄军“完全解放”卢甘斯... 新华社莫斯科7月3日电(记者王作葵)俄罗斯总统新闻秘书佩斯科夫当地时间3日晚在临时召开的新闻发布会上...
日印又提“旗舰项目”,印度首条... 【文/观察者网 王恺雯】被视为日印合作“旗舰项目”的印度首条高铁,在经历了十多年征地受阻、工期延迟、...
阿根廷宣布撤销内政部 新华社布宜诺斯艾利斯7月3日电(记者张铎 王钟毅)阿根廷政府2日宣布撤销内政部,将其职能转移至内阁首...
热浪期间,法国家中死亡人数激增... 6月18日,在法国巴黎,人们在圣马丁运河水域消暑。新华社发上个月,欧洲遭遇了史上罕见的热浪袭击。根据...
日印各有所求,专家:双方的目标... 如何分析高市早苗此次访问中日印双方展现出的态度?两国关系可能面临哪些变量?凤凰卫视连线上海国际问题研...
二七区开展胡大白先进事迹专题宣... 7月1日,二七区邀请我校马克思主义学院党委副书记、工会主席韩树栋走进区委党校,开展胡大白董事长先进事...
台媒:谷立言与特朗普立场渐行渐... 前不久,台湾《中国时报》刊发社论指出,“美国在台协会”台北办事处处长谷立言对民进党“新两国论”几乎照...
中国共产党党员队伍稳步壮大 组... 党员10128.6万名 基层党组织543.1万个中国共产党党员队伍稳步壮大 组织体系日趋严密新华社北...
演上了!美议员当众举起手机:去... 据美国印度战略伙伴关系论坛(USISPF)近日发布的一段视频,美国共和党联邦参议员史蒂夫·戴恩斯在一...