全球首个 AI 智能体安全测试标准发布
创始人
2025-07-14 20:01:30
0次
IT之家 7 月 14 日消息，据蚂蚁技术消息，世界数字科学院（WDTA）在联合国日内瓦总部日前正式发布 AI STR 系列新标准《AI 智能体运行安全测试标准》，标准由蚂蚁集团、清华大学、中国电信牵头，联合普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等二十余家国内外机构、企业及高校共同编制，为全球首个单智能体运行安全测试标准。
据介绍，该标准针对智能体跨越“语言墙”所带来的“行为”风险，首次将输入输出、大模型、RAG、记忆和工具五个关键链路与运行环境对应起来，构建了全链路风险分析框架；同时，细分了智能体风险类型，完善并创新提出了模型检测、网络通信分析和工具模糊测试等测试方法，弥补了智能体安全测试技术标准的空白。
IT之家从蚂蚁技术获悉，该标准不仅提供了一套可行可靠的智能体安全基准，也为全球 AI 智能体生态的安全、可信和可持续发展增加了有益的探索。目前，部分标准的测评与认证已在金融、医疗等领域落地应用。
此前，WDTA 已发布 3 项 AI STR 标准，包括“生成式人工智能应用安全测试标准”,“大语言模型安全测试方法”和“大模型供应链安全要求”，由 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同参与。
相关内容
热门资讯
辽宁道博取得用于图档文件收纳盒...
金融界2025年7月14日消息，国家知识产权局信息显示，辽宁道博数字科技有限公司取得一项名为“一种用...
2025年企业网络安全指南：构...
随着数字化时代的到来，理解网络安全基础知识变得愈发重要。网络安全的核心在于保护计算机系统、网络和数据...
3000亿登顶财富榜却遭抵制，...
3000 亿登顶财富榜本应是荣耀时刻，然而某首富家族却遭抵制。一方面，他们凭借卓越的商业头脑和敏锐的...
环卫工4小时翻8吨垃圾找儿童手...
环卫工 4 小时翻 8 吨垃圾找儿童手表，这一行为引发了人们的思考。从一方面看，环卫工的努力展现出他...
尹锡悦涉嫌外患罪调查启动：录音...
近日，针对尹锡悦涉嫌外患罪的调查正式启动。有录音显示，他曾指示向平壤派出无人机，企图借此谋求戒严等不...
互联网打工人，好像都有“病”。
不久前和前司的同事老王聊天，特别感慨。 前司是北京的某家互联网大厂，因为业务调整，25年春节过后没...
品高股份携手江原科技发布三款品...
近日，品高股份联合深圳江原科技有限公司在深圳举办新品发布会，正式推出搭载全国产江原D10加速卡的“品...
“参与者人人有奖”，陕西一民间...
陕西一民间文学奖颁奖活动备受关注，千余人齐聚一堂。此次活动彰显了民间文学的魅力与价值，参与者们怀着对...
康尼机电（603111）新增【...
证券之星消息，根据市场公开信息整理，7月14日康尼机电（603111）新增【养老产业】概念。 新增概...
城·事｜杭州未来科技城 释放澎...
杭州未来科技城，是中组部、国资委确定的全国4个未来科技城之一，是第三批国家级海外高层次人才创新创业基...