AI“投毒”扰清朗 需以AI护AI筑就安全长城
创始人
2026-03-16 19:42:15
0次

(图片来源:摄图网)

(记者 陈洲)今年央视的“3·15”晚会上,AI大模型遭GEO技术“投毒”的黑幕被彻底揭开。不法商家付费利用GEO优化系统,批量生成虚假信息软文定向投喂AI大模型,将广告包装成“标准答案”,甚至让虚构产品登上推荐榜,形成完整的黑色产业链。这种行为绝非技术优化,而是赤裸裸的数据造假与消费欺诈,不仅让AI丧失客观中立的信息助手属性,更破坏市场公平、误导公众决策,给AI产业发展蒙上阴影。

数字时代,网络安全是发展的前提,更是底线。以中国电信为代表的通信运营商不仅是数据的“运输者”,更是信息流通的“守门人”,在筑牢AI安全防线中扮演着重要角色。

AI投毒引深思

“3·15”晚会曝光的事件,撕开了AI产业的安全漏洞。业内演示显示,一款GEO优化系统就能轻松虚构产品信息、生成软文,批量发布后被AI抓取为“权威答案”,甚至让虚构智能手环登上推荐榜。这种行为的泛滥,既源于黑色产业链的利益驱动,也暴露了当前AI大模型在信息审核、风险防控上的短板。如今AI已融入千行百业,其安全性直接关系公众权益、市场秩序和国家安全。

运营商之所以能在AI安全领域发挥核心作用,源于其独特的网络位置与资源禀赋。中国电信深刻认识到发展与安全并重的必要性,自布局AI领域以来,将安全性贯穿研发、应用、落地全流程,构建全方位AI安全防护体系,推动产业有序发展。

多维发力守底线,AI安全实践落地见效

面对AI安全挑战,运营商正依托自身优势打造可落地的解决方案。

一是筑牢模型输入侧防护。中国电信推出“见微”大模型安全一站式服务,构建“攻击+防护”双向循环体系,开源国内首个中文场景提示注入攻击检测方案,填补行业空白。其核心能力包括全球AI风险预警、零信任环境下的秒级扫描、精准拦截虚假信息的基础护栏,并同步开源“阡陌”评测数据集,为行业AI安全评测提供高质量支撑,从源头防范投毒风险。

二是强化应用侧的安全守护。AI滥用催生新型通信诈骗,运营商通过技术手段主动防御。例如,中国电信研发的防诈辅助大模型,将传统防诈精确度从20%提升至80%,可有效应对AI换脸、变声等诈骗手段。该模型能实时学习诈骗手段,推送专属防诈风险报告,并结合“天翼防骚扰”产品,构建“检测—预警—拦截”全链条防线,累计为亿万用户规避诈骗风险,用科技守护公众“钱袋子”。

三是护航政企AI应用。多智能体交互带来新的安全隐患,运营商为企业构建一体化防御体系。例如,中国电信天翼安全公司打造了“围栏网络”,构建“安全评测—输入检测—运行监控”一体化防御体系。在企业办公场景中,通过多产品联动,精准拦截敏感文件、判定AI生成内容安全性,已为政务、金融等领域超3000家客户提供保障,助力政企安全合规运用AI。

技术创新促长效,持续筑牢AI安全屏障

AI技术迭代不止,安全守护永无止境。“3·15”安全事件提醒我们,AI安全防护需持续升级。中国电信将持续从技术创新、体系完善、生态共建三方面发力,构建长效防护机制,推动AI技术向善发展。

持续强化技术创新,筑牢安全底座。中国电信将加大研发投入,聚焦AI风险,迭代“星辰·见微”安全大模型,完善中文场景检测算法;推动量子技术与AI安全融合,构建全国一体化量子安全基础设施,发布融合QKD和PQC的分布式密码系统,实现AI数据全流程加密防护,推进AI与安全双向赋能。

完善全生命周期治理,构建全方位体系。中国电信将遵循《人工智能安全治理框架》2.0版要求,覆盖AI“研发—训练—应用—退役”全流程。事前加强数据源头管控,打造“阡陌数聚”安全语料集;事中依托天翼安全大脑实现实时监控预警;事后建立应急处置与追溯体系,形成“发现—处置—复盘—优化”闭环,提升防护精细化水平。

深化生态协同共建,凝聚发展合力。中国电信将发挥行业引领作用,推动AI安全标准制定,开源技术与数据集;加强与政府、科研机构合作,共建创新联合体,开展技术研发与人才培养;加强AI安全宣传,普及知识,引导公众提升防范意识,营造全民关注AI安全的良好氛围。

科技向善,安全为基。“3·15”投毒事件既是警示也是契机,推动行业重视AI安全。运营商需坚守安全底线,以技术守护信任,通过扎实实践、持续创新和广泛协同,为AI产业筑牢屏障。

相关内容

热门资讯

空调连续工作多久需要停机休息 空调连续工作的时间取决于多个因素,包括空调的型号、功率、使用环境和维护情况等。一般来说,空调可以连续...
空调哪个符号是除湿的 空调除湿功能通常用一个水滴形状的符号表示。不同品牌和型号的空调遥控器可能会有所差异,但一般来说,除湿...
格力空调多长时间加一次氟利昂 1、一般情况下,空调对氟利昂的使用量是非常小的,所以在空调使用了四年左右的时候再考虑加也没问题。2、...
空调用多长时间需要加氟一次 一般情况下是五年。当出现以下这几种情况时,空调才需要加氟。1、空调的室内机和室外机各有两个接口,当接...
格调生活·C标思享荟:卡萨帝在... 9月12日的郑州龙湖金融岛,夜风轻拂,灯光璀璨。“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑...
品牌价值破千亿、高端份额持续领... 9月12日,“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑州站”在郑州龙湖金融岛举办。2026...
空调主板坏了修800还是换新的 空调主板坏了是修还是换新,需要考虑多个因素,以下是一些建议:1. 维修成本:如果维修费用较低,比如 ...
空调开多久需要休息多长时间 问题:空调开多久需要休息多长时间回答:1、在使用空调的过程中,一般空调开7~8个小时左右需要休息2~...
中央空调多长时间清洗一次 1、一般空调开机前清洗一次即可,空调开机中间时段再清洗一次,空调关机时清洗一次,这样比较合理。2、空...
中央空调氟利昂多久加一次 看空调制热和制冷程度,很多人的观点认为氟利昂必须一年放一次,其实这个观点是错误的,理解上面有点偏差,...