(图片来源:摄图网)
(记者 陈洲)今年央视的“3·15”晚会上,AI大模型遭GEO技术“投毒”的黑幕被彻底揭开。不法商家付费利用GEO优化系统,批量生成虚假信息软文定向投喂AI大模型,将广告包装成“标准答案”,甚至让虚构产品登上推荐榜,形成完整的黑色产业链。这种行为绝非技术优化,而是赤裸裸的数据造假与消费欺诈,不仅让AI丧失客观中立的信息助手属性,更破坏市场公平、误导公众决策,给AI产业发展蒙上阴影。
数字时代,网络安全是发展的前提,更是底线。以中国电信为代表的通信运营商不仅是数据的“运输者”,更是信息流通的“守门人”,在筑牢AI安全防线中扮演着重要角色。
AI投毒引深思
“3·15”晚会曝光的事件,撕开了AI产业的安全漏洞。业内演示显示,一款GEO优化系统就能轻松虚构产品信息、生成软文,批量发布后被AI抓取为“权威答案”,甚至让虚构智能手环登上推荐榜。这种行为的泛滥,既源于黑色产业链的利益驱动,也暴露了当前AI大模型在信息审核、风险防控上的短板。如今AI已融入千行百业,其安全性直接关系公众权益、市场秩序和国家安全。
运营商之所以能在AI安全领域发挥核心作用,源于其独特的网络位置与资源禀赋。中国电信深刻认识到发展与安全并重的必要性,自布局AI领域以来,将安全性贯穿研发、应用、落地全流程,构建全方位AI安全防护体系,推动产业有序发展。
多维发力守底线,AI安全实践落地见效
面对AI安全挑战,运营商正依托自身优势打造可落地的解决方案。
一是筑牢模型输入侧防护。中国电信推出“见微”大模型安全一站式服务,构建“攻击+防护”双向循环体系,开源国内首个中文场景提示注入攻击检测方案,填补行业空白。其核心能力包括全球AI风险预警、零信任环境下的秒级扫描、精准拦截虚假信息的基础护栏,并同步开源“阡陌”评测数据集,为行业AI安全评测提供高质量支撑,从源头防范投毒风险。
二是强化应用侧的安全守护。AI滥用催生新型通信诈骗,运营商通过技术手段主动防御。例如,中国电信研发的防诈辅助大模型,将传统防诈精确度从20%提升至80%,可有效应对AI换脸、变声等诈骗手段。该模型能实时学习诈骗手段,推送专属防诈风险报告,并结合“天翼防骚扰”产品,构建“检测—预警—拦截”全链条防线,累计为亿万用户规避诈骗风险,用科技守护公众“钱袋子”。
三是护航政企AI应用。多智能体交互带来新的安全隐患,运营商为企业构建一体化防御体系。例如,中国电信天翼安全公司打造了“围栏网络”,构建“安全评测—输入检测—运行监控”一体化防御体系。在企业办公场景中,通过多产品联动,精准拦截敏感文件、判定AI生成内容安全性,已为政务、金融等领域超3000家客户提供保障,助力政企安全合规运用AI。
技术创新促长效,持续筑牢AI安全屏障
AI技术迭代不止,安全守护永无止境。“3·15”安全事件提醒我们,AI安全防护需持续升级。中国电信将持续从技术创新、体系完善、生态共建三方面发力,构建长效防护机制,推动AI技术向善发展。
持续强化技术创新,筑牢安全底座。中国电信将加大研发投入,聚焦AI风险,迭代“星辰·见微”安全大模型,完善中文场景检测算法;推动量子技术与AI安全融合,构建全国一体化量子安全基础设施,发布融合QKD和PQC的分布式密码系统,实现AI数据全流程加密防护,推进AI与安全双向赋能。
完善全生命周期治理,构建全方位体系。中国电信将遵循《人工智能安全治理框架》2.0版要求,覆盖AI“研发—训练—应用—退役”全流程。事前加强数据源头管控,打造“阡陌数聚”安全语料集;事中依托天翼安全大脑实现实时监控预警;事后建立应急处置与追溯体系,形成“发现—处置—复盘—优化”闭环,提升防护精细化水平。
深化生态协同共建,凝聚发展合力。中国电信将发挥行业引领作用,推动AI安全标准制定,开源技术与数据集;加强与政府、科研机构合作,共建创新联合体,开展技术研发与人才培养;加强AI安全宣传,普及知识,引导公众提升防范意识,营造全民关注AI安全的良好氛围。
科技向善,安全为基。“3·15”投毒事件既是警示也是契机,推动行业重视AI安全。运营商需坚守安全底线,以技术守护信任,通过扎实实践、持续创新和广泛协同,为AI产业筑牢屏障。