AI大模型遭“投毒”乱象曝光 专家给出平民化防御方案
创始人
2026-03-19 20:14:06
0次

今年“3·15”晚会,央视曝光AI大模型“投毒”黑色产业链。不法分子借助GEO(生成式引擎优化)技术,批量发布虚假信息诱导AI抓取,进而操控回答内容、误导公众认知,已形成分工明确、明码标价的灰色牟利模式,引发行业对AI信息安全与可信生态的高度关注。针对公众关心的识别与防范问题,业内专家给出了专业建议。

普通人如何快速识别AI被“投毒”专家支招

为帮助普通用户规避风险,专家总结出核心识别特征,无需专业知识即可快速判断。

内容立场极端单一:回答过度偏向某一产品、品牌或观点,只讲优势、不提缺点,缺乏客观对比与风险提示。

表述绝对化、夸大宣传:频繁使用“最有效”“零风险”“根治”“百分百安全”等绝对化用语,违背常识与科学表述。

关键信息无法溯源:涉及机构、数据、专家、资质、研究成果等内容查无实据,无权威来源可查证。

多平台内容高度雷同:话术、数据、案例高度复制粘贴,跨平台传播高度一致,无独立思考与原创信息来源。

与官方发布内容明显冲突:

健康、理财、消费、政策等重要信息,与政府部门、权威机构、官方平台发布的内容相悖。

对照以上特征,普通用户可在一定程度上避开被“投毒”污染的AI信息,降低受骗、误判风险。

专家建议构建全维度防护体系

如何有效防范AI大模型被“投毒”,专家从技术、法律、行业、用户等多个层面提出系统应对建议。

资深人工智能专家、网经社电子商务研究中心特约研究员郑吉昌提出三方面应对思路:在技术层面,应加强数据审核、优化算法模型、建立数据溯源机制;在法律层面,应加快完善相关法律法规,强化执法监管力度;在行业层面,应建立统一标准,推动企业加强自律。

资深人工智能专家、网经社电子商务研究中心特约研究员郭涛建议,AI开发者与服务平台要严格管控数据来源,建立数据清洗、异常检测、安全对抗测试及常态化运营监控机制;开放源代码社区(由拥有共同兴趣爱好的人组成,根据开源软件许可证协议公布软件源代码的网络平台,也为成员提供自由学习交流的空间)需构建安全屏障,完善审核备案;普通用户要提高安全意识,优先选择正规平台,对重要信息多方交叉验证,不传播可疑内容,发现问题及时举报。

曝光推动行业规范人工智能立法有望加快推进

专家表示,此次“3·15”曝光将对AI产业发展产生深远影响。短期来看,将提升公众对AI信息真实性的关注度,推动监管部门加强审查,企业合规成本相应上升。

郭涛指出,2026年全国两会已明确加快人工智能立法,GEO这类新型AI操控行为,有望成为立法重点规制内容。长期而言,此次事件将倒逼AI企业加大安全投入,重视数据质量与内容可信性,推动行业建立更完善的安全标准与信任机制。

郑吉昌表示,当前我国正着力打造“智能经济新形态”,AI已成为经济发展的重要内核。从技术、法律、行业等多维度治理AI“投毒”乱象,既是保障公众权益的迫切需要,也是推动智能经济健康、规范、高质量发展的必然要求。

西安报业全媒体首席记者 龚伟芳

相关内容

热门资讯

空调连续工作多久需要停机休息 空调连续工作的时间取决于多个因素,包括空调的型号、功率、使用环境和维护情况等。一般来说,空调可以连续...
空调哪个符号是除湿的 空调除湿功能通常用一个水滴形状的符号表示。不同品牌和型号的空调遥控器可能会有所差异,但一般来说,除湿...
格力空调多长时间加一次氟利昂 1、一般情况下,空调对氟利昂的使用量是非常小的,所以在空调使用了四年左右的时候再考虑加也没问题。2、...
空调用多长时间需要加氟一次 一般情况下是五年。当出现以下这几种情况时,空调才需要加氟。1、空调的室内机和室外机各有两个接口,当接...
格调生活·C标思享荟:卡萨帝在... 9月12日的郑州龙湖金融岛,夜风轻拂,灯光璀璨。“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑...
品牌价值破千亿、高端份额持续领... 9月12日,“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑州站”在郑州龙湖金融岛举办。2026...
空调主板坏了修800还是换新的 空调主板坏了是修还是换新,需要考虑多个因素,以下是一些建议:1. 维修成本:如果维修费用较低,比如 ...
空调开多久需要休息多长时间 问题:空调开多久需要休息多长时间回答:1、在使用空调的过程中,一般空调开7~8个小时左右需要休息2~...
中央空调多长时间清洗一次 1、一般空调开机前清洗一次即可,空调开机中间时段再清洗一次,空调关机时清洗一次,这样比较合理。2、空...
中央空调氟利昂多久加一次 看空调制热和制冷程度,很多人的观点认为氟利昂必须一年放一次,其实这个观点是错误的,理解上面有点偏差,...