AI大模型遭“投毒”乱象曝光 专家给出平民化防御方案
创始人
2026-03-19 20:14:06
0

今年“3·15”晚会,央视曝光AI大模型“投毒”黑色产业链。不法分子借助GEO(生成式引擎优化)技术,批量发布虚假信息诱导AI抓取,进而操控回答内容、误导公众认知,已形成分工明确、明码标价的灰色牟利模式,引发行业对AI信息安全与可信生态的高度关注。针对公众关心的识别与防范问题,业内专家给出了专业建议。

普通人如何快速识别AI被“投毒”专家支招

为帮助普通用户规避风险,专家总结出核心识别特征,无需专业知识即可快速判断。

内容立场极端单一:回答过度偏向某一产品、品牌或观点,只讲优势、不提缺点,缺乏客观对比与风险提示。

表述绝对化、夸大宣传:频繁使用“最有效”“零风险”“根治”“百分百安全”等绝对化用语,违背常识与科学表述。

关键信息无法溯源:涉及机构、数据、专家、资质、研究成果等内容查无实据,无权威来源可查证。

多平台内容高度雷同:话术、数据、案例高度复制粘贴,跨平台传播高度一致,无独立思考与原创信息来源。

与官方发布内容明显冲突:

健康、理财、消费、政策等重要信息,与政府部门、权威机构、官方平台发布的内容相悖。

对照以上特征,普通用户可在一定程度上避开被“投毒”污染的AI信息,降低受骗、误判风险。

专家建议构建全维度防护体系

如何有效防范AI大模型被“投毒”,专家从技术、法律、行业、用户等多个层面提出系统应对建议。

资深人工智能专家、网经社电子商务研究中心特约研究员郑吉昌提出三方面应对思路:在技术层面,应加强数据审核、优化算法模型、建立数据溯源机制;在法律层面,应加快完善相关法律法规,强化执法监管力度;在行业层面,应建立统一标准,推动企业加强自律。

资深人工智能专家、网经社电子商务研究中心特约研究员郭涛建议,AI开发者与服务平台要严格管控数据来源,建立数据清洗、异常检测、安全对抗测试及常态化运营监控机制;开放源代码社区(由拥有共同兴趣爱好的人组成,根据开源软件许可证协议公布软件源代码的网络平台,也为成员提供自由学习交流的空间)需构建安全屏障,完善审核备案;普通用户要提高安全意识,优先选择正规平台,对重要信息多方交叉验证,不传播可疑内容,发现问题及时举报。

曝光推动行业规范人工智能立法有望加快推进

专家表示,此次“3·15”曝光将对AI产业发展产生深远影响。短期来看,将提升公众对AI信息真实性的关注度,推动监管部门加强审查,企业合规成本相应上升。

郭涛指出,2026年全国两会已明确加快人工智能立法,GEO这类新型AI操控行为,有望成为立法重点规制内容。长期而言,此次事件将倒逼AI企业加大安全投入,重视数据质量与内容可信性,推动行业建立更完善的安全标准与信任机制。

郑吉昌表示,当前我国正着力打造“智能经济新形态”,AI已成为经济发展的重要内核。从技术、法律、行业等多维度治理AI“投毒”乱象,既是保障公众权益的迫切需要,也是推动智能经济健康、规范、高质量发展的必然要求。

西安报业全媒体首席记者 龚伟芳

相关内容

热门资讯

放行友好国家船只,伊朗已成霍尔... 澎湃新闻记者 李怡彬据相关海事和贸易数据平台显示,尽管自2月28日美以伊战争爆发以来,霍尔木兹海峡水...
两个“超常规”打开未来五年新机... 细读“十五五”规划纲要,两个“超常规”跃入眼帘。一个指向关键核心技术攻关,落子国之利器。《纲要》提出...
没有底线的暗杀,不再设限的报复 波斯湾的战火早已没有红线,但伊朗的第63波攻势还是不一样了。当地时间3月18日至19日,美以伊战事进...
燃气灶的使用寿命一般多少年 家用人工煤气灶具安全使用年限为6年,天然气燃气灶安全使用年限为8年,这是《家用燃气燃烧器具安全管理规...
冰箱锁能延长冰箱寿命吗 最佳回答 冰箱锁是可以延长冰箱寿命的。据我所知,冰箱锁的出现就是为了延长冰箱的使用寿命和安全性能,每...
80后拼命相亲,00后拒绝性生... 作者 - 芦苇监制 - 她姐2011年,如果你是一个单身女性,很难躲开一个词——“剩女”。它出现在电...
新的风冷冰箱开启多长时间冷冻室... 容积大的冰箱比较慢,而且环境空气温度高就慢,一般初次运转40分钟制冷片子能沾湿手。1小时后冷冻可以见...
热水器老是滴滴响E1 万和E50-Q1W1-22热水器显示e1表示点火故障。可能是因为燃气热水器在启动前或停止燃烧后检测到...
笔记本电脑键盘删除键是哪个键 1、笔记本电脑键盘删除键可以按【Ctrl】键+【Alt】+【Del】键同时按,或者按两个按键即可重启...
原创 M... 最近老有人问我,现在到底适不适合入手MacBook Pro。这么着吧,预算紧的可以盯着点折扣,不差钱...