超三千款违规AI产品被处置！还将整治AI造谣、低俗内容等_科技资讯

超三千款违规AI产品被处置！还将整治AI造谣、低俗内容等

创始人

2025-06-21 15:20:15

0次

6月20日，“网信中国”发文公布“清朗·整治AI技术滥用”专项行动第一阶段重点整治成果。该阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

自今年4月专项行动启动以来，中央网信办聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，部署各地网信部门加大违规AI产品处置力度，切断违规产品营销引流渠道，督促重点网站平台健全技术安全保障措施，推动生成合成内容标识加速落地。在此次通报中，中央网信办列举了各地网信部门及重点网站平台采取的多项治理措施和成果。

具体来看，北京网信办开设AI技术滥用治理举报渠道，形成“用户标记—平台核查—联合处置”工作模式，处置有关举报26篇。上海网信办推动标识要求落地示范，组织开展4场法规宣贯和专题交流，覆盖企业400余家，属地内重点企业已基本完成显式标识规范上线。浙江网信办加大对属地AI应用和网站平台的督导力度，各平台共拦截清理各类违法违规信息及提问2550万余条。江苏网信办加强统筹协调，联合省通信管理局等部门排查AI风险域名163个，封堵和取消接入域名18个。天津网信办采用“人工+技术”方式，开展大模型安全监测，通报4批次14个风险问题。

下一步，中央网信办将聚焦AI造谣、低俗内容等7类突出问题，开展“清朗·整治AI技术滥用”专项行动第二阶段工作，构建技术监测体系，形成处置处罚规范，推动内容标识如期落地，形成长效工作机制，着力维护清朗网络生态，推动人工智能向善向好。

文|樊文扬

上一篇：陈晓红院士：推动具身智能在多领域实现标杆应用

下一篇：AR眼镜的中国方案：亮亮视野打破全球沟通壁垒

超三千款违规AI产品被处置！还将整治AI造谣、低俗内容等

相关内容

热门资讯