2025江苏网络强省建设优秀实践成果展示|从人力到AI 如何守好内容安全“第一关”?
创始人
2025-09-18 16:21:11
0

央广网无锡9月18日消息(记者庄滨滨 见习记者李婕)当你浏览新闻、观看视频,甚至滑动短短一条弹幕时,可能不会想到,在这背后有一张由人工智能织就的“防护网”,正二十四小时不间断运转,拦截网络上的暴恐、色情、虚假等信息。而这正是央视国际网络无锡有限公司研发的“清晏审核智能云平台”日常的工作场景。

内容审核曾是高度依赖人力的“苦差事”,如今,AI的出现正在改善这一难题。“我们创新性地引入了大小模型协同审核机制,通过动态任务调度,让多个模型协同作业,显著提升了审核精准度。”央视国际网络无锡有限公司AI应用研发中心总监黄建杰介绍。

后台监控网络数据(央广网见习记者 李婕 摄)

走进央视国际网络无锡有限公司,36块小屏组成的一整面屏幕墙映入眼帘,地方卫视播放的节目实时呈现,管控数据也随时更新。据了解,该平台基于超百万级审核资料库,涵盖敏感词、人物、旗帜、图片、影视片段等多维数据,结合自研AI识别技术,实现对文本、视频、图像等多模态内容的全面审核。它不仅覆盖六大类近300个审核维度,还能智能校对多字、漏字、错别字,甚至识别法律法规和地理名词错误。

央视网智能审核云平台大屏(央广网见习记者 李婕 摄)

作为入选江苏网络强省建设“十佳案例”的硬核成果,清晏审核智能云平台的价值不仅体现在技术突破,更在于广泛的应用落地与实效。“我们平台在复杂场景中的识别准确率较同类产品高出5%-20%,目前已累计审核图文超10亿条、音视频超4万小时。”黄建杰介绍,平台还全面支撑了巴黎奥运会、成都世运会、亚运会及大运会等国内外重大体育赛事,完成近万小时“清流内容”智能审核,凭借成熟的智能审核机制牢牢守住安全底线。

在推动行业升级与降本增效上,平台同样成效显著。传统人工审核模式下,大量人力投入仍难避免疏漏,平台通过AI技术替代部分重复性工作,在保障服务质量的前提下,将人工成本减少50%。对内,它支撑着央视网、央视频等台网机构的内容分发与业务安全;对外,平台已服务于多地政府单位、广电机构、新媒体公司,推动地方媒体与企业平台提升风险管控能力,为网络强省建设筑牢根基。

面对AIGC技术带来的新挑战,黄建杰表示,平台将持续强化六大核心能力,包括构建知识库、优化AI审核算法、实现跨模态关联分析、引入专家经验反哺模型等,进一步巩固内容安全防线。同时,积极布局AI数字人,计划联合长三角区域的相关企业与科研机构,将共同发起成立“长三角AI数字人产业联盟”,助力无锡作为长三角地区代表,成为全国乃至全球数字人产业的重要高地。

相关内容

热门资讯

陪郝龙斌领表参选国民党主席,赵... 海峡导报综合报道 中国国民党主席将于10月改选,前民代郑丽文18日上午率先登记,前台北市长郝龙斌也在...
哈马斯高层遇袭后首次公开露面:... 当地时间17日晚间,巴勒斯坦伊斯兰抵抗运动(哈马斯)政治局委员加齐·哈马德接受了半岛电视台的采访,回...
92款广东大模型“持证上岗”,... “信心有数”栏目 南方都市报、南都大数据研究院“信心有数”栏目,用数据记录广东实现现代化的奋进之路,...
9月22日开抢!郑州暖气缴费最... 秋意渐浓,凉风渐起。9月18日,记者从郑州市人社局了解到,为进一步发挥社保卡便民、惠民、利民作用,郑...
原创 数... 北京时间9月18日上午,Meta Connect 2025大会召开,Meta CEO扎克伯格正式发布...
被“劝退”之后:大龄孤独症学生... 李嘉的录取通知书李嘉今年19岁,是一名孤独症患者。今年4月,他通过广东省机械技师学院面向全省残疾人的...
被击沉81年后,二战时期日本沉... 据央视新闻报道,由于一艘二战时期的日本沉船发生燃油泄漏,密克罗尼西亚联邦楚克州于当地时间9月15日宣...
全新小鹏P7汽车支持苹果iPh... IT之家 9 月 18 日消息,小鹏今天在微博宣布,全新小鹏 P7 汽车现已支持苹果 iPhone ...
鸿蒙系统取消“NEXT”后缀 ... iMobile爱科技9月18日讯——华为HarmonyOS 6已经开启多轮开发者预览版招募推送,近期...
奶茶店员工将拖鞋放入小料盆,市... 极目新闻记者 丁伟9月18日,“奶茶店员工将拖鞋放入小料盆还录视频记录”的话题引发广泛关注。视频显示...