首个内容审核大模型 在东西湖诞生！

近日从武汉云从大衍科技有限公司（下称云从科技）获悉，一款专注于内容安全审核的垂直大模型——“晏清”正式通过网信部门备案，成为全国首个完成此项备案的内容审核大模型。

这意味着，我国AI行业有了一个能理解上下文、识别潜藏风险、全栈自主可控的“内容安全审核员”。

能看懂“指桑骂槐”

当前，随着AI工具的广泛应用，用AI写文案、做视频、生成图片已成常态。

但这也带来一个治理难题：AI“下笔如有神”，也可能“造谣”如有神，甚至生成“高级黑”或“隐形违规”内容。

传统的审核手段，如关键词过滤、人工巡查，在面对这些AI生成的“高级”违规内容时，如同用筛子过滤烟雾，显得力不从心。

“晏清”应运而生。其名取自‘海晏河清’，寓意天下太平、清朗明净，恰与内容安全审核守护‘清朗网络空间’的使命相呼应。它不再是机械地匹配敏感词，而是像一个经过严格训练的“高智商、高情商审核员”，不仅能识别表面的违规词汇，更能理解内容的真实意图和复杂语境。

○全国首个在网信部门完成备案的内容审核大模型——晏清大模型。

“也就是说，它能看出一篇看似平常的文章是否在‘指桑骂槐’，一张图是否在‘挂羊头卖狗肉’。”云从科技集团中国区业务总监、武汉云从大衍科技有限公司负责人康鑫说。

用户“开箱即用”

“晏清”被设计成一个对外开放的“安全插座”，可广泛适用于需要内容审核的行业领域，用户可以“开箱即用”。

譬如，在智能客服领域，可以帮助客服快速提炼用户问题，并确保自动回复的内容安全、得体。在社交、电商平台，可自动扫描海量用户发布的图文视频，提前发现风险内容。在媒体、企业、科研机构等，可快速分析长篇报告，提取核心观点，同时确保引用信息的可靠性。

“晏清”还可根据用户需要灵活定制。譬如，用户开发AI写剧本、AI教学等工具时，无需从零开始搭建内容审核系统，可直接在“晏清”的基础上自定义功能，大幅降低合规成本。

除了能审核内容本身，“晏清”还能审核生成内容的大模型，对大模型的训练语料、生成逻辑等进行“内外体检”，确保其“三观正确”。

据悉

“晏清”将以私有化部署和SaaS服务

两种形态对外提供

既能提供针对性的定制化服务

也为广大普通用户和小微企业

提供在线“平价”服务

据介绍，一经问世，“晏清”就受到关注，已有多家公司、机构主动接洽，计划用于辅助大模型备案审核工作。

全栈自主可控

“内容审核大模型成功的标志不仅是‘聪明’，更要‘可靠’。”康鑫告诉记者，“晏清”实现了从底层架构、整体设计到训练内涵的全栈自主可控。此次顺利通过网信部门备案，标志着其技术路径和安全标准获得了监管层面的认可。

○武汉云从大衍科技有限公司负责人康鑫。

“晏清” 搭载了华为昇腾芯片和算力，整合了云从科技多年内容风控经验，采用全栈自主技术路线，并历经了万亿级数据训练，成为“7x24小时不掉线的可靠骨干”。

据悉，在测试阶段，“晏清”的识别准确率超99%，接口响应时间小于100毫秒，年检测数据量可达万亿级。

康鑫介绍，研发期间，区内相关部门提供了政策支持、算力支撑和关键测试场景，并协助整合了产业链上资源，协调权威机构提供了训练语料。最终，“晏清”以高于行业平均速度2倍的效率问世。

文、图 - 汪杭 但峰