清朗整治AI应用乱象第二阶段已清理违规信息561万条

专项行动第二阶段整体进展与核心数据

近期，中央网信办组织开展“清朗·整治AI应用乱象”专项行动第二阶段工作，聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进重点整治任务，督促网站平台集中清理AI生成各类违法不良信息，依法查处违规账号和移动应用程序，有效遏制AI生成合成信息内容乱象，推动AI应用服务健康有序发展S2S3S11。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个S2S3S11。

专项行动开展以来，各地网信部门切实履行属地监管责任，因地制宜推出一系列针对性治理措施。北京网信办指导网站平台全面升级审核策略，持续提升违规内容新型变体识别处置能力。上海网信办督促平台深入开展自查自纠，加大违法违规信息和账号查处力度，推出AI应用“知识普及包”引导公众识别问题风险。浙江网信办对属地重点平台开展“一企一策”问诊进行合规指导，督促完善内控体系，依法查处一批问题突出的AI应用软件。广东网信办召开重点网站平台工作例会，对多款应用违规问题开展点对点督促整改，确保专项行动取得实效S2S4S10。

目前，专项行动第二阶段的起止时间、整体周期及后续阶段安排尚未披露，561万余条违法违规信息、4.9万余个账号、2400余个网站及应用的分类统计数据（如各违规类型占比）也未公开。

重点整治方向与典型违规情形

专项行动期间，一批违法违规账号和应用受到处理。为进一步加强警示教育，网信部门通报了部分典型案例。这些典型案例包括七类情形：一是利用AI“魔改”经典、生成“数字泔水”。二是AI制作发布虚假不实信息。三是AI假冒仿冒他人。四是制作发布暴力低俗等信息。此外，典型案例还包括AI侵害未成年人权益、利用AI“托管”从事网络水军活动、AI产品服务和应用程序违规等情形S3S7S12。

具体来看，利用AI“魔改”经典、生成“数字泔水”的案例中，微博账号“天小”、抖音账号“歪国”、快手账号“小菌”、微信账号“咸i”等，滥用AI技术“魔改”《三国演义》《西游记》等经典名著，颠覆重要人物人设，虚构低质猎奇剧情博取流量，相关账号已被依法依约处置。AI制作发布虚假不实信息的案例中，快手账号“云视”、小红书账号“有*头”、抖音账号“7员”、微信账号“长**帆”等，利用AI生成合成虚假灾害现场、救援画面，编造不实社会热点信息，发布封建迷信内容，打造AI数字人进行虚假宣传带货，误导老年人，制造恐慌情绪，相关账号已被依法依约处置S4S6S8。

平台侧合规落地实践

网站平台积极响应专项行动部署安排，持续健全AI内容常态化治理机制。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施，提升违规内容智能检测和拦截效率，加大对违规账号、信息处置力度，畅通线索举报渠道，累计发布各类治理公告46期S4S5S8。

豆包、元宝、千问、文心一言等平台严把原始语料内容审核关，严格限制违规内容输出，强化AI生成合成内容标识要求落地，从源头防范违法违规信息生成传播。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范和上架要求，对在架APP进行抽检复测，有效拦截违规应用入库S4S6S8。

目前，AI生成内容标识的技术规范、平台执行验收标准及监管核查机制尚未明确，专项行动对AI行业企业经营、产品迭代及合规成本的具体影响也缺乏公开评估数据。

AI生成内容标识监管相关传闻与行业影响

有第三方博客渠道称，中央网信办正推进AI生成内容“应标尽标”专项整治，落实不力将被严惩S1。截至目前，该说法暂未在中央网信办官方通报中得到确认，其具体实施细则、标识标准、适用场景范围及时间节点要求均不明确，所谓“落实不力将被严惩”的具体处罚措施、裁量标准及适用主体范围也未见于官方公开信息。

若后续监管层面进一步明确AI生成内容的强制标识要求，意味着相关标识将从倡导性要求转向强制性规范，平台和内容创作者需要建立完善的AI内容标识机制，确保公众能够清晰识别AI生成的内容。对于AI行业而言，全面标识要求将推动行业建立更透明的内容生产机制，提升公众对AI内容的信任度，同时也可能增加平台的技术投入和运营成本。行业企业可密切关注后续政策出台，提前做好技术储备和合规准备，以适应监管要求的变化。

后续监管趋势

下一步，网信部门将进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境S11。随着AI技术的快速发展，监管部门将不断完善监管体系，平衡技术创新与风险防范的关系，推动AI行业健康有序发展。