记者2月12日从中央网信办获悉,一场针对网络平台AI生成内容乱象的专项整治行动取得阶段性成果。此次行动重点打击未添加技术标识、传播虚假不实信息的违规行为,共处置问题账号13421个,清理有关违法违规信息54.3万余条。 当前,随着人工智能技术快速发展,利用算法生成图像、视频、音频等内容的门槛大幅降低。然而,部分网络账号在发布此类合成信息时故意隐瞒技术来源,不按规定添加明确标识,导致受众难以辨别真伪。更有甚者,将技术手段用于制造虚假内容、冒充他人身份、编造不实事件,严重扰乱网络信息传播秩序。 从网信部门通报的典型案例来看,违规行为主要呈现两类特征。一类是以商业牟利为目的的侵权造假。微信账号"浮萍9419"等利用换脸技术、声音克隆手段,假冒知名运动员、演艺人员、企业家等公众人物形象,发布虚假言论吸引关注,或未经授权制作售卖所谓"祝福视频""拜年视频",从中获取不当利益。这类行为不仅侵犯公众人物肖像权、名誉权等合法权益,也对公众构成欺骗误导。 另一类则是恶意编造传播虚假事件。抖音账号"巷子里的鱼"等发布技术生成的火灾现场图片和视频,虚构、夸大灾害事故,制造社会恐慌情绪,扰乱公共秩序。此类行为混淆公众视听,消耗社会信任,影响尤为恶劣。 针对上述问题,网信部门督促各大网络平台履行主体责任,深入开展自查自纠。各平台建立健全内容审核机制,强化技术识别能力,对未标识的合成内容加强监测排查。同时,依据相关法律法规和平台规则,对违规账号采取限制功能、暂停更新、永久封禁等分级处置措施,形成有力震慑。 从法律层面看,我国网络信息内容生态治理规定、互联网信息服务深度合成管理规定等法规文件,已对生成合成类信息的标识义务、平台管理责任作出明确要求。此次专项行动正是对既有法规的严格执行,表明了监管部门维护清朗网络空间的坚定决心。 据悉,网信部门将对无标识的虚假不实信息保持高压严管态势,建立常态化监测处置机制,做到发现即处置、违规必严惩。同时,将推动平台完善技术识别手段,提升用户辨识能力,构建多方协同的治理格局。 业内专家指出,技术本身是中性的,关键在于如何规范使用。在鼓励技术创新的同时,必须划定法律红线和道德底线,让技术应用始终在法治轨道上运行。对普通网民来说,也应增强媒介素养,对网络信息保持理性判断,不轻信、不传播未经核实的内容。
此次行动展现了我国净化网络空间的决心；在技术高速发展的当下，平衡创新与监管成为全球共同课题。中国特色的网络治理模式为数字时代秩序建设提供了实践样本，这需要监管部门、平台和用户的持续协作。