问题——从“巨额亏损”到“直播带货”，深度合成正批量制造“假当事人” 随着短视频与直播业态快速发展，一些不法分子利用深度合成等生成式技术，拼接“爆料”、伪造采访、合成音视频，在社交平台制造“顶流演员在境外豪赌巨亏”“知名主持人直播推荐神奇产品”等话题，借热点收割流量或直接实施商业欺诈。日前，有演员在综艺录制现场回应网络流言，明确所谓“澳门亏损十几亿”等内容系伪造信息，并披露造谣者为吸粉引流制作虚假消息，已被依法行政拘留。类似事件并非孤例：有奥运冠军的形象被合成“推荐土鸡蛋”，包装和视频同时造假；也有播音员形象被仿冒成直播间“主持”，以高度相似的演播环境与话术推销产品，误导消费者下单；还有演员遭遇“同脸账号”多平台轮番开播，粉丝难辨真伪。 原因——技术门槛下降叠加流量激励，催生“低成本、高回报”的造假链条 一上，深度合成工具日益易用，从“专业团队制作”演变为“模板化生成”，少量素材即可批量产出逼真视频与配音，显著降低违法成本。另一方面，部分平台算法偏好情绪化、冲突性内容，热点话题更易获得推荐，客观上放大了谣言的扩散速度。一些不法人员瞄准公众人物的社会影响力，利用“名人背书”提高转化率，以带货佣金、引流变现为目的实施系统化操作：先造“新闻爆点”引发讨论，再以“澄清”“揭秘”二次传播，或直接直播间冒名销售，从而形成从制作到分发再到变现的灰色链路。同时，部分消费者对深度合成识别能力不足，容易被“熟面孔”“权威场景”“专业话术”影响判断，也为骗局得逞提供了空间。 影响——侵蚀信任与扰乱市场，受害者、消费者与平台生态均承压 对公众人物而言，名誉权、肖像权、声音权益遭到侵害，澄清成本高、维权周期长，正常工作与生活被迫卷入舆论漩涡。对消费者而言，冒名带货往往伴随夸大宣传乃至虚假疗效承诺，部分商品披着“保健”外衣实为普通食品，容易造成经济损失并带来健康风险。对行业生态而言，深度合成谣言不断冲击“内容可信度”，削弱公众对新闻信息、直播电商乃至平台审核能力的信任，挤压合规经营者空间，形成“劣币驱逐良币”的风险。更值得警惕的是，当“真假难辨”成为常态，社会沟通成本上升，公共议题讨论容易被情绪化内容带偏，影响网络空间清朗秩序。 对策——以法治为牵引、以平台为关键、以技术为抓手，形成综合治理闭环 其一，强化依法打击与快速处置。对编造散布谣言、冒用身份实施诈骗等行为，依法依规从严处理，提升违法成本；对涉及医疗健康等重点领域的虚假营销，推动跨部门联动，及时下架处置、追溯资金流向与组织链条。其二，压实平台主体责任。完善“深度合成内容标识”与审核机制，对疑似合成的音视频加强风控提示与传播限制，建立“热点谣言”快速核验通道；对冒名账号实行更严格的实名认证与信用约束，提升封禁、复核、申诉的效率与透明度。其三，完善权利救济与证据固化机制。为被侵权者提供便捷的投诉入口和取证支持，推动电子证据保全与司法衔接，减少维权成本。其四，加强公众媒介素养教育。围绕“合成痕迹识别”“营销话术辨别”“权威渠道核验”等开展提示，特别是对老年群体加强风险提醒，引导形成“不轻信、不转发、先核实”的网络习惯。 前景——从“治理个案”走向“系统防护”，让技术发展回归向善轨道 随着生成式技术持续迭代，深度合成将更逼真、更低门槛，治理也必须同步升级：一上，要推动内容标识、溯源水印、模型安全等技术手段落地应用，提升“可识别、可追踪、可追责”能力；另一方面，要在规则层面深入明确边界，细化平台责任、广告合规、数据使用与人格权益保护要求，形成稳定预期。更重要的是，社会各方需共同维护真实、可靠的传播环境，让创新在法治框架与伦理约束下释放正向价值。
当技术飞跃与人性底线发生碰撞，AI伪造风波提醒我们：科技进步需要规则护航；唯有建立“不敢假、不能假、不愿假”的全链条机制，才能让技术真正服务公共利益，而不是成为伤害他人的工具。这场关乎信任的保卫战，没有旁观者。