一、问题：从“像我却不是我”到精准欺骗，深度合成侵权与诈骗交织 近日，演员王劲松社交平台看到一则所谓“数字金融”理财广告，视频中人物的面容、口型乃至声音特征与其高度相似，但并非本人录制。视频还使用带有“权威背书”意味的标识和表述，容易让受众误以为是“名人代言”或“机构推荐”。王劲松在公开评论中直言“侵权成本低”“仿冒升级快”，折射出深度合成技术被滥用后的现实困境：个人身份被复制、公众信任被借用，诈骗因此更具迷惑性。 这类案例并非偶发。近段时间——从演员、主持人到运动员——多名公众人物被“换脸”“仿声”制作成理财推介、保健品营销、直播带货等内容，甚至出现“假账号反拉黑真本人”的离奇情况。受害者不仅面临名誉受损，也可能因受众误信引发更大范围的财产风险和社会影响。 二、原因：技术门槛下降叠加流量逐利，治理与取证仍存“时间差” 一是生成成本显著降低。不法分子往往只需从公开采访、活动视频中截取片段，就能在短时间内拼接生成高度拟真的视频和音频，并沉淀为可批量复用的“黑灰产素材库”。二是流量变现驱动强。理财、保健、培训等领域本就依赖“信任”促成交易，“名人背书”能快速抬高点击与转化率，诱导受众在短时间内做出非理性决策。三是维权与取证难。侵权内容传播链条长、账号更迭快，服务器与主体往往跨区域，被侵权人常常陷入“发现晚、下架慢、追责难”。四是部分平台审核仍有漏洞。在深度合成标识、账号实名核验、广告主体资质审查等环节一旦失守，黑灰产就可能借机规模化传播。 三、影响：侵权外溢为诈骗风险，社会信任成本上升 深度合成滥用的危害，已从肖像权、名誉权侵权外溢到公共安全与金融风险。一上，受众面对“看似权威、极像本人”的内容更容易放松警惕，进而造成财产损失；另一方面，公众人物、媒体主持人等具有社会影响力的身份被反复“盗用”，会削弱公众对网络信息的基本信任，形成“真假难辨”的传播环境。此外，企业品牌与正常广告生态也可能被牵连，合规经营者面临不公平竞争压力。 四、对策：平台、监管、司法、技术协同发力，形成可持续治理闭环 近期，多家平台开展集中治理，对违规内容下架处置并封禁有关账号，同时通过开通投诉通道、强化识别模型等方式提升处置效率。有关部门也加快执法进度，对利用深度合成制作虚假广告等行为依法处罚，释放从严监管信号。司法层面，多起案件对声音等人格权益的可识别性与保护范围作出明确裁判，并支持相应赔偿，推动治理从“删帖下架”更走向“实质追责”。 下一步治理仍需落到更细处：一是压实平台主体责任。对疑似名人代言、金融理财推介、医疗保健等高风险领域，提高审核门槛，强化广告主资质核验与内容溯源，完善“先拦截、再核验、快处置”的流程。二是完善深度合成标识与水印机制。推动合成内容显著标注、不可篡改水印、来源链路记录，从技术上增强“可识别、可追溯、可取证”。三是强化跨部门、跨平台协同。对黑灰产团伙、模板化脚本、同源素材库开展联动打击，提升对“批量生成—批量投放—快速变现”链条的整体治理能力。四是降低维权门槛。探索更高效的证据固定机制和快速裁处通道，让侵权成本明显高于造假收益。五是加强公众教育。提醒用户对“名人荐股”“高收益理财”“限时福利”等常见话术保持警惕，重要决策以官方渠道核验为准。 五、前景：以规则护航技术向善，重建“可验证”的网络信任 深度合成技术本身有正当应用空间，关键在于把“可用”变为“可控”。随着监管规则完善、司法实践累积、平台治理升级以及鉴伪技术迭代，相关乱象有望得到遏制。但也要看到，技术升级与黑灰产对抗将长期存在，治理需从阶段性整治转向常态化能力建设：让合成内容“必须标、标得清”，让传播链条“能追溯、可追责”，让违法成本“高到不值得”。
深度合成技术可服务影视制作与信息传播，但一旦被用于“盗脸借名”，受损的不只是个体权益，更是公共信任的基础；面对造假更快、传播更广的新型风险，监管、平台、司法与社会公众需要形成合力，把“可验证的真实”嵌入网络内容生态，才能让技术应用回到正轨，避免数字空间的信任被持续透支。