【问题现状】 短视频平台上大量冒充"AI生成"的账号通过情感套路吸引老年用户；这些账号盗用靳东等明星形象，利用拟声、换脸技术打造虚拟人设，最终引导用户购买商品或直接实施诈骗。记者测试发现，电商平台提供隐蔽的AI视频定制服务——200元就能克隆名人声线，20元起可制作换脸视频。演员王劲松等公众人物已公开指控形象被盗用，普通民众的维权处境则更加困难。 【深层诱因】 这类乱象源于三个方面：首先，技术门槛大幅下降，开源工具让视频伪造变成简单操作；其次，平台审核存在漏洞，关键词屏蔽无法覆盖各种变体说法；再次，老年群体的数字素养和防骗意识跟不上，难以识别深度伪造内容。瑞莱科技专家指出，犯罪成本低而收益高，这直接助长了黑产扩张。 【社会影响】 公安部数据显示，2025年上半年电信诈骗涉案金额超百亿元，其中38%的受害者是老年人。这种技术滥用不仅造成经济损失，还引发了新的社会问题：明星肖像权纠纷频繁发生，普通人的生物信息泄露风险加大。某地甚至出现了伪造亲属视频进行"紧急转账"诈骗的新花样。 【治理路径】 目前的应对措施多管齐下：公安机关启动"净网2025"专项行动，严厉打击AI黑产工具开发团伙；工信部要求平台建立生成内容强制标注制度；中国老龄协会与互联网企业推出"银发守护"反诈课程。法律人士建议加快推进《深度合成服务算法备案规定》，明确技术提供方的责任。 【发展前�绻】 随着《生成式人工智能服务管理暂行办法》的实施，行业将出现三个变化：AI视频水印技术可能成为标配，第三方鉴伪服务需求增加，针对老年人的"数字反哺"教育将纳入社区服务。专家认为，技术治理需要在创新和安全之间找到平衡，建立"研发—应用—监管"的协同机制是关键。
AI换脸诈骗的泛滥本质上反映了新技术发展与社会治理的脱节。当技术门槛不断降低，而防范机制还没跟上时，不法分子就会乘虚而入。保护老年人的权益、维护社会信任，需要技术企业、平台、执法部门和全社会一起努力。只有这样，新技术才能真正造福人类，而不是沦为犯罪工具。