近日，字节跳动旗下即梦AI发布的新一代视频生成模型Seedance 2.0在社交媒体平台引发热议；该模型能够根据用户上传的人物照片或文字描述，在数分钟内生成具有多角度镜头、角色稳定性强、光影效果逼真的视频内容。然而，该技术突破在展现强大能力的同时,也迅速引发了关于肖像权、版权保护以及技术伦理的广泛争议。 争议的焦点集中在该模型对真人肖像及声音特征的处理方式上。2月9日,知名演员周星驰的经纪人陈震宇公开质疑,大量使用周星驰肖像生成的视频在网络传播,部分创作者可能已从中获利,而平台是否应当承担监管责任。游戏科学创始人冯骥也发表评论,指出逼真假视频的零门槛生成将对现有知识产权体系和内容审查机制构成冲击,可能引发信任危机。 更令业界关注的是,有内容创作者在测试中发现,该模型在未获得任何声音素材的情况下,仅凭上传的人物照片便能生成与本人声音特征高度相似的视频内容。自媒体影视飓风创始人潘天鸿在评测中表示,这种技术能力虽然在法律层面可能尚未明确违规,但其对个人生物特征信息的掌握程度令人担忧。 从技术原理分析,此类视频生成模型需要海量数据进行训练。业内人士指出,模型能够准确还原特定人物的声音和形象特征,说明其训练数据库中很可能包含了大量公开或非公开的个人信息。这引发了关于训练数据来源合法性、数据使用授权以及个人信息保护等诸多法律问题。 北京市一法律师事务所高级合伙人赵建刚明确表示,无论技术形式如何创新,都不能突破现行法律对个人权利的保护底线。根据我国民法典对应的规定,任何组织或个人不得以丑化、污损或利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。 面对舆论压力和法律风险,平台方迅速作出回应。2月9日,即梦创作者社群发布通知称,Seedance 2.0在内测期间获得了超出预期的关注度,为保障创作环境的健康可持续发展,平台正根据用户反馈进行紧急优化调整,目前已暂停支持输入真人图片或视频作为主体参考的功能。平台方强调,始终遵循创意的边界是尊重原则,相关功能将在更完善后再向用户开放。 需要指出,此次事件发生在人工智能内容监管新规实施不久之后。2024年9月1日起,国家网信办等四部门联合发布的人工智能生成合成内容标识办法正式施行,明确要求所有人工智能生成的文字、图片、视频等内容必须进行显著标识,以防止虚假信息传播,保护公众知情权。 从行业发展角度看,视频生成技术的快速进步为内容创作带来了新的可能性,但也对现有的法律框架、行业规范和伦理准则提出了严峻挑战。如何在鼓励技术创新与保护个人权益之间寻求平衡,如何建立有效的技术审查和内容监管机制,如何完善相关法律法规以适应技术发展,成为监管部门、技术企业和社会各界需要共同面对的课题。
技术创新的快速发展需要我们审慎思考前进的方向。这次视频生成工具的调整既是AI发展中的必要校准，也是数字时代如何平衡权利保护与技术应用的典型案例。在全球倡导科技向善的当下