封面新闻记者 罗石芊 边雪
“0帧起手”。在经过AI（人工智能）“二创”之后，《甄嬛传》变成枪战片，《西游记》中唐僧和女儿国国王拥抱亲吻，《红楼梦》剧情变武打戏，《三国演义》里诸葛亮戴上墨镜指点沙场……
AI“魔改”宝玉、黛玉打架（网络视频截图）2024年，被广泛认为是“AI视频元年”。随着AI视频生成技术的不断成熟，在各大短视频平台上，使用AI生成创作的各类短视频变得火热，部分画面可以做到以假乱真，特别是下半年以来，对于经典影视作品的二次创作开始“爆发”。通过AI技术对经典IP作品进行“魔改”，是一种创新还是对原著的亵渎？引发了网友的广泛讨论。
通过AI进行“移花接木”的现象也时有发生。近段时间，知名传染病学专家张文宏的容貌和声音被商家通过“AI换脸”移花接木，在网络上带货，有不少老年人掉入“陷阱”。
12月7日，国家广播电视总局网络视听司发布《管理提示（ AI魔改）》，指出近期AI“魔改”视频以假乱真、“魔改”经典现象频发，要求短视频平台进行排查清理。
AI“魔改”视频兴起，带来了哪些新的问题？创作者对影视作品进行“二创”是否面临法律风险？AI技术进步的背后是否存在“边界”？封面新闻记者对这一现象进行了调查，并邀请了业内相关专家和律师，请他们进行解读。
AI“魔改”经典影视剧
广电总局出手管控
近段时间，在短视频平台上，一些AI生成的视频吸引了不少网友关注。其中，一些经典影视作品的画面，在经过AI二次创作“魔改”后，得到了大量点赞。
被“魔改”的影视作品中，四大名著和《甄嬛传》中的视频画面较多。例如，《西游记》里，唐僧与女儿国国王“终成眷属”，拥抱亲吻，大师兄孙悟空骑着摩托车扬长而去；《三国演义》中，羽扇纶巾的诸葛亮戴上了墨镜指点沙场；《红楼梦》里，黛玉、宝玉话不投机就大打出手，黛玉还能徒手倒拔垂杨柳；热门影视剧《甄嬛传》中，甄嬛更是一言不合就举枪……
甄嬛“举枪”（网络视频截图）这些视频，通过AI工具对原有视频内容进行了重新剪辑、配音，改变剧情走向，让观众觉得十分新鲜好玩，浏览量、点赞量、转发量颇高，有网友表示“这才是原版”。但同时，也有网友担忧，这样的“魔改”剧情，会对大众认知造成冲击，认为经典不应该被胡乱改编。
12月7日，国家广播电视总局网络视听司发布《管理提示（AI魔改）》，指出近期AI“魔改”视频以假乱真、“魔改”经典现象频发。这些AI“魔改”经典包括《甄嬛传》变身“枪战片”，《红楼梦》改成“武打戏”，孙悟空骑着摩托车扬长而去等。这些视频为博流量，毫无边界亵渎经典IP，冲击传统文化认知，与原著精神内核相悖，且涉嫌构成侵权行为。
《甄嬛传》变成枪战片（网络视频截图）《管理提示》要求，各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频，并严格落实生成式人工智能内容审核要求，举一反三，对各自平台开发的大模型或AI特效功能等进行自查，对在平台上使用、传播的各类相关技术产品严格准入和监督，对AI生成内容做出显著提示。
AI视频加速发展
换脸配音等以假乱真
2023年，AI开始“爆发”。2024年，AI不断创新突破，技术出现了巨大进步，新业态持续涌现，在视频生成大模型方面表现得尤为明显。今年2月，OpenAI发布文生视频模型SORA，AI视频在分辨率、画面真实度、时序一致性等方面有了显著提升，给人强烈震撼。
一石激起千层浪，国内外多家技术公司开始布局AI视频。今年，我国的即梦、可灵、海螺等AI平台不断推出新的视频生成技术，表现亮眼，其效果已经超越近期才对外开放使用的SORA，在全球处于“第一梯队”。封面新闻记者在多个平台测试发现，国内AI平台的文生视频、图生视频、对口型配音的画面表现力和真实度，在某些场景下，足以“以假乱真”。
在此基础上，不少APP也开发了简易的“AI一键生成”功能，用户将所需创作的图片、影像、音乐导入后，可根据自己的喜好“定制”专属的作品，生产出高清晰度、高画质、真实感强的新作品。
但是，这样的AI技术，在方便创作者进行内容生产的同时，也出现了上文中的AI“魔改”现象。同时，有商家利用AI换脸等手段，在网络上谋取利益。
张文宏医生被AI换脸后带货蛋白棒（网络视频截图）前段时间，知名传染病学专家张文宏，就被商家通过AI换脸、合成人声做成视频，在网络上“直播带货”销售一款蛋白棒，使不少老年人信以为真。对此，12月12日，张文宏在接受媒体采访时回应，这样的卖货账号不止一个，且一直在变，他已多次向平台投诉。“很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民，就很容易相信。”除此之外，张文宏也考虑求助警方，但对方看不见、摸不着，经常更换账号，很难找到准确的报警对象。
张文宏的遭遇，并不是首例。去年，在江西上饶，68岁的丁奶奶刷视频陷入“假靳东”骗局。丁奶奶在网上刷到假冒靳东的视频，相信是靳东本人发布的，给其发私信刷礼物，3年时间刷了3万余元。
今年国庆，“雷军”在网络上犀利点评堵车、调休、游戏等热门话题，引发网友热议。但事实上，这些内容与雷军并无关系，而是有人通过AI配音制作。
据《2024人工智能安全报告》显示，2023年，基于AI的深度伪造欺诈增长了3000%；2024年上半年，AI诈骗案案值已超过1.85亿元。
12月15日，腾讯官方内容安全沟通站点微信“珊瑚安全”公众号发布消息称，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理，截至目前，累计处置内容532条，关闭账号209个。
封面新闻记者从业内人士处获悉，目前，抖音、快手等短视频平台，也对AI生成视频进行较为严格的审核，除了在画面中标注提醒类文字外，还对一些视频进行限流处理。
AI“魔改”诸葛亮戴上墨镜（网络视频截图）AI技术的“边界”在哪？
专家：应提前做好风险控制
AI技术的快速发展，正在推动相关领域发生深度变革。关于AI“魔改”类的视频，网友也是各持己见。有网友认为AI二创“魔改”，很有创意，只是为了“图一乐”，通过新技术重新“解读”了经典，不应太过苛责。也有网友认为，AI的不合理的创作，是对原著作品的一种侵权，涉及法律风险。
AI技术的“边界”在何处？应当从哪些方面出发更好规范AI技术发展？四川大学文学与新闻学院研究员、博士生导师宋耀教授认为，AI只是一个技术工具，关键在于使用者要有对信息本源的价值判断，政府、平台、企业需要提前做好风险控制。
宋耀说，政府部门可以对AIGC的内容进行适当管理，“如果是涉及偏公益、普及、教育意义的信息，由于会影响大众判断，政府可以通过政策进行引导。”同时，政府也应当加大对AI技术上游公司的监管，保证全链条的透明度。
针对AI技术源头公司，宋耀认为，企业本身也需要加大对技术的管理，“企业可以尝试通过技术，给视频打上‘AIGC生成甄别标签’并永久留存，这样可以更明显地提醒大众。”他还建议，AIGC视频要能溯源，企业可通过区块链等方式，为视频打一个AI生成的标记，平台可以通过该标记能够找到背后的数据模型，溯源后起到管理用户的作用。
“我认为相关AI软件在使用前，可以考虑通过合同的方式来进行使用者行为的限制，比如使用者在使用软件过程中，对作品版权进行限制，如果用AI生成了作品，可以要求使用者不能够进行商业化、不得生成违法作品等条款，通过对生成内容进行预先设定，以合同的方式来限制他人对原作品的滥用。”电子科技大学公共管理学院副教授、英特信律所律师黄小洵表示。
“培养用户的相关意识是非常有必要的，因为我们现在面临与AI相关的领域越来越多，很可能个人就成为AI作品的创作者。在相关技术发展的过程当中，我们其实有一个认知，如果回溯版权法的整个发展历程，每当面临新的技术，就会产生新的作品形式，公众其实都会产生一种新的法律认知。”黄小洵告诉封面新闻记者，当前非常有必要来提高公众对AI相关产品使用的法律意识，因为人工智能涉及的问题很广，比如AI在进行学术研究过程中，同样会引发相关的伦理问题，但很多AI工具的使用者法律意识都是很模糊的。
AI“魔改”涉及法律风险
律师：恶搞或侵犯原作品著作权
AI换脸、AI“魔改”，是否会触犯相关法律？AI作品是否能拥有自己的版权？对此，陕西恒达律师事务所高级合伙人、知名公益律师赵良善在接受封面新闻记者采访时表示，未经著作权人许可，用AI技术“魔改”原作品，在多个关键特征上与原作品具有极高相似度，甚至亵渎、玷污原作品，从而符合“接触”和“实质性相似”的侵权判定标准，平台侵犯了原作品的复制权、改编权等著作权。若AI“魔改”原作品，在构成侵权的情况下，AI衍生的作品因自身的违法性导致其不享有版权。
封面新闻记者查询民法典时发现，AI换脸技术涉及肖像权、名誉权、隐私权等多种权利。据我国《中华人民共和国民法典》第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段侵犯他人肖像权的方式，制作、使用、展示他人肖像。利用AI换脸技术制作虚假的肖像，侵犯了他人的肖像权，可能会引发侵权纠纷。
“用户利用AI换脸技术伪装，导致被伪装人的肖像权等权利被侵权，或导致其他人的感情和财产大量受损时，平台在未尽到合理审核义务、未有效规制该类行为发生的情况下，需要承担一定的帮助侵权，甚至直接侵权的法律责任。”泰和泰律师事务所律师刘青表示，但是，除非平台故意为之或协助诈骗人进行诈骗行为，否则很难认定平台构成诈骗罪。
