近日，孙俪、邓超工作室针对网络上大量利用AI技术伪造两人形象和声音进行虚假广告宣传的行为进行了公开打假。5月20日，南都、N视频记者搜索发现，相关伪造合成的视频仍有很多未被清理，还有账号利用克隆的明星声音制作鸡汤、人生哲理等视频进行引流变现。

利用AI技术伪造视频推荐产品的乱象此前多有发生。为应对这一问题，近期四部门联合发布了《人工智能生成合成内容标识办法》，要求对人工智能生成合成内容进行显式标识和隐式标识。有专业人士指出，执法部门应提高执法能力、配备相应技术，以快速有效识别利用人工智能等新型手段欺骗消费者的行为。

伪造合成视频带货乱象频发

5月18日，孙俪和邓超工作室均发文称，发现有部分网络用户在自媒体平台发布虚假广告宣传视频，这些视频通过技术合成的方式，把两人的形象和声音制作成虚假采访视频，为某些商家的产品进行推荐。工作室严正声明，这些产品推荐视频均为虚假信息，并警告发布者及传播者立即删除全部虚假广告视频，将通过法律途径追究相关责任。

孙俪工作室打假的“AI带货视频”。

根据工作室发布的截图，南都记者注意到，孙俪和邓超的影像、声音被用于推荐减肥和育儿产品，种类多达十余种。5月20日，南都记者搜索发现，短视频平台上仍有相关伪造合成的视频。

除了孙俪、邓超，其他众多明星也曾出现在技术合成的视频里，推荐减肥类等产品。这些视频均未标注系AI生成，且多数技术尚未完善，合成的声音并不自然，和口型画面无法完全吻合。

专家建议提高执法能力应对

南都记者调查发现，目前互联网上随处可见AI合成声音相关软件，不少直接打着“如何AI克隆明星声音”的噱头，并有详细教程。有中介甚至教授如何利用AI伪造视频进行商业变现。

为规范AI服务和应用，今年4月，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。另外，近期四部门联合发布的《人工智能生成合成内容标识办法》也要求对人工智能生成合成内容进行显式标识和隐式标识，新规自今年9月1日起施行。

北京邮电大学互联网治理与法律研究中心主任谢永江表示，网络平台应加强专业类账号注册管理和日常巡查，防止虚假标注误导网民。对于利用AI生成假神医等新型科技手段进行虚假宣传的企业，执法部门应提高执法能力、配备相应技术，以快速有效识别并打击此类行为。

（文章来源：南方都市报）