近日，『孙俪』、『邓超』工作室发文，针对近期网络上大量利用AI技术伪造两人形象和声音进行虚假广告宣传的行为公开打假。5月20日，南都、N视频记者搜索发现，相关伪造合成的视频仍有很多未被清理，还有账号将克隆的『明星』️声音“做一些鸡汤、人生哲理”视频引流变现。
利用AI技术伪造视频推荐产品的乱象此前多有发生。近期，四部门联合发布《人工智能生成合成内容标识办法》，要求对人工智能生成合成内容进行显式标识和隐式标识。有专业人士曾告诉南都、N视频记者，执法部门应提高执法能力、配备相应技术，以快速有效识别利用人工智能等新型手段欺骗消费者的行为。
伪造合成视频带货减肥产品
5月18日，『孙俪』和『邓超』工作室均发文称，工作室近日发现有部分网络用户在自媒体平台发布与『孙俪』、『邓超』相关的虚假广告宣传视频，此类虚假视频通过技术合成的方式，把『孙俪』、『邓超』的形象和声音制作成虚假采访视频为某些商家的产品进行推荐。工作室严正声明，凡此类自媒体账户所发布的产品推荐视频均为虚假信息，请网友一定不要相信，避免上当受骗。
『孙俪』工作室打假的“AI带货视频”。
上述工作室还警告⚠️此类虚假信息的发布者及传播者，立即删除全部虚假广告视频，工作室已保全相关侵权内容，将通过法律途径严格追究相关责任方的法律责任。
根据工作室发布的截图，南都记者注意到，『孙俪』和『邓超』的影像、声音被生成用于推荐减肥和育儿产品，种类有十余种之多。
5月20日，南都记者搜索发现，短视频平台上仍有相关伪造合成的视频。其中一条视频显示的是『孙俪』的形象，她在谈论减肥：“我平常也不太控制，甜品这些高热量的也都会吃，但是因为拍剧的时候，导演要求我瘦一点，所以我的营养师就让我每天饭前冲泡一杯xxx茯苓。喝了一个多月吧，瘦了大概20多斤，效果好到我自己都难以置信。”当然，视频早已被打假。
南都记者对比此类视频，其模式大同小异，『明星』️坐在镜头前“接受采访”谈减肥等经验，台词需要替换的只有推荐的产品名。视频评论区，账号博主会贴出产品的售卖店铺信息，并宣称这是“『明星』️都在用的小秘密”。
南都记者查询到，除了『孙俪』、『邓超』，其他众多『明星』️都曾出现在技术合成的视频里，推荐减肥类等产品。这些视频均未标注系AI生成。
例如，在一个合成视频中，另有女『明星』️也是“一个月瘦了20多斤”，而这个视频推荐的是“xx膏”。经南都记者观察，此类视频多数技术尚未完善，合成的声音并不自然，和口型画面无法完全吻合，整个视频不太流畅。
有些『明星』️励志语录系AI合成
利用AI技术伪造视频推荐产品的乱象此前多有发生。
今年4月，演员『张馨予』曾公开打假AI伪造其声音带货。其发文称：“近期发现有品牌AI复制我的声音，未经授权编造剪辑广告视频，还有减肥药广告，我觉得这样的行为很恶劣。在此说明我从来没有推荐过任何减肥药，有商家利用AI技术非法剪辑投放广告，我一定追究到底。”
综艺节目的嘉宾被篡改伪造声音带货。
南都记者调查发现，综艺节目的嘉宾也被篡改伪造声音带货。『社交平台』上，搜索“跟着综艺学减肥”等关键词，跳出多条“原来看综艺真能学到真东西”的视频。这些视频剪切综艺里『明星』️和医生、专家的互动画面，伪造合成带货内容。视频里，『明星』️抱怨“最近减肥一直不掉秤”，医生回应“给你推荐个方子，xx咖啡，网上有卖的，对减轻体重特别好”。南都记者留意到，医生的声音有明显的合成痕迹。
这些账号带货的产品包括减肥、治疗近视等，也已被官方打假。有节目方几个月前对此现象回应称，部分『社交媒体』上营销账号未经授权擅自剪辑节目图片、视频实施产品推广行为，严重误导公众，已构成虚假宣传。不过，南都记者发现，截至5月20日类似的视频依然大量存在，未被清理。
此外，南都记者注意到，短视频平台上经常出现的『明星』️励志语录很多也是AI技术合成编造。一个专门合成某刘姓女『明星』️语录的博主拥有3万多粉丝，其多条视频单条点赞量超过10万。
“如果发朋友圈是为了记录生活，那就不必在乎点赞和评论。如果化妆是为了自己开心，那就不要管他人的评价。不要为了耳边的声音所羁绊，更不要为了迎合别人而活，希望你我都能去做自己喜欢的，去成为最想成为的人。”上述博主的视频模式是用一段感悟爱情、人生的语音，配上该女『明星』️的影视剧画面。
这些听起来像该女『明星』️的声音，实际上是AI合成，博主在账号简介中也表示“配音皆是本人原创”。然而，视频页面并未标注系AI创作。有了流量，该账号充分加以利用。南都记者看到，账号店铺上线几十种产品售卖，包括衣服、零食、日用品等。
专家建议提高执法能力应对
南都记者调查发现，目前『互联网』上随处可见AI合成声音相关软件，不少直接打着“如何AI克隆『明星』️声音”的噱头，并有详细的教程。经南都记者实测，上传『明星』️名人十几秒的音频素材，再输入任何文字，软件即可迅速生成这段口播内容。上传音频素材过程中，软件平台没有要求提供授权证明。
还有人教授如何利用AI伪造视频进行商业变现。有中介称，找爆款文案，将克隆的『明星』️声音“做一些鸡汤、人生哲理”达成情感共鸣，流量会很大，“有了流量完全可以带货”。该中介提到，变现方式包括带货励志成长书籍、做IP收学员等。
南都此前报道，今年4月，“网信中国”公众号发文称，为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。本次专项行动分两个阶段开展。其中，第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。
另外，近期，四部门联合发布了《人工智能生成合成内容标识办法》，要求对人工智能生成合成内容进行显式标识和隐式标识。新规自今年9月1日起施行。
此前，有媒体曝光了“机构炮制假非遗、AI生成假神医”的市场乱象。在多个短视频及电商平台上，热销产品“苗古金贴”在介绍页面写着，“第56代苗古金贴传承人”唐付政，早年进入“国医大学”深造，形成了特有的苗古金贴治疗方法，享誉四方。然而该“非遗项目传承人”照片实为AI生成，左手大拇指几乎与食指等长，中指下方还多出一根手指。
北京邮电大学『互联网』治理与法律研究中心主任谢永江表示，网络平台应当加强专业类账号注册管理和日常巡查，防止虚假标注，误导网民。
对于AI生成假神医等新型科技手段，谢永江表示，按照规定，人工智能生成的作品应当进行标注，上述用AI生成假神医从而卖货的企业系以虚假内容做虚假宣传，涉嫌违法。此类违规违法营销现象，也向执法部门提出了挑战。谢永江称，执法部门应提高执法能力、配备相应技术，以快速有效识别利用人工智能等新型手段欺骗消费者的行为。
出品：南都即时
采写：南都记者 马辉
