“大家好，我是你们的婵宝。今天我需要大家的帮助。我希望能够为妈妈分担一些压力，让我们的生活变得更加美好。同时，我还想把家乡的土鸡蛋分享给我的粉丝们，给大家尝尝鲜……”
在短视频平台上，充斥着多个声音仿冒了奥运冠军全红婵的视频，这些视频利用了AI技术，带着类似的声音来推广土鸡蛋。其中一段视频的点赞数竟然高达1.1万，评论区里不少粉丝误以为这真的是全红婵本人，纷纷点击链接购买这些鸡蛋。据显示，该商品的销售量已达4.7万件。
然而，早在今年4月，全红婵的家人曾对媒体确认，她并没有为这类农产品进行代言或授权。除了全红婵，其他奥运冠军如孙颖莎和王楚钦也遭遇了类似的AI仿冒事件。
在这看似不可思议的现象背后，其实藏着一个暗藏的灰色产业链。网络安全专家潘季明解释称，利用名人进行直播不仅能诱使粉丝打赏获利，还能让全新的账号迅速吸引大量粉丝，为后续牟利打下基础。
经过记者调查发现，AI克隆声音的案例让配音演员🎭️的权益受到频繁侵犯。AI技术是如何实现这种以假乱真的效果的？背后又是谁在助长这一“盗取声音”的行为？
潘季明指出，依托于开源语音大模型，经过一段清晰的音频样本，任何人的声音都可以在短时间内被克隆，并被操控发言，内容则由攻击者自定义。他强调，除了侵犯个人声音的合法权益，AI声音克隆的最大风险在于被诈骗分子所利用。一旦与AI换脸等技术结合，便可能构成高度逼真的“数字人”进行诈骗，造成严重危害。潘季明建议应从技术源头入手，设定使用时限、应用场景等具体限制。
从“听上去假”到“真假难辨”，AI克隆技术的滥用不仅对当事人的权益造成了严重侵犯，还涉及违法违规。法律专家解释说，我国民法典首次以立法形式将“声音”列入人格权保护之中。在第1023条中明确指出，自然人的声音享有与肖像权类似的保护。
面对此类AI克隆声的内容在网络上的广泛传播，平台是否也应承担相应的责任？如何治理这一混乱现象？专家建议，平台应切实履行监管职能，建立健全AI声音的审核和侵权举报机制，以及时发现和阻止侵权、虚假及违法内容的传播。
今年3月，国家网信办与其他三部门联合发布的《人工智能生成合成内容标识办法》将在2025年9月1日起实施，其中明确要求服务提供者在生成的文本、音频、图片、视频及虚拟场景中添加明显标识。此外，中央网信办近期在全国范围内启动了“清朗·整治AI技术滥用”专项行动，旨在强化对AI技术的源头治理，清理违规的AI应用程序，并提升网站平台的识别和鉴别能力。
（本文转载自『人民网』微信公众号，来源：今日霍州）
