近日，小米集团创始人雷军提出关于加强“AI换脸拟声”违法侵权治理的建议，强调该技术滥用已成为侵犯肖像权、隐私权、个人信息及诈骗犯罪的重灾区，并呼吁通过法律手段规范技术应用。雷军建议包括：加快单行法立法进程，在安全与发展并重的基础上提升立法位阶；强化行业自律共治，压实平台企业等各方的责任和义务；加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为公众喜闻乐见的技术应用。然而，娱乐之余，“AI换脸拟声”造成的风险与困扰也不少。雷军的建议不仅基于行业观察，更源于自身经历，他本人也曾是“受害者”。去年国庆假期，就有人用AI捏造雷军配音，所谓“雷军语音包”层出不穷，从吐槽假期到骂人，各种内容应有尽有。这些视频不仅严重损害了雷军的个人形象，还令公众一头雾水。对此，雷军本人还专门发视频，呼吁大家不要再恶搞。
“AI换脸拟声”恶搞名人，侵犯其肖像权和名誉权，大家切莫以为自己不是名人，就可以安静吃瓜。“AI换脸拟声”同样可以伤害普通人。比如，一些别有用心的人利用其造谣，就让当事人备受困扰。再如，一些不法分子利用“AI换脸拟声”技术，冒充诈骗对象的重要关系人实施诈骗。前不久，天津红桥警方成功追回83万元AI诈骗案资金的事件，就是当前AI技术滥用危害社会的一个典型案例。诈骗者通过AI换脸技术伪造“领导”形象，并主动视频通话降低受害人警惕性。据警方披露，此类诈骗背后往往存在技术工具贩卖、公民信息倒卖、洗钱团伙协作的黑色产业链。而网上有人随意兜售AI合成软件，“手把手教学”，使得“AI换脸拟声”成为低门槛、低成本的技术。普通人乐在其中，但一些不法分子也多了趁手的工具。
“AI换脸拟声”是双刃剑，带来了便利和创新，但滥用引发的侵权、诈骗等问题，必须足够正视和正确应对。完善法律法规是当务之急，细化“AI换脸拟声”技术应用规范和侵权责任的认定标准。强化平台的监管责任至关重要，平台必须建立健全审核机制，利用技术手段及时发现和处理侵权内容。而许多人在面对AI换脸拟声带来的虚假信息时，往往缺乏足够的警惕性。因此，提高公众对AI犯罪的防范意识，普及AI技术的基本知识和风险，同样不可或缺。
有了法律的规范，平台的监管以及公众的自我防范，“AI换脸拟声”技术才能全面发挥其积极的作用，真正喜闻乐见，造福社会。
