【资政场】
4月10日，中国国家话剧院发布声明，有公司未经授权违法冒演话剧《青蛇》，滥用AI换脸技术欺骗观众，其表示将持续取证，用法律武器捍卫合法权益。
近年来，随着人工智能算法的快速进步，AI换脸技术在影视娱乐、社交互动等领域得到广泛应用。从影视作品中逼真的角色替换到社交平台上趣味化的表情包生成，技术革新为文化创意产业注入了强劲动力。然而，技术的“双刃剑”效应也同步显现，不法分子通过篡改视频中的面部特征与声纹数据，实施捏造名人言论、炮制误导性信息、精准诈骗与敲诈勒索等违法犯罪活动。从消解社会信任到冲击司法证据体系，技术滥用已由个体权益侵害演变为系统性社会问题。在此背景下，亟须从压实平台责任、健全法律规则、推动社会共治三方面协同发力，构建兼顾技术创新与风险防范的治理体系。
压实平台监管责任，构建风险防控的前置屏障
网络平台作为AI换脸技术传播的核心场域，其监管能力直接影响风险防控成效。当前，部分平台对合成内容的审核仍停留在被动响应层面。解决此问题需要推动平台完成从“技术工具提供者”向“风险防控责任人”的角色转变。平台不仅要提供技术支持，还应在服务中承担起更多的社会责任。为了有效防范和化解AI换脸技术带来的法律风险，平台需要从多个维度加强监管，确保技术创新与风险防控并行推进。
2023年1月10日起施行的《互联网信息服务深度合成管理规定》对平台监管责任提出了明确要求，特别是对信息安全和合成内容的管理作出规定。规定明确要求平台提供者在提供服务时，应落实信息安全主体责任，通过严格的用户身份认证机制，确保服务使用者的身份信息真实可查。平台可以通过移动电话号码、身份证件号码等多种方式进行实名认证，避免匿名或伪造身份的用户发布虚假或有害内容。这一措施从源头上限制了AI换脸技术被滥用的可能性，为进一步的监管打下了坚实基础。
除了用户身份认证外，平台还需加强对合成内容的审核，结合人工与技术手段进行多层次的管理。AI换脸技术的应用产生了大量动态的内容，这些内容涵盖了娱乐、社交等领域，可能被恶意利用，制造虚假信息甚至操控社会舆论。因此，平台需要建立健全的审核机制，不仅对合成结果进行技术检测，还应当定期对合成算法进行评估和审查，防止技术本身被滥用。同时，平台应确保对违法和不良信息的及时处置，按照规定保存相关记录，并向网信部门及时报告，从内容生成源头到传播过程进行全方位监管，进而降低虚假信息的传播风险，保障网络安全。
完善法律规则体系，破解制度滞后的治理难题
传统法律体系难以应对数字空间中行为隐蔽化、主体虚拟化、后果扩散化的新型挑战。这一矛盾要求我们必须更新法律规则，以适应快速变化的技术环境。
《互联网信息服务深度合成管理规定》虽然强调了信息安全管理、用户身份认证、内容审核和违法信息的处理要求。但深度合成技术的创新速度与监管滞后之间存在矛盾，该规定依然需要进一步细化和完善。
首先，法律应进一步明确平台在内容生成、传播等环节的责任，不仅要依赖事后的监管和惩处，还应加强事前的预防性规范，确保技术应用的合法性与合规性。平台在生成或编辑涉及公众人物、国家安全等敏感信息时，应该加强对技术工具的审查，并对相关内容进行实时监控和审核，避免虚假信息的传播和恶意滥用。
jrhz.info其次，法律规则应当关注AI换脸技术的跨境影响和全球化治理问题，加强国内外法律协调，确保我国在全球范围内的信息安全。深度合成技术的相关法律除了明确对违法行为的处罚，还应设立更为细致的规定，区分不同类型的违法行为，采取分类分级的治理策略，针对不同行为的风险进行有效的法律制衡。
构建社会共治格局，凝聚技术风险的防范合力
AI换脸技术的风险本质上是技术系统与社会系统复杂交互的产物，单一主体治理模式已难以应对技术风险的弥散性和跨域性特征。需突破传统治理的路径依赖，整合政府、行业、公众三方力量，构建共建共治共享的治理生态。
在政府层面，应强化统筹协调功能。建立跨部门协同治理机制，整合网信、电信、公安等部门资源，形成从技术研发、内容传播到违法处置的全链条监管合力。同时，需加强国际协作，针对跨境传播的合成内容，建立跨国联合取证、信息共享等合作机制，应对技术风险的全球化扩散。在行业层面，需激活企业自治潜能，推动成立人工智能伦理委员会，由头部企业、技术专家、法律学者共同制定行业技术标准，明确换脸算法的伦理红线。建立“黑名单”共享机制，对多次违规的企业实施联合惩戒，形成一处失信、处处受限的约束效应。此外，可鼓励企业用技术能力反哺社会治理，例如开放伪造内容识别接口，助力监管部门提升风险识别效率。在公众层面，需提升社会数字素养，通过社区宣传、学校教育等渠道普及AI换脸技术的基本原理和风险特征，增强公众对合成内容的辨别能力。
能否有效防范和化解AI换脸技术带来的法律风险，是对数字时代治理能力的系统性考验。为此，治理者需要超越传统的“监管—对抗”思维，转向“共生—演化”的新型治理范式。通过平台监管实现技术风险的前端控制，通过法律重构建立制度适应的弹性空间，通过协同治理激活社会共治的生态潜能。
(作者：张群，系首都师范大学政法学院副教授)
《今日霍州》( 2025年04月12日 05版)
【编辑:惠小东】
