曾几何时，“深度伪造”技术还只是公众眼中的新奇数字“玩具”，靠其夸张的“漏洞“在短视频平台娱乐大众。然而到了 2025 年，它已经完成从“数字玩具”到“网络武器”的转变，成为全球网络犯罪分子的高效作案工具。《Check Point AI安全报告2025》指出，深度伪造技术如今已经进入高度成熟阶段，从离线生成的合成视频，到可实时互动的全自动拟人化系统，已具备在多平台同步发起精准诈骗的能力。
技术演进带来新型威胁
报告显示，全球范围内深度伪造已不再局限于提前渲染的视频或音频，而是发展出能够实时换脸、实时语音克隆，甚至全自动与目标进行多轮对话的 AI代理系统。这些技术曾经需要顶尖黑客组织才能掌握，如今却通过暗网论坛和 Telegram 渠道以低廉价格出售。
自2024年以来，一些案例已经为全球用户敲响警钟：英国与加拿大在两起深度伪造视频诈骗案中累计损失超3500 万美元；意大利犯罪分子利用实时语音克隆冒充国防部长实施勒索；更有售价约 2 万美元的 AI 电话系统，可在多通道、跨语言的通话中同时模仿任意声音，且无需人工干预。
监管部门及时干预
深度伪造的风险并非仅在海外肆虐。2025年初，媒体报道香港一家公司遭遇深度伪造诈骗：犯罪分子通过AI 技术生成公司高管的逼真视频，在一次远程会议中成功骗取财务人员信任，最终导致上千万港元的资金损失。此案中，视频不仅高度还原了高管的外貌与语音，还模拟了会议中的互动细节，让受害者在群体压力和情境真实性的双重影响下放松警惕。
事实上，我国监管部门早已注意到这一风险。2022 年 12 月，《深度合成服务管理规定》正式施行，明确要求深度合成服务提供者采取显著标识等措施，防止技术被用于制作、发布违法信息。这不仅体现了国家对深度伪造的监管决心，也为企业在技术应用中合规防护提供了制度保障。
从品牌信任到经济安全的全面冲击
深度伪造的危害远不止于单一诈骗事件。Check Point 报告指出，结合生成式 AI的深度伪造正推动钓鱼攻击、商业邮件诈骗（BEC）和高管冒充进入成熟落地阶段。AI 生成的邮件在语法、格式、措辞上与真实企业通信几乎无异，且可以根据受害者背景实现高度个性化。在 2024 年，全球 67.4% 的钓鱼事件已涉及 AI 技术，金融行业是受攻击最频繁的领域之一。
更令人担忧的是，深度伪造与大规模数据分析的结合，让网络犯罪分子能够快速收集、解析社交媒体、公共记录以及泄露数据库中的信息，进而预测受害者行为、优化攻击时机。例如，攻击者可以分析某公司 CEO 的发言习惯，在最可能取得信任的时间点发送带有其“语气”的邮件，大幅提升欺骗成功率。
AI对抗AI势在必行
Check Point在报告中揭示：依赖直觉或肉眼甄别真伪的时代已经过去。在实时换脸、语音克隆和视频合成技术的加持下，真假边界正在快速消失。无论是求职面试骗局、假冒高管的远程会议，还是多语言、多平台同步的实时诈骗，都是现实中正在发生的威胁。
针对这一趋势，Check Point公司中国区技术总监王跃霖指出：“AI已逐渐发展为一种成熟的生产工具，既可被攻击者利用，也可被防御者应用。随着攻击与防御的速度和规模迅速提升，仅靠传统依赖人力的防御策略已难以为继，必须以‘AI对抗AI’的理念构建更智能、更主动的防御体系，方可应对当下新兴威胁带来的挑战。对于深度伪造对企业用户带来的威胁，防御重点必须放在员工身上，最核心的要素是‘流程管理’与‘安全培训’。内部沟通流程必须具备足够的韧性，确保员工在处理敏感业务时始终遵循正确规范。同时应对员工加强安全意识培训，凡是涉及财务交易或业务指令的沟通，都必须进行验证，甚至多步骤认证”。
《Check Point AI安全报告2025》显示，随着技术的快速进化，深度伪造的欺骗能力、规模化能力和实时适应能力正推动网络威胁格局发生根本性变化。唯有将监管要求、企业防护实践与全球领先的技术方案相结合，才能在这场新兴的 AI 安全博弈中掌握主动权。
