今天分享的是:智能体体检报告——安全全景扫描
报告共计:38页
2025年被称为“智能体元年”,智能体从对话生成向自动执行跃迁,成为商业化重要锚点与下一代人机交互范式,但也因自主性和行动力带来风险,《智能体体检报告——安全全景扫描》对此展开分析。
智能体分通用型与垂直型,垂直型在编程等场景表现突出,如Cursor的ARR已破5亿美元。其产业链含基础层、平台层和应用层,科技巨头、创业团队、终端厂商等在产业链中呈“竞合”关系,且智能体正逐步接管手机、浏览器等日常入口。
从“容错性”和“自主性”可构建智能体价值生态坐标,不同象限的智能体适用不同安全风险准则。行业虽认同安全合规重要,但优先级未进前三,执行稳定性、场景探索等更受关注。AI幻觉、数据泄露是最受关注的安全问题,且智能体风险治理面临风险新颖复杂、缺乏法规引导等挑战。
智能体风险有内在与外在两类。内在如大模型幻觉可能导致错误决策;外在涉及互动风险,如无障碍权限滥用、提示词注入等。同时,数据流向透明度不足及责任分配模糊也是合规难题,不过部分平台已在用户协议中明确相关责任框架。
目前,相关团体标准陆续发布,行业也在推进智能体协作安全方案,但标准多为自愿采用,安全合规体系仍待完善。
以下为报告节选内容