这项由希伯来大学的Asaf Yehudai、IBM研究院的Lilach Eden等人以及耶鲁大学的Alan Li等研究者共同完成的综合性研究，发表于2025年3月，为我们呈现了当前大语言模型智能代理评估领域的完整画卷。有兴趣深入了解的读者可以通过arXiv:2503.16416v1访问完整论文。
想象一下，如果你有一个非常聪明的助手，它不仅能理解你说的话，还能帮你制定计划、使用各种工具、从错误中学习，甚至记住之前发生的事情。这样的助手就是我们今天要讨论的"大语言模型智能代理"。这些AI助手已经从简单的问答机器人进化成了能够在复杂环境中自主工作的智能系统。
然而，正如我们评判一个人的能力需要通过考试和实际表现一样，评估这些AI代理的能力也需要专门的测试方法。这正是这项研究要解决的核心问题：如何科学、全面地评估这些越来越聪明的AI代理？
研究团队发现，传统的AI评估方法就像用小学数学题来测试大学生的能力一样不够用了。因为这些新的AI代理不再是简单的"一问一答"模式，而是能够进行多步骤思考、使用外部工具、与环境互动的复杂系统。这就需要全新的评估框架和方法。
这项研究的创新之处在于，它首次系统性地梳理了整个AI代理评估领域的现状，就像绘制了一张详细的地图，告诉我们目前有哪些评估方法、各自的优缺点，以及未来的发展方向。研究团队分析了数百个评估基准和框架，涵盖了从基础能力测试到具体应用场景的各个方面。
一、智能代理的核心能力评估：四大基石能力
研究团队首先关注的是AI代理的四项基础能力，这些能力就像是建筑的地基一样重要。
第一项能力是规划和多步推理能力。这就像是让AI代理学会做饭一样，不是简单地告诉它"做个西红柿炒蛋"，而是要求它能够分解任务：先准备食材、再打蛋、热锅、炒制、调味、装盘。每一步都要考虑到前面步骤的结果，还要能够根据实际情况调整后续步骤。
研究团队发现，目前用于测试这种能力的基准包括数学推理任务（如GSM8K和MATH）、多跳问答任务（如HotpotQA和StrategyQA）等。这些测试就像是给AI代理出的"应用题"，需要它们通过多个步骤才能得出答案。比如HotpotQA会问"谁是《哈利波特》作者的丈夫的职业？"这需要AI代理先找到作者是J.K.罗琳，再找到她的丈夫，最后确定他的职业。
特别值得注意的是一些专门针对规划能力的新基准。PlanBench就像是给AI代理设计的"策略游戏"，测试它们在不同领域的规划能力。研究发现，即使是最先进的AI代理，在长期规划方面仍然表现不佳，特别是当任务变得复杂时，它们往往在策略性长期规划上落后于传统的符号规划器。
第二项核心能力是工具使用和函数调用。这就像是给AI代理配备了一个工具箱，里面有计算器、搜索引擎、数据库查询工具等各种工具。AI代理需要知道什么时候使用哪个工具，如何正确地使用它们，以及如何处理工具返回的结果。
早期的评估方法比较简单，就像测试一个人是否会使用锤子钉钉子一样直接。但现实应用中的工具使用要复杂得多。现代的评估基准如ToolSandbox引入了"有状态的工具执行"概念，这意味着使用一个工具的结果会影响到下一个工具的使用，就像烹饪过程中每一步都会影响下一步的操作一样。
伯克利函数调用排行榜（BFCL）是这个领域的重要里程碑，它不断演进，从最初的简单函数调用测试发展到包含多轮对话和多步骤评估逻辑的复杂系统。这种"实时更新"的基准设计反映了一个重要趋势：评估方法需要跟上AI能力的快速发展。
第三项能力是自我反思能力。这可能是最有趣也是最具挑战性的能力评估。想象一个学生不仅能解数学题，还能检查自己的答案是否正确，发现错误后能够重新计算。这就是AI代理的自我反思能力。
早期的研究往往是间接测试这种能力的，比如给AI代理一些推理任务，然后提供外部反馈，看它们是否能根据反馈改进答案。但这种方法有个问题：改进可能只是由于特定的提示技巧，而不是真正的自我反思能力。
为了解决这个问题，研究者开发了专门的基准如LLF-Bench。这个基准就像是设计了一个"标准化的反思测试"，通过随机化任务描述和反馈内容来避免AI代理对特定环境的过度拟合。从认知科学的角度，Reflection-Bench则将反思能力分解为多个组件，包括新信息的感知、记忆使用、信念更新等，就像分别测试一个人的各种思维技能一样。
第四项基础能力是记忆机制。这就像是给AI代理安装了一个既有短期记忆又有长期记忆的系统。短期记忆用于处理当前对话，长期记忆则用于记住重要的历史信息和经验。
传统的AI模型就像是患有"健忘症"的助手，每次对话都是全新开始。但现代的AI代理需要能够记住用户的偏好、之前的对话内容，甚至是从过去的错误中学到的教训。
ReadAgent等研究展示了如何通过分组内容、将情节压缩为记忆、检索相关段落等方式来构建有效的记忆系统。这种方法在长文档理解任务中表现出色，能够在QUALITY、NarrativeQA等基准上显著提升性能。
更有挑战性的是StreamBench，它测试AI代理如何利用外部记忆组件在持续学习中不断改进性能。这就像是测试一个员工是否能够通过记录和分析过去的工作经验来提高未来的工作效率。
二、应用场景专门化评估：四大应用领域
除了基础能力，研究团队还深入分析了AI代理在特定应用场景中的评估方法。这些应用场景就像是不同的"职业"，每个都需要特定的技能组合。
网络代理评估是其中最直观的一个领域。这些AI代理就像是能够浏览网页、点击按钮、填写表单的虚拟助手。想象你要求一个助手帮你在网上预订机票或购买商品，它需要能够理解网页结构、找到正确的按钮、填写必要信息，还要能够处理各种意外情况。
早期的网络代理评估相对简单，使用的是MiniWob和MiniWoB++这样的基础模拟环境，就像是在游戏中练习基本操作。但现实世界的网页要复杂得多，充满了动态内容、复杂的用户界面和各种交互元素。
现代的评估基准如WebArena和VisualWebArena更接近真实世界的复杂性。WebArena创建了一个包含多个真实网站的环境，代理需要在其中完成复杂的多步骤任务。VisualWebArena更进一步，要求代理不仅理解文本，还要能够处理视觉信息，比如识别图标、理解图片内容等。
WorkArena系列基准模拟了办公环境中的复杂任务，代理需要协调多个应用程序来完成工作流程。这就像是测试一个办公室助手是否能够同时使用Word、Excel、邮件客户端来完成一个项目报告。
软件工程代理评估代表了另一个重要的应用领域。这些AI代理就像是程序员，需要能够理解代码、修复bug、甚至编写新的功能。这个领域的评估从早期的简单编程题（如HumanEval）发展到了真实世界的软件开发任务。
SWE-bench是这个领域的突破性基准，它使用真实的GitHub问题作为测试案例。这就像是让AI代理参与真实的软件开发项目，需要它们理解问题描述、分析现有代码、实施修复方案，并通过测试验证。这种评估方法的真实性是前所未有的，因为它直接使用了真实软件项目中的真实问题。
为了提高评估的可靠性，研究者开发了多个SWE-bench变体。SWE-bench Lite专注于300个精选的bug修复任务，过滤掉了需要复杂多文件编辑的任务。SWE-bench Verified只包含那些有清晰描述和强健测试用例的问题。SWE-bench+则解决了一些关键的评估缺陷，如解决方案泄露和测试用例不足等问题。
AgentBench为软件工程代理提供了交互式评估框架，能够评估代理在动态环境中的表现。而SWELancer则将评估与实际的经济价值联系起来，通过自由职业编程任务来测试代理的能力，这种方法突出了在复杂真实场景中进行长期推理和决策的挑战。
科学研究代理评估是一个新兴但极其重要的领域。这些AI代理被设计来协助甚至自主进行科学研究，从文献综述到实验设计，从数据分析到论文写作。
早期的科学代理评估主要关注科学知识的回忆和推理，如ARC、ScienceQA等基准。但现代的评估更加关注科学研究的实际流程。比如，科学创意生成基准评估AI代理是否能够自主产生新颖的、专家级的研究想法。AAAR-1.0数据集则评估代理系统性规划实验的能力，包括假设制定、方法选择和实验程序设计。
代码生成是科学研究中的重要环节，SciCode、ScienceAgentBench、SUPER、CORE-Bench等基准专门测试代理是否能够生成准确、可执行的科学计算代码。这些基准确保代码不仅在语法上正确，还要符合科学协议的特定要求并保持计算准确性。
一些研究甚至开始探索AI代理进行同行评议的能力，测试它们是否能够提供与人类评审员质量相当或更好的综合性、实质性反馈。
统一框架的发展是这个领域的另一个重要趋势。AAAR-1.0评估代理在四个核心研究任务中的表现：方程推理、实验设计、论文弱点识别和评论批判。MLGym为AI研究任务引入了类似健身房的环境，涵盖13个不同的挑战，模拟真实的研究工作流程。DiscoveryWorld提供了一个虚拟的基于文本的环境，用于模拟120个不同任务的完整科学发现周期。
对话代理评估关注的是面向客户的AI助手。这些代理需要处理用户请求，同时遵守公司政策和程序。成功完成这类任务需要代理能够进行多轮、任务导向的对话，同时执行涉及各种函数调用的操作序列。
传统的评估方法是收集包含用户和代理消息以及函数调用的真实对话轨迹，然后测试代理是否能够在给定对话前缀的情况下预测下一步行动。更灵活的方法则同时模拟环境和用户，评估代理将环境带到期望状态并向用户传达正确答案的能力。
ABCD数据集包含超过10,000个客户-代理对话，涵盖55个不同的用户意图，每个意图都需要独特的行动序列。MultiWOZ和SMCalFlow等基准也为任务导向对话提供了重要的评估资源。
全自动化的测试生成是这个领域的新发展方向。研究者利用大语言模型在每个步骤中作为生成器，创建意图集合、定义每个意图应如何被处理的程序、工具API，以及对话图表。ALMITA基准使用这种方法创建了包含14个意图的192个对话的手动过滤基准。
τ-Bench模拟了代理与LLM模拟用户之间在航空和零售两个客户服务领域的动态对话。IntellAgent提供了一个开源框架，用于对话代理的自动基准测试，能够根据系统数据库模式和公司政策文档自动生成测试场景。
三、通用代理评估：综合能力的全面考量
随着AI代理从专门化应用转向更通用的能力，评估方法也需要相应发展。通用代理评估就像是给AI代理举办"全能竞赛"，测试它们在各种不同任务中的综合表现。
第一类通用基准关注的是强调多步推理、交互式问题解决和熟练工具使用的一般能力。GAIA基准包含466个人工制作的真实世界问题，测试代理的推理、多模态理解、网络导航和通用工具使用能力。这些问题的设计就像是复杂的谜题，需要代理综合运用多种技能才能解决。
伽利略代理排行榜专注于评估代理在真实应用中执行函数调用和API调用的能力，如数据库查询、在线计算器和网络服务。AgentBench引入了一套交互式环境，包括操作系统命令、SQL数据库、数字游戏和家庭任务，这些基准共同突出了通用代理所需的核心能力：灵活性、多步推理和适应性工具使用。
第二类评估关注代理在完整计算机操作环境中的表现。OSWorld、OmniACT和AppWorld等基准测试代理是否能够导航真实的计算机系统、执行复杂任务并协调多个应用程序的操作。在这些环境中，代理必须编写和修改交互式代码、处理复杂的控制流程，并确保强健的执行而不会造成意外的系统更改。
这种评估特别有挑战性，因为它要求代理不仅理解抽象的指令，还要能够在具体的图形用户界面中进行精确操作。代理需要识别屏幕上的元素、理解应用程序的工作流程，并执行一系列精确的鼠标点击和键盘输入。
第三类基准将评估扩展到数字工作环境，在这些环境中代理必须管理类似人类员工的任务。TheAgentCompany创建了一个类似小型软件公司的可扩展环境，代理需要浏览内部网站、编写代码、运行程序并与同事沟通。这种评估模拟了真实工作场所的复杂性，包括团队协作、项目管理和多任务处理。
CRMArena专注于客户关系管理，模拟了一个充满关于账户、订单、知识文章和案例相互关联数据的大规模CRM环境。代理需要使用UI和API访问执行多步操作，遵守特定领域的政策，并整合各种信息片段来完成复杂的企业任务。
随着基准的多样化，对统一平台的需求也在增长。整体代理排行榜（HAL）作为标准化评估平台，聚合了多个基准，涵盖编程、交互式应用和安全评估。这种整合方法为代理能力提供了更全面的视角，避免了单一基准可能存在的偏见。
四、评估框架与开发工具：构建完整的生态系统
为了支持AI代理的开发和评估，研究社区开发了各种框架和工具。这些工具就像是给AI研究者和开发者提供的"工作台"，让他们能够更好地测试和改进自己的代理系统。
现代评估框架与早期的LLM应用评估框架有显著不同。早期框架主要关注模型通过单次调用完成任务的能力，而代理评估框架需要能够处理多步推理、轨迹分析和特定的代理能力（如工具使用）。
这些框架支持多个层次的评估粒度。最终响应评估关注代理的最终输出质量，通常使用基于LLM的评判器根据预定义标准评估代理响应。一些平台提供专有的评判模型，如Databricks Mosaic和PatronusAI，同时大多数平台允许自定义评估指标，支持特定领域的输出质量和相关性评估。
逐步评估支持对单个代理行动或LLM调用的细粒度评估，便于错误的根本原因分析。这包括使用预定义评判器评估文本输出，以及通过将选择的工具与给定步骤的预期工具进行比较，或使用自动评判器验证工具选择、参数和执行输出的正确性来评估工具选择和执行。
伽利略代理评估引入了行动推进指标，衡量每个步骤是否成功地为用户定义的目标做出贡献或推进。这种方法通过评估进展而不是仅依赖二元成功/失败结果来优化逐步评估。
轨迹评估分析代理采取的步骤序列与预期最优路径的关系。这种方法特别适用于评估代理的决策过程，尤其是在工具选择和排序方面。一些平台如AgentEvals还支持图评估，专门用于像LangGraph这样将代理建模为图的框架，通过评估代理是否遵循预期工作流程并正确调用适当的节点和转换来工作。
数据集管理是这些框架的关键方面。大多数框架提供集成的注释工具，支持人在环路评估，从生产运行中收集人类反馈以优化模型配置。它们还能够从生产日志中提取评估数据集，利用真实世界的交互来增强评估质量。一些平台如PatronusAI和Databricks Mosaic还便于使用专有种子数据进行合成数据生成。
A/B比较功能是另一个重要特性。当前的评估框架支持A/B比较，允许对至少两个测试运行的输入、输出和指标进行并排分析。一些框架还便于跨多个不同实验设置的多个运行的聚合结果比较，并提供深入到单个轨迹的能力，识别特定的失败点。
除了监控和评估框架，研究社区还开发了健身房式环境，这些环境受到OpenAI Gym的启发，为LLM代理提供可控的交互式设置。BrowserGym专门为网络代理设计，MLGym专注于AI研究代理，SWE-Gym则针对软件工程代理。这些环境使代理能够与动态环境交互，支持跨各种基准的标准化评估。
五、当前趋势与未来方向：评估领域的演进
通过对整个领域的综合分析，研究团队识别出了几个重要的发展趋势，这些趋势正在塑造AI代理评估的未来。
现实化和挑战性评估是最明显的趋势之一。早期的代理评估往往依赖简化的静态环境，但现在有一个明显的转向更准确反映真实世界复杂性的基准。在网络代理评估中，我们看到了从基本模拟（如MiniWob）到动态在线环境（如WebArena和VisualWebArena）的转变。在软件工程领域，SWE-bench利用真实的GitHub问题，远超了合成编程问题的范围。
这种向现实主义的转变对于在真实场景中评估代理至关重要，能够捕获被简单基准遗漏的交互细节。像Natural Plan这样的基准通过整合来自Google Calendar和Maps等真实工具的模拟API结果，进一步体现了这种对现实任务设置的追求。
同时，为了跟上日益强大的代理能力并确保基准保持挑战性，出现了向更大任务复杂性和难度的明显趋势。这在SWE-bench和SWELancer针对复杂编程任务、CORE-Bench针对科学计算可重现性、以及像GAIA和TheAgentCompany这样的复杂通用代理基准中都很明显。这些基准的一个关键难度指标是最佳性能代理的低分数，有时低至2%。这种增加的挑战对于压力测试代理、揭示限制并推动长期规划、强健推理和工具使用的进步至关重要。
实时基准是应对LLM和代理快速发展步伐的重要创新。静态基准可能随着模型改进而迅速过时，可能导致基准饱和和区分系统能力的降低。BFCL的演变通过其多个版本（整合实时数据集、组织工具和多轮评估逻辑）来保持相关性，很好地展示了这种动态方法。
类似地，SWE-bench系列的持续改进和变体创建（SWE-bench Lite、SWE-bench Verified、SWE-bench+）以及基于τ-Bench开发IntellAgent，都展示了持续努力增强和适应代理基准以满足不断变化的评估需求。这种动态方法对于在这个快速发展的领域中维持基准的相关性至关重要。
在新兴方向方面，细粒度评估的发展是一个重要趋势。许多当前基准依赖粗粒度的端到端成功指标，虽然对于衡量整体性能有用，但在诊断特定代理失败方面存在不足。这种粒度不足掩盖了对中间决策过程（如工具选择和推理质量）的洞察。
解决这一限制需要开发标准化的细粒度评估指标，捕获代理任务执行的轨迹。像WebCanvas和LangSmith、伽利略代理评估这样的框架中出现的详细逐步评估，为提供更丰富的反馈和指导有针对性的改进提供了有前景的方向。
成本和效率指标的整合是另一个重要的新兴方向。如Kapoor等人所观察到的，当前评估往往优先考虑准确性而忽视成本和效率测量。这种重点可能无意中推动了高能力但资源密集型代理的开发，限制了它们的实际部署。
未来的评估框架应该将成本效率作为核心指标，跟踪诸如令牌使用、API费用、推理时间和整体资源消耗等因素。建立标准化成本指标将帮助指导能够平衡性能与运营可行性的代理开发。
扩展和自动化是解决当前评估限制的关键方向。依赖静态人工注释评估带来了显著的可扩展性挑战，因为这些方法可能资源密集且在快速发展的领域中很快过时。这一缺陷强调了对可扩展、自动化评估方法的需求。
未来方向包括利用合成数据生成技术创建多样化和现实的任务场景，如IntellAgent和Mosaic AI代理评估等努力所示。另一个途径是通过使用基于LLM的代理作为评估者来自动化评估，称为"代理即评判"。正如Zhuge等人所强调的，这种方法不仅减少了对资源密集型人工注释的依赖，还有可能通过代理评估过程捕获代理性能的更细致方面。
安全和合规性是当前基准中的一个显著缺陷。虽然像AgentHarm和ST-WebAgentBench这样的早期努力已经开始解决这些维度，但评估仍然缺乏对抗对抗性输入的强健性、偏见缓解以及组织和社会政策合规性的全面测试。
未来研究应该优先开发多维度安全基准，模拟真实场景，特别是在多代理场景中可能出现新兴风险的情况。这将确保代理不仅有效，而且安全可靠。
总体而言，AI代理评估领域正在经历快速演变，从简单的静态测试转向复杂的动态评估生态系统。这些发展反映了代理能力的进步以及对更全面、现实和可扩展评估方法的需求。随着代理系统变得更加复杂和广泛部署，评估方法的持续创新对于确保这些系统的负责任开发和有效应用至关重要。
说到底，这项研究为我们提供了一张详细的地图，显示了当前AI代理评估领域的全貌。它不仅总结了现有的方法和工具，还指出了未来发展的方向。对于研究者、开发者和决策者来说，这项研究提供了宝贵的指导，帮助他们在这个快速发展的领域中做出明智的选择。
随着AI代理变得越来越强大和普及，如何准确评估它们的能力将变得越来越重要。这不仅关系到技术的发展，也关系到这些技术如何安全、有效地为人类社会服务。这项研究为这个重要课题提供了坚实的基础，为未来的研究和应用指明了方向。
Q&A
Q1：什么是大语言模型智能代理？它们与普通的AI聊天机器人有什么区别？ A：大语言模型智能代理是基于大语言模型的高级AI系统，它们不仅能理解和生成文本，还能制定计划、使用外部工具、与环境交互、从错误中学习并保持记忆。与简单的问答式聊天机器人不同，这些代理能够执行复杂的多步骤任务，就像一个能够自主工作的智能助手。
Q2：为什么需要专门的评估方法来测试AI代理？传统的AI测试方法不够用吗？ A：传统的AI评估方法主要针对单次问答交互，就像用小学数学题测试大学生能力一样不够用。AI代理需要进行多步推理、工具使用、环境交互等复杂操作，因此需要能够评估规划能力、工具使用、自我反思和记忆管理等多维度能力的新评估框架。
Q3：目前AI代理评估面临哪些主要挑战？ A：主要挑战包括：评估方法过于粗糙，难以诊断具体问题；缺乏成本效率考量；静态基准容易过时；安全性和合规性测试不足；人工评估成本高、扩展性差。研究团队指出，未来需要发展更细粒度、自动化、动态更新的评估方法。
