了解完 Nacos 3.0 的整体架构,接下来我们来看 Nacos AI 中心(AI Registry)的架构设计。作为 Nacos 3.0 规划中最重要的能力,Nacos AI Registry 的架构被分为 3 个层次,分别是模型层、``工具层和应用层。
在模型层中,主要通过对 AI 模型中一些常用的动态参数,比如 Prompt、学习率、联网参数等进行管理,采取复用在云原生应用中配置动态管理和分发能力的方式,帮助 AI 智能体在模型层进行快速调整及试错。
模型层之上是工具层,工具层主要帮助 LLM 模型和提供数据的 MCP 工具之间进行自动的发现、注册以及检索等能力,复用在云原生应用中服务的动态注册、管理、发现的能力,帮助 AI 智能体应用快速及便捷地发现 MCP 工具,同时快速过滤无关工具,减少 Token 损耗。
最顶层是 Agent 的应用层,实现 AI 应用与 AI 应用之间的发现与协作。目前规划是通过支持 A2A 等社区标准协议,同时配合 Spring AI Alibaba 等 AIAgent 应用框架,帮助 AIAgent 应用便捷的自动注册自身 AI 应用,同时发现其他 AI 应用,并能够像云原生应用一样,进行任务的分发以及结论的构成。
如果从功能视角出发,Nacos AI Registry 又可被分为针对大模型 LLM 的模型动态配置调优,针对 AI 应用平台的应用开发管理以及针对 AI Agent 应用的运行时能力增强。Nacos 希望通过不同的功能点,帮助 AI 应用像微服务云原生应用一样,能动态的调整 Prompt,学习率等参数,无需重新发布,从而帮助 AI 应用简化开发,调试过程中的繁琐操作,提高 AI 应用的开发和运行效率。