【青鸟飞扬教育】Nacos 3.0 AI Registry 架构

【青鸟飞扬教育】Nacos 3.0 AI Registry 架构

了解完 Nacos 3.0 的整体架构,接下来我们来看 Nacos AI 中心(AI Registry)的架构设计。作为 Nacos 3.0 规划中最重要的能力,Nacos AI Registry 的架构被分为 3 个层次,分别是模型层、``工具层和应用层。

在模型层中,主要通过对 AI 模型中一些常用的动态参数,比如 Prompt、学习率、联网参数等进行管理,采取复用在云原生应用中配置动态管理和分发能力的方式,帮助 AI 智能体在模型层进行快速调整及试错。

模型层之上是工具层,工具层主要帮助 LLM 模型和提供数据的 MCP 工具之间进行自动的发现、注册以及检索等能力,复用在云原生应用中服务的动态注册、管理、发现的能力,帮助 AI 智能体应用快速及便捷地发现 MCP 工具,同时快速过滤无关工具,减少 Token 损耗。

最顶层是 Agent 的应用层,实现 AI 应用与 AI 应用之间的发现与协作。目前规划是通过支持 A2A 等社区标准协议,同时配合 Spring AI Alibaba 等 AIAgent 应用框架,帮助 AIAgent 应用便捷的自动注册自身 AI 应用,同时发现其他 AI 应用,并能够像云原生应用一样,进行任务的分发以及结论的构成。

如果从功能视角出发,Nacos AI Registry 又可被分为针对大模型 LLM 的模型动态配置调优,针对 AI 应用平台的应用开发管理以及针对 AI Agent 应用的运行时能力增强。Nacos 希望通过不同的功能点,帮助 AI 应用像微服务云原生应用一样,能动态的调整 Prompt,学习率等参数,无需重新发布,从而帮助 AI 应用简化开发,调试过程中的繁琐操作,提高 AI 应用的开发和运行效率。

猜你喜欢

一缕清风何处寻?西圣WindHip高速挂腰风扇自然来

今天,我特地为大家带来一款与众不同的小风扇——西圣WindHip高速挂腰风扇。 西圣WindHip高速挂腰风扇涡轮增压技术配合五叶涡轮扇叶,五叶涡轮扇片采用潜艇式螺旋桨叶片设计,配合精密设计风道,将吸入的空气…

一缕清风何处寻?西圣WindHip高速挂腰风扇自然来

宋佳获得白玉兰女主奖,最尴尬的不是“逃走”的刘亦菲,而是海清

宋佳在饰演张桂梅校长的过程中,从一开始就呼声颇高,赢得了广大观众的喜爱。宋佳能够获得这个奖项,无疑是对她演技的高度认可。宋佳的表演更加贴切,更符合张桂梅校长的形象,她用自己的演技征服了观众和评委,也赢得了张…

宋佳获得白玉兰女主奖,最尴尬的不是“逃走”的刘亦菲,而是海清

治抑郁的药有什么副作用

抗抑郁药常见的副作用包括胃肠道不适、睡眠障碍、体重变化、性功能障碍和神经系统反应等。使用抗抑郁药时需严格遵循医嘱,不可自行调整剂量或停药。 部分抗抑郁药可能引起恶心、呕吐、腹泻或便秘等消化道症状

治抑郁的药有什么副作用

仅播4集收视夺冠,这匹黑马剧你追了吗,网友直呼等2年值了

这次他们把镜头对准了上世纪末,讲的是国内制造业变革的故事,主角是个海归技术男,回国想搞点事情,结果一头撞上了现实的南墙。这下,柳钧傻眼了,他终于明白,光有技术是不够的,还得搞定人。 有一场戏,他母亲去世,…

仅播4集收视夺冠,这匹黑马剧你追了吗,网友直呼等2年值了

滴灌不同于喷灌,水肥一体化滴灌系统的控制方式解析

在农业节水灌溉领域,滴灌与喷灌作为两种主流技术,其核心差异不仅体现在灌溉方式上,更深刻影响着水肥一体化系统的控制逻辑与效率。 滴灌系统通过三级精准调控体系,实现了水肥供应的时空匹配与动态优化,其控制方式的复杂…

滴灌不同于喷灌,水肥一体化滴灌系统的控制方式解析