【七彩虹教育】AI 应用开发的陷阱:MCP 的致命问题(七彩虹课件)

【七彩虹教育】AI 应用开发的陷阱:MCP 的致命问题(七彩虹课件)

将『大语言模型』(LLM)与外部工具连接,是扩展其能力的主流方法。通过给模型提供工具,它就能查询数据、调用 API,完成更复杂的任务。

提供工具时,可以使用 MCP 模式,简单来说:由一个外部的、集中的工具服务来提供所有工具,开发者写的应用直接调用这个服务,让它去和模型沟通。

这样做表面上简化了开发,开发者不用自己管理工具了。但问题也恰恰出在这里:应用的开发者,失去了对模型上下文的精确控制权。

这是一个根本性的问题,会引发一连串的麻烦。

一个具体的例子:MCP 架构

我们来看看 MCP(Model Context Protocol)这个框架的实现方式。它清楚地展示了这种分离模式。

在 MCP 的世界里,开发者分为两类:

Server 开发者:他们负责创建工具。

Client 开发者:他们负责写真正面向用户的应用,并调用 Server 提供的工具。

这就是我们要讨论的核心风险。

1. 控制权交给了别人

AI 应用的核心,是开发者与大模型之间的交互。开发者应该精确地告诉模型在当前场景下,它能做什么。

在上面的例子中,Client 开发者完全放弃了这种控制。如果 weather-server 的开发者某天在『服务器』上增加了一个新工具,或者修改了 get_alerts 工具的描述,所有使用这个 Server 的 Client 应用,都会在不知情的情况下立刻受到影响。

2. 浪费了宝贵的上下文

大模型的 “上下文窗口” 是有限且有成本的。

MCP 官方的示例中,就罗列了大量的 “即插即用” 型 Server,比如 Filesystem、Git、PostgreSQL。一个 Client 应用可能会连接多个 Server。

想象一下,你的应用只是想问个天气,但因为连接了多个 Server,list_tools () 可能会返回十几个不相关的工具(比如文件读写、数据库查询等)。这些多余的工具定义会被全部发送给大模型,不仅增加了推理成本和时间,还会像噪音一样干扰模型,让它难以选择正确的工具。

3. 工具的质量无法保证

工具的名称和描述对模型能否正确使用至关重要。最了解应用需要什么样工具的人,是 Client 开发者自己。

但是,在 MCP 模式下,Client 开发者无法修改 Server 提供的工具描述。如果 Server 的工具描述写得含糊不清(比如一个叫 process_data 的函数),Client 开发者要么只能忍受,要么就得放弃使用整个 Server。他失去了根据自己业务场景,“精雕细琢” 工具描述的能力。

4. 安全性和稳定性的风险

这是最严重的问题。由于 Client 开发者无法控制工具集,应用的安全和稳定就依赖于外部的 Server。

以 mcp-server-filesystem 这个官方工具为例,它能执行文件操作。如果一个 Client 应用连接了它,就等于把文件操作的潜力暴露给了大模型。Client 开发者必须完全信任这个 Server 的实现是绝对安全、没有漏洞的。

如果 Server 的开发者在一次更新中,不小心引入了一个允许删除任意文件的 Bug,那么所有连接到这个 Server 的 Client 应用,都可能在用户不知情的情况下,执行危险的操作。这种风险是灾难性的。

特别声明:[【七彩虹教育】AI 应用开发的陷阱:MCP 的致命问题(七彩虹课件)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

进一步改善『芯片』散热:曝『英伟达』推动上游开发微米级水冷组件 MLCP(进一步改善『芯片』技术)

月 15 日消息,综合台媒《经济日报》《工商时报》报道,『英伟达』正推动上游供应商开发一类名为MLCP( 注:微通道水冷板)的水冷散热组件,以应对『英伟达』 AI GPU 『芯片』随代际更替不断上升的发热。 报道…

进一步改善『芯片』散热:曝『英伟达』推动上游开发微米级水冷组件 MLCP(进一步改善『芯片』技术)

“完美女神”热巴生图被揭,鼻子大腋下黑,生图才是“人间真实”

她一出场,『迪奥』活动常见的 “抢 C 戏码” 又上演了,她和『迪丽热巴』的粉丝又开始争起来,不过刘雨昕没压轴,谁咖位高其实挺明显的。小姑娘皮肤又紧又亮,那股子娇俏劲儿是装不出来的,这次尝试浓妆也很合适,状态真是绝了…

“完美女神”热巴生图被揭,鼻子大腋下黑,生图才是“人间真实”

他是香港歌坛传奇人物,古稀之年有妈疼爱,你不知道的林子祥(香港歌手)

他在香港歌坛有着得天独厚的地位,就连歌后『邓丽君』都亲口对他说:“我是您的歌迷,经常听您的歌”。他在参加内地一档综艺节目时,主持人感叹林子祥都74多岁了,依然中气十足,保持着铁肺。 林子祥,无论是在香港歌坛,…

他是香港歌坛传奇人物,古稀之年有妈疼爱,你不知道的林子祥(香港歌手)

人体工学椅哪个牌子性价比高?黑白调P2 Pro给出完美答案(人体工学椅品牌排行)

,市场上人体工学椅品牌众多,价格与品质参差不齐,消费者不禁要问:“人体工学椅哪个牌子性价比高?”那就不得不提黑白调的P2 Pro人体工学椅了,其凭借出色的设计、卓越的性能以及亲民的价格,给出了完美的答案,黑白…

人体工学椅哪个牌子性价比高?黑白调P2 Pro给出完美答案(人体工学椅品牌排行)

『唐嫣』传来喜讯,本人凌晨晒照回应:时间让所有的等待都更有意义(『唐嫣』传来喜讯是哪一集)

凭借在《繁花》中对1"汪小姐1"一角的精彩演绎,『唐嫣』成功捧得最佳女主角🎭️奖杯🏆️。这位出生于1983年的上海籍演员难掩激动之情,在获奖感言中她动情表示:1"这个奖项不仅是对我个人表演的肯定,更

『唐嫣』传来喜讯,本人凌晨晒照回应:时间让所有的等待都更有意义(『唐嫣』传来喜讯是哪一集)