【七彩虹教育】AI 应用开发的陷阱:MCP 的致命问题(七彩虹课件)

【七彩虹教育】AI 应用开发的陷阱:MCP 的致命问题(七彩虹课件)

将大语言模型(LLM)与外部工具连接,是扩展其能力的主流方法。通过给模型提供工具,它就能查询数据、调用 API,完成更复杂的任务。

提供工具时,可以使用 MCP 模式,简单来说:由一个外部的、集中的工具服务来提供所有工具,开发者写的应用直接调用这个服务,让它去和模型沟通。

这样做表面上简化了开发,开发者不用自己管理工具了。但问题也恰恰出在这里:应用的开发者,失去了对模型上下文的精确控制权。

这是一个根本性的问题,会引发一连串的麻烦。

一个具体的例子:MCP 架构

我们来看看 MCP(Model Context Protocol)这个框架的实现方式。它清楚地展示了这种分离模式。

在 MCP 的世界里,开发者分为两类:

Server 开发者:他们负责创建工具。

Client 开发者:他们负责写真正面向用户的应用,并调用 Server 提供的工具。

这就是我们要讨论的核心风险。

1. 控制权交给了别人

AI 应用的核心,是开发者与大模型之间的交互。开发者应该精确地告诉模型在当前场景下,它能做什么。

在上面的例子中,Client 开发者完全放弃了这种控制。如果 weather-server 的开发者某天在服务器上增加了一个新工具,或者修改了 get_alerts 工具的描述,所有使用这个 Server 的 Client 应用,都会在不知情的情况下立刻受到影响。

2. 浪费了宝贵的上下文

大模型的 “上下文窗口” 是有限且有成本的。

MCP 官方的示例中,就罗列了大量的 “即插即用” 型 Server,比如 Filesystem、Git、PostgreSQL。一个 Client 应用可能会连接多个 Server。

想象一下,你的应用只是想问个天气,但因为连接了多个 Server,list_tools () 可能会返回十几个不相关的工具(比如文件读写、数据库查询等)。这些多余的工具定义会被全部发送给大模型,不仅增加了推理成本和时间,还会像噪音一样干扰模型,让它难以选择正确的工具。

3. 工具的质量无法保证

工具的名称和描述对模型能否正确使用至关重要。最了解应用需要什么样工具的人,是 Client 开发者自己。

但是,在 MCP 模式下,Client 开发者无法修改 Server 提供的工具描述。如果 Server 的工具描述写得含糊不清(比如一个叫 process_data 的函数),Client 开发者要么只能忍受,要么就得放弃使用整个 Server。他失去了根据自己业务场景,“精雕细琢” 工具描述的能力。

4. 安全性和稳定性的风险

这是最严重的问题。由于 Client 开发者无法控制工具集,应用的安全和稳定就依赖于外部的 Server。

以 mcp-server-filesystem 这个官方工具为例,它能执行文件操作。如果一个 Client 应用连接了它,就等于把文件操作的潜力暴露给了大模型。Client 开发者必须完全信任这个 Server 的实现是绝对安全、没有漏洞的。

如果 Server 的开发者在一次更新中,不小心引入了一个允许删除任意文件的 Bug,那么所有连接到这个 Server 的 Client 应用,都可能在用户不知情的情况下,执行危险的操作。这种风险是灾难性的。

特别声明:[【七彩虹教育】AI 应用开发的陷阱:MCP 的致命问题(七彩虹课件)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

陈可辛邀请”港独”艺人,章子怡也难救:是市场误判还是底线失守

自从《甜蜜蜜》到《中国合伙人》,他以作品讲述着一个个波澜壮阔的时代故事,获得了金像奖和金马奖的认可,甚至在两岸三地都占据了自己的一席之地。 内地市场的困顿让陈可辛寄希望于香港市场,然而他却没料到,在首映红毯上…

陈可辛邀请”港独”艺人,章子怡也难救:是市场误判还是底线失守

VQ947Y16-电动型球阀(球形电动车)

在控制信号作用下球式阀芯由与之所连接的电动执行机构的出轴所驱动作0~90°旋转,从而改变流通面积,达到调节流量的目的,球阀与执行机构之间采用支架固定。 4、具有一个V型阀体,即使在小流量或高粘度介质的情况下,…

VQ947Y16-电动型球阀(球形电动车)

国家地方共建人形机器人创新中心签约首批开放基金及分训练场(各地区要加强共建)

基金围绕国地中心的基础研究和应用技术研究项目,分为平台技术、具身智能、数据集、训练场四大领域和细分17个资助方向,主要面向国内高校、科研机构、企业的优秀青年学者,资助相关研究团队在人形机器人领域开展基础研究与…

国家地方共建人形机器人创新中心签约首批开放基金及分训练场(各地区要加强共建)

硬泡组合聚醚(白料):2025年122.45亿美元,2031年将达151.56亿,CAGR 3.0%(硬泡组合聚醚ph值)

综上所述,本文在撰写过程中,主要参考了环洋市场咨询发布的报告《2025年全球市场硬泡组合聚醚(白料)总体规模、主要生产商、主要地区、产品和应用细分研究报告》,其中的数据支撑、行业分析框架及部分观点论述均源于…

硬泡组合聚醚(白料):2025年122.45亿美元,2031年将达151.56亿,CAGR 3.0%(硬泡组合聚醚ph值)

《深情眼》定档721,国产偶像剧迎来高潮,预告片让观众直呼过瘾(《深情眼》定档后什么时候播出)

《深情眼》全剧有26集,虽然张笑安最初也打算制作24集,但由于剧情太有吸引力,最后决定加了两集,想必这两集的内容将进一步丰富剧情。在剧集的结构上,导演特别加强了悬疑和社会议题的比重,脱离了传统偶像剧的甜宠模…

《深情眼》定档721,国产偶像剧迎来高潮,预告片让观众直呼过瘾(《深情眼》定档后什么时候播出)