打破瓶颈,让RAG学会思考:中科大、智源等发布推理检索框架BGE-Reasoner(打破瓶颈的成语)

机器之心发布

机器之心编辑部

人工智能的浪潮正将我们推向一个由 RAG 和 AI Agent 定义的新时代。然而,要让这些智能体真正「智能」,而非仅仅是信息的搬运工,就必须攻克一个横亘在所有顶尖团队面前的核心难题。这个难题,就是推理密集型信息检索(Reasoning-Intensive IR)

它不仅是当前 RAG 和 AI Agent 技术发展的关键瓶颈,更对大模型智能体和深度研究(DeepResearch)等应用场景的成败具有决定性意义。

正当全球研究者都在为此寻求突破之际,我们看到了一项来自中国的贡献:BGE-Reasoner

BGE-Reasoner 由来自中国科学技术大学、智源研究院、北京邮电大学与香港理工大学等机构的联合团队研发,是一套用于推理密集型信息检索任务的创新的端到端解决方案。通过系统性的查询理解、向量检索与重排序,该方案可显著提升搜索引擎在推理密集型信息检索任务中的表现。

在权威评测基准 BRIGHT 上,BGE-Reasoner 取得 45.2 的测试得分,以显著优势刷新了该基准的最佳纪录。

作为 BGE 系列模型的又一重要里程碑,BGE-Reasoner 不仅实现了性能上的突破,更为解决推理密集型检索这一行业难题提供了一套行之有效的新范式。从技术洞察来看,本次成果的核心创新主要体现在以下三个方面:

  1. 一个可复制的框架: 提出了一个由 Rewriter、Embedder 和 Reranker 组成的三阶段模块化框架,为处理复杂查询提供了清晰、高效的工程范式。
  2. 数据驱动创新: 探索并证明了利用大模型合成高质量、多领域推理训练数据的可行性,巧妙地解决了该领域训练数据稀缺的核心瓶颈。
  3. 强化学习赋能: 成功将强化学习应用于 Reranker 训练,让模型在面对困难样本时具备了更强的推理和泛化能力。

相关模型权重、训练代码及训练数据即将面向社区开放,进一步推动该领域的研究与应用发展。

项目主页:https://github.com/FlagOpen/FlagEmbedding/tree/master/research/BGE_Reasoner

简介

推理密集型信息检索(Reasoning-Intensive IR)是近年来兴起的一类新型信息检索任务。与传统检索不同,它不仅依赖语义匹配,还需要综合运用深层逻辑推理、多步语义链以及相关背景知识,才能在查询与目标文档之间建立起正确的语义关联。

为推动该领域研究,香港大学、普林斯顿大学和『斯坦福大学』联合提出了首个面向推理密集型检索的权威评测基准 BRIGHT。该基准汇集了来自 StackExchangeLeetCode数学竞赛等领域的真实查询,并将其与需要多步推理才能识别的相关文档进行配对,用于评估检索系统在复杂推理场景下的能力。

在 BRIGHT 基准下,传统依赖关键词匹配或简单语义相似度的方法往往难以定位真正相关的目标文档,暴露出当前检索系统在复杂推理场景中的不足。因此,如何在推理密集型检索中提升系统性能,成为推动检索增强生成(RAG)在复杂推理任务中发展的关键问题。

图 1. 不同于基于关键词和直接语义匹配的检索任务,BRIGHT 评测基准关注于推理密集型场景下的检索任务

在这一背景下,BGE-Reasoner 在推理密集型检索任务中展现出卓越性能。在 BRIGHT 榜单中,它超越了此前由蚂蚁、百度、字节跳动、人民大学、滑铁卢大学等机构提交的成果,并以领先第二名 3.6 分的优势刷新纪录。与此同时,其内置向量模型 BGE-Reasoner-Embed 也大幅超越了 Seed1.5-Embedding、Qwen3-Embedding、GTE 等当前最强基线模型,展现了显著的性能提升。

图 2. 在 BRIGHT 榜单上,BGE-Reasoner 取得 SOTA 表现于 8 月 21 日荣登第一名,BGE-Reasoner-Embed 使用原生查询即表现出色,在向量模型中取得 SOTA 结果,榜单链接:https://brightbenchmark.github.io

图 3. BGE-Reasoner 及 BGE-Reasoner-Embed 与基线模型在 BRIGHT 上的检索表现对比图

技术分析

BGE-Reasoner 采用信息检索中的经典三模块体系:

  • 查询理解 —— BGE-Reasoner-Rewriter:对初始查询进行理解与改写,生成更适合检索的优化查询;
  • 向量模型 —— BGE-Reasoner-Embed:与 BM25 协同利用改写后的查询进行检索,获取候选文档集合;
  • 排序模型 —— BGE-Reasoner-Reranker:对候选文档进行重排序,得到更为准确的排序结果。

在实际工作流程中,用户的原始查询首先经过 BGE-Reasoner-Rewriter 改写,然后由 BGE-Reasoner-EmbedBM25 并行检索得到候选文档,最后交由 BGE-Reasoner-Reranker 进行精排。系统通过集成多路结果,输出最终排序,完成端到端的推理式检索流程。完整框架如下图所示:

图 4. BGE-Reasoner 的端到端检索流程示意图

数据合成。不同于传统的开放式问答场景,推理密集型信息检索场景下的训练数据十分稀缺。为了解决这一问题,智源及合作机构的研究团队诉诸于基于『大语言模型』的数据合成策略。具体来说,基于现实场景中存在的知识密集型语料库,合成出针对特定场景的高质量推理密集型查询,然后借助于『大语言模型』强大的理解能力为每个查询构造出高质量的正例和负例。最终构造出一份覆盖数学、代码等多个领域的高质量推理密集型检索训练数据,为后续各个模块的训练提供支撑。

查询理解。在查询理解模块中,研究人员基于前述合成数据,借助推理能力较强的教师模型生成多条推理路径,并通过拒绝采样策略筛选高质量结果以构建训练样本。随后,利用这些训练数据对 Qwen2.5-7B-Instruct 模型进行微调,从而显著提升其在查询理解与改写方面的能力,最终得到 BGE-Reasoner-Rewriter。

向量模型。内嵌的向量模型 BGE-Reasoner-Embed 基于 Qwen3-8B 基座模型进行微调。依托高质量的合成训练数据,模型在推理密集型检索任务中的能力得到了显著增强。在 BRIGHT 基准下,无论是基于原始查询还是 GPT-4 推理查询,BGE-Reasoner-Embed 均取得了当前向量模型中的最佳检索表现,充分验证了所构建合成数据的有效性。

排序模型。内嵌的排序模型 BGE-Reasoner-Reranker 基于 Qwen3 系列基座模型进行微调。结合任务场景下的相关性定义,模型能够在查询与候选文档之间展开细粒度推理,识别关键信息片段并准确评估相关性。在训练过程中,引入强化学习以提升模型在困难样本上的推理能力;在推理阶段,模型通过测试时扩展(test-time augmentation)获取更加稳健的相关性评分,从而进一步增强排序性能。

图 5. BGE-Reasoner-Reranker 的推理过程示意图

总结

BGE-Reasoner 的卓越表现充分验证了强化学习与合成数据在推理密集型信息检索中的重要作用,为未来 Agent Search 的发展提供了关键支撑。

智源研究院将持续深耕向量模型与检索增强技术,不断提升 BGE 系列模型的能力与通用性。未来期待与更多科研机构及产业伙伴合作,共同推动检索与人工智能的发展,欢迎研究者与开发者关注并使用 BGE 系列模型,共建开放繁荣的开源生态。

特别声明:[打破瓶颈,让RAG学会思考:中科大、智源等发布推理检索框架BGE-Reasoner(打破瓶颈的成语)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

『刘涛』连春晚路透都是妈咪级别,成熟魅力诠释优雅永不过时(『刘涛』央视春晚合唱了什么歌)

所谓妈咪级别,乍听之下或许会让人联想到年纪,但细品之下,这个词语更像是一种褒奖,代表着成熟女性♀️特有的魅力。这种做法在某些人眼中或许显得不够吸睛,但却赢得了更多人对她的尊敬和喜爱。我们期待在2026年春晚…

『刘涛』连春晚路透都是妈咪级别,成熟魅力诠释优雅永不过时(『刘涛』央视春晚合唱了什么歌)

『檀健次』新剧开机粉丝太壕!3200架无人机点亮横店夜空(『檀健次』新剧开机)

他想起了2016年,自己第一次来横店,一个人搬着板凳到处找龙套角色演。核心是权谋和谍战,『檀健次』演的男主谢却山,是个双面间谍,表面背了叛国骂名,实际上在敌营里潜伏了八年。『檀健次』和这一船人,到底能不能带观众“同舟…

『檀健次』新剧开机粉丝太壕!3200架无人机点亮横店夜空(『檀健次』新剧开机)

国防部:遏阻日本军国主义幽灵再现 坚决捍卫战后秩序

1月29日下午,国防部举行例行记者会,国防部新闻局副局长、国防部新闻发言人蒋斌大校回答了记者提问。有记者提到,近期日本政府在扩军备武方面动作频繁,不仅研发远程导弹、放宽武器出口等敏感领域释放挑衅信号,还与美国密谋进一步深化“指挥权一体化”

国防部:遏阻日本军国主义幽灵再现 坚决捍卫战后秩序

『张柏芝』携三子机场亮相 15 岁谢振南反超哥哥(『张柏芝』三子助阵现场视频)

而在网友们的讨论中,焦点更多集中在颜值遗传和未来发展上。尽管『谢霆锋』并未亲自出面,但无论是在『娱乐圈』️还是粉丝的视线中,他的孩子们已经自带『明星』️光环,成为媒体和网友关注的焦点。星二代们的未来,充满了无限可能,而…

『张柏芝』携三子机场亮相 15 岁谢振南反超哥哥(『张柏芝』三子助阵现场视频)

万亿级新基建驱动 国产 IO 部件开启高带宽、高密度技术升级浪潮(万亿基建项目加快推进)

【环球网科技报道 记者林梦雪】“『服务器』产业已从单纯的信息技术产品升级为新型基础设施,其投资与建设逻辑已对标高铁、电网等关键民生工程,在市场与技术双轮驱动下,将形成万亿级市场空间。” 据介绍,灵达下一步还将…

万亿级新基建驱动 国产 IO 部件开启高带宽、高密度技术升级浪潮(万亿基建项目加快推进)