今天分享的是：腾讯云-详解DeepSeek核心技术2025
报告共计：23页
DeepSeek是由杭州深度求索推出的大语言模型，具有以下特点：
- 基本情况
- 诞生背景：成立于2023年7月，由幻方量化孕育，致力于大语言模型技术开发。
- 发展历程：从V1版本到R1版本不断迭代，在架构、训练效率、数据质量等方面持续创新。
- 技术特点
- 模型架构与训练：采用MLA多层注意力架构、FP8混合精度训练框架、DualPipe跨节点通信等，训练效率优化，数据质量高且经过多模态数据清洗和领域微调。
- 核心技术突破
- 超长上下文建模：支持128K + tokens窗口，能精准捕捉长程依赖。
- 多令牌预测（MTP）：一次预测多个token，提升训练和推理效率。
- 强化学习对齐：基于人类反馈的强化学习，提升结果安全性与实用性。
- 优势与应用
- 优势：高效推理，单卡支持千亿参数模型部署，推理速度提升3倍+；多任务兼容，原生支持智能体架构；持续进化，支持参数高效微调。
- 应用场景：包括智能问答、代码生成、数据分析、科研计算、多模态交互等。
- 性能与比较
- 性能突出：在权威评测集和垂类评测中表现优异，在同等参数规模下超越主流开源模型，接近GPT - 4水平。
- 与同行比较：在架构设计、任务表现、资源效率等方面具有优势，开源策略降低了训练成本。
- 使用建议
- 了解原理与局限：明确指令模型和推理模型的工作原理与局限。
- 明确提问方式：像与聪明的助理交流一样，交待清楚诉求，包括角色、问题场景、目标、限制条件和期望回答形式。
- 注意提问要点：明确问题背景，提供具体信息，结构化描述问题，避免无效提问。
总之，DeepSeek在技术创新和性能表现上具有优势，为用户提供了高效的语言处理能力和广泛的应用场景。
以下为报告节选内容
