近期,国产开源大模型DeepSeek的问世加速了AI大模型的落地应用脚步。基于DeepSeek,用户免去了大模型训练时所需的大量计算资源,便捷、高效地打造出智能客服、内容生成、办公助手等智能体应用。可以预见,经济社会对智算算力的需求结构将发生显著变化,未来推理算力需求将超过训练算力需求。因此,能够助力用户以“开箱即用”方式部署并应用DeepSeek的智算一体机类产品快速进入市场,成为各个行业领域智能化转型升级的理想之选。
在新一轮科技革命和产业变革深入推进之际,移动云保持了业内首屈一指的增长速度,并通过将传统云计算服务与AI深度融合,加速由云向智发展。针对用户低成本推理、智能体快速构建、安全合规等综合需求,移动云基于边缘智能小站算力底座,打造出智算一体机服务。凭借独享的高性能AI算力及一站式工具,移动云智算一体机成为国内首批、运营商首家成功通过信通院大模型轻量一体机技术能力测评的产品,为大模型推理、应用提供了高性价比解决方案。
基于边缘智算小站,构建专属智算算力底座
随着AI大模型不断落地实际业务场景,用户为充分发挥AI智能体、应用效能,并满足数据不出场、安全合规需求,更希望将计算资源进行本地化部署。而移动云作为运营商云,目前已纳管超1500+边缘节点,实现了节点布局及服务能力对全国31省300+地区的全面覆盖;同时,移动云将资源优势与边缘服务、AI、生态相结合,支持云端应用下发、管理,并能够在远端对边缘服务进行统一调度,进而以多维云边协同能力打造出边缘智能小站服务。
成本方面,边缘智能小站三台服务器即可构建,支持一体化、标准化快速交付,并能够根据用户需求灵活、快速扩容,能够大幅降低用户成本投入;资源方面,边缘智能小站可提供云主机、裸金属、容器等多种专属服务,既能确保资源独立性、稳定性,又能以超低时延快速响应用户业务需求;安全方面,边缘智能小站本地化部署的方式能够有效避免数据传输过程中的安全风险,满足用户安全合规需求。因此,基于边缘智能小站打造的智算一体机,能够为用户部署应用DeepSeek等大模型提供多元异构、安全可靠的算力支撑。
攻关核心技术,全面升级服务效能
在由云向智升级过程中,移动云深知云是智的重要基础设施和服务入口,因此在DeepSeek上线后,移动云快速完成了对DeepSeek的全版本覆盖、全尺寸适配与全功能畅用。同时,移动云不断通过技术攻关,为智算一体机打造出多项核心优势,全面升级了产品服务效能。
算效方面,移动云创新研发了SOFT-CKPT存储技术,实现了数、训、推全链路加速,同时通过计算重叠、算子融合等技术,智算一体机使用国产芯片时MFU可达52%,业界领先。性能方面,移动云深度优化了Mindspeed-LLM内核及MindlE训推框架,使智算一体机基于国产算力推理时性能提升达90%,并能够保障长周期训练任务的连续性,同时移动云还基于自研lava调度器创新研发了拓扑亲和性调度,大幅提升了智算一体机训练稳定性;成本方面,移动云将智算一体机自研推理引擎与DeepSeek-R1模型进行深度适配,显著降低了其在国产芯片上推理成本,为用户打造出高性价比的国产化推理解决方案。
内置一站式工具,实现分钟级智能体构建
对于政企、金融、医疗、教育等传统行业用户而言,实际构建、应用DeepSeek等大模型时往往需要熟悉模块化组件、编程接口并具备高质量的数据工程能力,因此技术门槛较高、应用开发周期较长。而移动云智算一体机不仅集成了DeepSeek满血版、蒸馏版等多款大模型及成熟的行业智能体,还内置模型微调、模型推理、知识库构建、智能体编排等一站式工具,因此能够助力用户在资源独享的服务环境中,快速构建个性化AI应用。
目前,移动云智算一体机推出预置DeepSeek的多版本推理一体机、训推一体机产品,用户无须繁琐配置,可通过开箱即用能力轻松获取智算服务。同时移动云还在智能体开发领域进行技术攻关,使智算一体机能够提供基于LLM自主规划和工作流的智能体编排方式,满足用户无代码、低代码智能体开发需求。基于智算一体机,用户5分钟即可构建一款应用,并实现知识库召回精度超95%,因此能够大幅降低用户智能体开发难度,显著提升智能体性能,并降低业务运营成本。
凭借在性能、功能、成本等方面的多重优势,移动云智算一体机已陆续在政企、教育、研发、工业等领域落地,为用户数智化转型、降本增效提供了高性价比算力+能力支撑。未来,随着AI大模型的不断迭代,移动云也将继续加大技术研发力度,不断完善产品能力、创新服务模式,从而以更契合用户需求的智算服务,助力用户高效构建新质生产力。