9月9日,2025开放『数据中心』大会(ODCC)在北京举行。本次大会以“拥抱AI变革 点燃算网引擎”为主题,汇聚产业界顶尖企业与专家,共同探讨『数据中心』与边缘计算领域的最新技术与标准进展。
云尖信息受邀参与本次盛会,并携手英特尔及其他生态伙伴正式发布《OTII-E边缘AI推理一体机》白皮书,详细阐述了边缘AI一体机的技术路径与应用价值,同时还在大会现场展示了基于OTII-E标准的边缘AI解决方案平台Demo,彰显了在边缘环境下高性价比、高适应性的AI推理能力和边缘算力领域实践。
白皮书技术亮点:模块化设计破解边缘AI落地难题在全球『数字化』转型加速推进的浪潮中,边缘计算与人工智能技术的深度融合正重塑产业发展格局。《OTII-E边缘AI推理一体机》白皮书由ODCC牵头,英特尔、云尖信息、中国信通院等联合编写,深刻剖析边缘场景的业务特性与技术痛点,结合开放『数据中心』委员会OTII-E 标准的模块化架构理念,从硬件模块组合、算力优化、成本控制、生态协同等维度,系统阐述边缘AI一体机的技术路径与实施框架。通过行业案例展现方案在智慧运维、智慧客服等场景的落地实践,为产业界提供从技术选型到部署实施的全流程参考,助力边缘 AI 在各行业的规模化应用与商业价值释放。
《OTII-E边缘AI推理一体机》白皮书发布
云尖信息与英特尔联合推出的OTII-E边缘AI推理一体机,采用模块化架构设计,支持1U全宽、1U半宽、2U半宽等多种节点形态,可灵活配置通用计算、GPU加速、存储扩展及网络交换模块。其Flex区域可选配4块2.5寸硬盘或内置交换板,实现IT与CT融合部署,显著减少外部设备依赖。该『服务器』支持最多3张全高全长双宽GPU,包括消费级显卡,大幅降低算力成本,同时突破传统边缘『服务器』的算力瓶颈。
环境适应性方面,OTII-E具备宽温支持能力,整机运行噪音降低30%,符合Class B电磁兼容标准,适用于居民区、医院等对噪音敏感的场景。其短机身设计(深度仅600mm)支持桌面、壁挂及机柜多种部署方式,极大提升了边缘场景的部署灵活性。
软件层面,OTII-E通过英特尔®Device Plugins实现Kubernetes环境下CPU、GPU、NPU等异构资源的动态发现与调度。支持vLLM、SGLang、KTransformer等多种推理框架,可适配高并发请求与大参数模型推理场景。英特尔® OneAPI统一编程模型实现了CPU与GPU的高效协同,结合OpenVINO对视觉模型的优化及IPEX-LLM对语言模型的加速,为多模态AI任务提供全面支撑。
行业场景应用层面,可为工业质检、智慧城市、医疗边缘等场景提供高性价比、高可靠性的基础设施解决方案。如在5G网络运维系统中,4块GPU节点运行70B模型,本地知识库整合3GPP规范与运维案例,实现故障自动诊断与策略生成;智能客服系统采用双GPU节点分别处理ASR/TTS语音任务和7B语言模型,通过MCP协议与业务系统实现闭环交互;AI视频搜索系统基于OpenVINO与CLIP/BLIP模型,实现对视频内容的跨模态检索,支持毫秒级响应。
OTII-E边缘AI解决方案平台重磅亮相在ODCC大会现场,OTII-E 边缘AI解决方案平台重磅亮相,重点展示了基于EC-RAG(边缘精调检索增强生成)的本地知识库系统。该系统搭载E2400 OTII-E『服务器』,配置4块Intel ARC A750E GPU(16GB显存)、32GB内存及16核英特尔®至强®处理器,通过FAISS/HNSW向量检索库实现毫秒级语义匹配。RAG Pipeline能够实时检索5G运维文档并生成解决方案,支持『DeepSeek』-R1蒸馏模型(7B~70B参数)的多规格部署,并通过Kubernetes实现多节点『负载均衡』与故障迁移。
云尖信息与英特尔联合推出的OTII-E『服务器』,通过OTII-E标准将模块化、异构化和软硬协同优化深度融合,为边缘AI场景提供了灵活且强大的算力支持。
大会现场,OTII-E 边缘AI解决方案平台亮相展示
OTII-E标准通过模块化架构打破传统硬件边界,解决了边缘场景的定制化与规模化矛盾,而OTII-E边缘AI一体机是“算力下沉”的关键载体,其模块化设计将加速生成式AI在边缘侧的商业化进程。云尖信息与英特尔、ODCC及产业伙伴的深度协同,标志着边缘AI从“技术验证”迈向“规模落地”的关键转折。
未来,云尖信息将继续深化与ODCC的合作,持续扩展OTII-E在新兴领域的应用范式,推动边缘计算标准化、产业化进程,助力各行各业实现AI技术的规模化落地与商业价值释放。
关于开放『数据中心』委员会(ODCC):开放『数据中心』委员会(ODCC)专注于技术研究和创新,秉承着“开放、创新、合作、共赢”的理念,ODCC为提升我国『数据中心』产业的技术实力和竞争力做出了重要贡献。至今,大会累计发布了300余项成果,对推动和引领『数据中心』产业的发展起到了积极的作用,成为了行业的风向标。