戴尔推出掌上AI超算!字典大小,1000TOPS峰值算力,能跑2000亿参数模型(dell助手)

戴尔推出掌上AI超算!字典大小,1000TOPS峰值算力,能跑2000亿参数模型(dell助手)

(来源:智东西)

智东西

作者 ZeR0

编辑 漠影

智东西8月15日报道,今日,在戴尔科技峰会(DTF)期间,戴尔科技正式发布专为AI推理设计的“掌上AI超算”Dell Pro Max with GB10。

这是Dell Pro Max全新产品线旗下的一款重要AI工作站新品,搭载NVIDIA GB10 Grace Blackwell 超级『芯片』,首次将『数据中心』级架构下放至桌面,专为AI开发者设计,在FP4精度下可提供高达1000TOPS的AI性能。

▲戴尔科技集团大中华区客户端销售系统工程总监喻智娟现场展示Dell Pro Max with GB10

传统电脑通常应用于游戏开发、软件开发、媒体制作、医疗、金融等行业,而Dell Pro Max with GB10聚焦于AI领域的研发和应用,专注满足AI计算的需求,能无缝扩展至更大规模数据集或生产环境,大幅降低复杂项目的实现成本与难度,适用于AI原型研发、边缘AI计算、数据科学、AI开发、大模型推理、教育等领域。

戴尔科技集团大中华区客户端解决方案事业部工作站资深产品经理汪志军在一场媒体沟通会上对这款新品进行了详尽分享。

他打了个形象的比喻:Dell Pro Max with GB10就像一个装修完毕、设备齐全的智能厨房,所有的硬件配置合理、软件环境完整、开发框架预设完毕,连“菜单”——也就是常用的开发路径、运行环境——都打包好了。用户只需要把“食材”——数据、模型、算法——放进去,按流程调用,就能快速生成用户的AI应用。无论是企业级的部署还是某个垂直行业的落地应用,都能高效启动,并且具备很强的可扩展性与可持续性。

一、小到能塞进包里的掌上AI超算,单机能跑2000亿参数模型

从外形来看,Dell Pro Max with GB10非常小巧,只有1.2升,类似于一本字典,小到能塞进包里。

这款AI设备是戴尔首次与NVIDIA在Grace Blackwell架构上的深度合作,基于NVIDIA Grace Blackwell 平台,配备128GB LPDDR5x统一内存,通过 NVIDIA NVLink C2C 连接,CPU和GPU可共享访问所有系统内存。相比之下,一个标准显卡通常只有十几GB的显存。

Dell Pro Max with GB10单机最多能支持高效构建、优化和部署2000亿参数的AI推理模型,微调最多可达700亿参数的模型。

如果开发者希望进行模型开发、训练或微调,这台机器也具备足够的精度能力,支持最高达700亿参数级别的模型训练任务。

通过NVIDIA ConnectX-7网络连接技术和200G x 2 QSFP 接口,这台机器可实现双机高速互联,组成一个更高性能的AI算力节点,内存扩展至256GB,支持最多4050亿参数的模型,满足大型AI模型的运行需求。

Dell Pro Max with GB10采用全金属机身,配备了一款240瓦电源,并对散热系统进行了优化设计,以确保设备能够在高负载下保持稳定运行。

其硬盘提供2TB和4TB两种容量,网络接口还配备了常规的10Gb网络接口,无线🛜连接支持Wi-Fi 7和蓝牙5.1,I/O接口包括多种Type-C接口。

二、预装NVIDIA AI相关组件,涵盖模型部署、调优、推理全流程

Dell Pro Max with GB10具备出色的软件生态。

该产品出厂预装了基于Ubuntu深度开发的DGX OS 7定制化操作系统,包含针对本机的优化配置、设定及额外驱动程序,同时集成了NVIDIA提供的丰富开发容器、套件及AI框架,实现硬件与软件的深度适配,确保开发者在桌面、NVIDIA DGX Cloud平台与戴尔『数据中心』之间迁移AI模型时无需修改代码,提升工作连续性。

例如,预装的NVIDIA DGX系统及AI Enterprise软件套件,可帮助用户实现开箱即用,支持快速部署,几分钟内即可投入实际开发与生产环境。提供的NVIDIA Blueprints等参考工作流工具,可加速生成式AI和代理式AI的开发效率,兼顾本地开发的隐私安全与成本优势。

使用传统AI开发主机时,用户往往需要花费大量时间自行组装硬件、安装操作系统及配置各类软件环境。而Dell Pro Max with GB10提供了高度集成的一体化平台,大大降低了部署门槛,显著提升了效率与易用性。

在AI应用方面,Dell Pro Max with GB10更多地支持轻量级的微调,或主要用于推理任务。

汪志军解释说,戴尔与很多AI软件厂商都有合作,但不会要求设备出厂时就预装某些特定的软件,更倾向于通过认证和测试来确保兼容性和稳定性,更关注的是确保整体系统的稳定性。

三、既能用作独立电脑,又能直连现有笔记本📓、工作站

Dell Pro Max with GB10可以直接连接现有笔记本📓、台式机、工作站使用,作为一个用于AI开发与推理的算力盒。

有高数据安全要求、希望本地完成AI大模型推理的开发者,可通过将自己的电脑外接Dell Pro Max with GB10来实现本地高效运行AI模型的需求。

就像现在有些笔记本📓在GPU性能不足时外挂显卡,Dell Pro Max with GB10也可以作为一个外接的AI算力模块,为主机设备提供强大的AI推理性能支持。

Dell Pro Max with GB10也可以作为一台 独立电脑来使用,能像普通PC一样接上键盘、鼠标、显示器。开发者可以将它用作开发主力机,学校机房也可以成批部署,用于AI 教学、日常开发、模型训练、原型研究等。

此外,这台机器还能作为“边缘大脑”,在工业自动化、『机器人』️、自动驾驶等领域的边缘部署或嵌入工业设备、医疗设备等设备中,承担边缘AI计算任务。

在扩展性方面,Dell Pro Max with GB10是固定配置。

结语:商用PC中工作站需求增长,戴尔已为不同模型推理提供差异方案

汪志军分享说,大模型厂商对硬件资源的需求正在转变,从选择『数据中心』级硬件转向更加垂直、落地的应用场景与更符合私有化部署需求的领域,这些行业往往难以直接使用传统的大模型来满足需求,需要自主开发或与解决方案供应商合作,进行定制化部署,这时能部署在桌面端或边缘终端的AI工作站成为理想选择。

据IDC预测,到2030年,企业采购的商用PC中,每10台就有1台是工作站,市场份额将从5%增长至10%。

不同模型适用于不同工作站产品。例如对于FP4计算,参数规模在2000亿以下的模型,Dell Pro Max with GB10适用于推理任务。当推理需求更高,比如参数规模达到4050亿的模型,可通过两个Dell Pro Max with GB10组合成一个方案来满足其计算需求,实现高效推理。

Dell Pro Max with GB10提供三到五年的企业级售后支持。汪志军谈道,戴尔不仅是推出一款产品,更是在构建一个完整、协同的AI PC解决方案生态。

特别声明:[戴尔推出掌上AI超算!字典大小,1000TOPS峰值算力,能跑2000亿参数模型(dell助手)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

尹志平该死,杨过为何没亲手杀了他?少时不解,读懂时已不再年轻(尹志平为什么)

读者都期待杨过能手刃仇人,但金庸却出人意料地没有安排这样的结局,这背后有何深意?当他在古墓外窥见被点穴的小龙女时,内心的邪念最终战胜了理智。早在二人练功被偷窥时,他就有充分理由痛下杀手。聪慧如杨过,自然明白自…

尹志平该死,杨过为何没亲手杀了他?少时不解,读懂时已不再年轻(尹志平为什么)

42岁林依晨接3岁女儿放学,穿黑色瑜伽裤拎帆布包,背娃尽显母爱(42岁林依晨接3岁女儿放学)

今年上映的剧作《不够善良的我们》也成为讨论焦点,从婚前与婚后不同心境的角度,揭示了现代女性♀️在爱情、婚姻以及人生选择中的困惑与挣扎,引发广泛共鸣。愿她继续以善良为灯塔,勇敢追求梦想,同时在家庭的温暖中获得力量…

42岁林依晨接3岁女儿放学,穿黑色瑜伽裤拎帆布包,背娃尽显母爱(42岁林依晨接3岁女儿放学)

92岁游本昌:有儿有女有钱,最后还是和老伴住养老院,一年30多万(87岁游本昌现身)

他与妻子育有一双儿女,却选择在晚年入住北京一家高端养老机构。深入了解后不难发现,这个选择蕴含着对子女的体谅与对生活的智慧。由于父母早年忙于事业,他三岁起便与祖母生活,这种1"留守儿童1"的成长经历导致他与

92岁游本昌:有儿有女有钱,最后还是和老伴住养老院,一年30多万(87岁游本昌现身)

“受刑戏”也有段位?热巴演技堪忧,杨颖:皱眉算我输

在她受完刑罚后,她的表情仍然没有变化,如果不知道的人看到她这样,可能会以为她是在早上的八小时里就已经睡着了。在这其中,『白鹿』的表演堪称精湛绝伦,足以令人为之惊叹,她的演技几乎可以称之为传奇了。呢,当我扮演挨打戏…

“受刑戏”也有段位?热巴演技堪忧,杨颖:皱眉算我输

Sulfo-Cy5-FAPI-4,磺化-Cy5-成纤维细胞活化蛋白抑制剂-4,Sulfo-Cy5属于磺化花青素染料

Sulfo-Cy5-FAPI-4是一种近红外荧光靶向探针,由水溶性Sulfo-Cy5染料与FAP抑制剂共价连接而成,适用于细胞和活体成像实验。Sulfo-Cy5属于磺化花青素(Cyanine)染料,具有近红…

Sulfo-Cy5-FAPI-4,磺化-Cy5-成纤维细胞活化蛋白抑制剂-4,Sulfo-Cy5属于磺化花青素染料