端边设备“算得快又吃得少”?世界人工智能大会前夕,这款AI芯片面世

端边设备“算得快又吃得少”?世界人工智能大会前夕,这款AI芯片面世

2025世界人工智能大会还未正式启幕,已有企业迫不及待秀出了新品。

25日下午,后摩智能正式发布全新端边大模型AI芯片——后摩漫界®M50,同步推出力擎™系列M.2卡、力谋®系列加速卡及计算盒子等硬件组合,形成覆盖移动终端与边缘场景的完整产品矩阵。

新民晚报记者了解到,M50芯片实现了160TOPS@INT8、100TFLOPS@bFP16 的物理算力,搭配最大48GB内存与153.6 GB/s的超高带宽,典型功耗仅10W,相当于手机快充的功率,就能让PC、智能语音设备、机器人等智能移动终端高效运行1.5B到70B参数的本地大模型,实现了“高算力、低功耗、即插即用”。

“大模型技术以计算为主,且对带宽要求极高。”后摩智能CEO吴强博士指出,“大模型时代产品产品底层逻辑发生了变化,大模型产品更快速、直接创造生产力。”当前大模型行业正经历深刻变革,达成亿级用户规模,Facebook用了4.5年,ChatGPT用了2个月,而DeepSeek仅仅用了2周。

在吴强博士看来,行业已进入“推理密度”与“能耗密度”双重敏感阶段,未来五年推理成本将占大模型全生命周期80%以上。在端边大模型部署“最后一公里”的竞争,或将成为决定未来产业格局的重要拐点。

“未来90%的数据处理将在端边进行,10%的复杂任务交予云端。”他作出判断。显而易见,AI的处理重心正逐步向端边转移。

高算力、高带宽、低功耗,这三项看似互斥的指标,正是存算一体技术大显身手的主场,后摩智能从2025年创立伊始便深耕该领域。

何为“存算一体”?吴强解释,存算一体通过把计算和存储单元集成在一起,让数据就近处理,从根本上解决了传统芯片“数据传输慢、功耗高”的问题。

“M50芯片作为存算一体的集大成之作,其第二代SRAM-CIM双端口存算架构能让权重加载和矩阵计算同时进行,支持多精度混合运算,可兼顾模型部署的各项需求。”吴强介绍,“自主研发的第二代IPU架构——天璇,通过压缩自适应计算周期实现弹性计算,最高可提供160%的加速效果。”

在他看来,M50的亮点可以用几个词概括:混合精度、澎湃算力、超高带宽、海量内存、超低功耗、极致能效、高速互联。总的来说,和传统架构相比,M50的能效提升5—10 倍,适配了端边设备“算得快又吃得少”的需求。

除了M50芯片,后摩智能此次发布的产品矩阵形成了覆盖端侧到边缘的多元算力方案。这些产品可广泛应用于消费终端、智能办公、智能工业等多元领域,且均能在离线状态下实现全流程本地处理,从源头杜绝数据联网传输风险。例如在消费终端,赋能笔记本、平板电脑、学习机等设备本地大模型推理能力,无需联网即可完成智能交互、内容生成等任务,用户隐私数据全程闭环留存;智能办公场景中,智能会议系统在断网环境下仍能实现多语种翻译、纪要生成,会议内容不触云、不泄露;智能工业领域,产线质检与车路云协同通过本地算力完成实时分析决策,生产数据与运营信息在设备端闭环处理,避免云端传输隐患。

“后摩智能通过存算一体技术与大模型的深度融合,推动AI大模型在端边侧实现‘离线可用、数据留痕不外露’,构建起‘低功耗、高安全、好体验’的端边智能新生态。”吴强透露。

新民晚报记者还获悉,后摩智能已启动下一代DRAM-PIM技术研发,通过将计算单元直接嵌入DRAM阵列,使计算与存储的协同更加紧密高效。该技术将突破1TB/s片内带宽,能效较现有水平再提升三倍,推动百亿参数大模型在终端设备实现普及,让更强大的AI算力能够融入PC、平板等日常设备。

特别声明:[端边设备“算得快又吃得少”?世界人工智能大会前夕,这款AI芯片面世] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

智界汽车不予置评 测试结果引争议(智界汽车不予置换的原因)

鸿蒙智行官微今日对某平台的测试进行了回应,表示已看到相关“测试”,但不予置评。此前,懂车帝推出了一档辅助驾驶科普节目《懂车智炼场》,并发布了36款车型的辅助驾驶评测结果,其中包括问界M9、问界M7、问界M8以及智界R7等车型

智界汽车不予置评 测试结果引争议(智界汽车不予置换的原因)

【蜜蜂收卡】联通充值卡 99折以上高价回收~(蜜蜂卡密回收)

回收联通充值卡【99折以上】联通话费、话费充值卡、联通话费卡 <卡号15位 卡密19位> ✍回收:20~200面值✍折扣:99折以上回收 高价收卡! ̊ଳ ̊ᵎᵎᵎᵎ 价格美丽! 欢迎各位老板,前来咨询~…

【蜜蜂收卡】联通充值卡 99折以上高价回收~(蜜蜂卡密回收)

CR450动车组有望率先在成渝中线高铁上使用,成渝实现50分钟通达(cr400动车组技术特点)

然而对于CR450动车组的投用,还需要不断实验,目前正在利用武宜高铁实验运行中,而列车运营时速400公里这也是需要所在高铁线路有着时速400公里的运行条件的,目前我国还没有,据悉会对京沪高铁、京广高铁、沪渝…

CR450动车组有望率先在成渝中线高铁上使用,成渝实现50分钟通达(cr400动车组技术特点)

跑男蒙眼混撕:艺人安全何在?性别隐患谁顾?(跑男蒙眼选食材是第几期)

这让我不由自主想起多少社会新闻中关于女性被侵害的案例,而这里却成了一场游戏!导演姚某抱怨录制两小时要疯了,却对周深鞋子飞掉、麦克风扯烂、膝盖淤青等情况充耳不闻;事后还用特效把伤口P掉,还疑似为了热搜让郭艾伦和…

跑男蒙眼混撕:艺人安全何在?性别隐患谁顾?(跑男蒙眼选食材是第几期)

台湾首轮“大罢免”今日投票 政治博弈引发社会撕裂

7月26日,台湾地区将举行前所未有的首轮“大罢免”投票,选民将决定包括24名国民党“立委”和新竹市长高虹安在内的25件罢免案。在罢免投票前一天,国民党高层走上街头进行最后的冲刺

台湾首轮“大罢免”今日投票 政治博弈引发社会撕裂