端侧大模型迎来轻革命!移远通信 × RWKV 打造“轻量AI大脑”(端侧是什么意思)

端侧大模型迎来轻革命!移远通信 × RWKV 打造“轻量AI大脑”(端侧是什么意思)

7月27日,移远通信宣布与RWKV公司建立全面合作关系,双方将依托移远的算力平台,优化并支持RWKV最新模型架构,共同推动大模型在端侧设备的低资源占用部署。此次合作成果于2025世界人工智能大会(WAIC)首次亮相,标志着端侧大模型解决方案向更高性能、更广场景的应用迈出关键一步。

RWKV(Receptance Weighted Key Value)是全球领先的RNN大模型架构,它成功结合了递归神经网络(RNN)的恒定复杂度和高效串行推理,以及Transformer的并行处理优势,使其在文本生成、时间序列、图像和视频、语音和音乐等领域表现出色,推理成本和训练成本显著低于Transformer。

这项技术的核心突破在于引入RWKV算子替代Transformer的位置编码和多头注意力机制。这一革新有效解决了Transformer在处理长序列时的空间和时间复杂度问题,在确保模型性能不受影响的前提下,实现了内存占用恒定、token计算复杂度恒定,意味着运算过程更高效、更省力。这一特性让 RWKV 在端侧设备部署中展现出显著优势:处理长序列时速度更快、内存占用更低,相当于为终端设备配备了一个 “轻量化的AI大脑”。

在本次世界人工智能大会(WAIC)上,基于高通 QCS8550 平台的两大 RWKV 联合解决方案将重磅登场:

  • RWKV Chat:思考永续

RWKV Chat是一款离线AI聊天应用,无需联网即可实现推理、深度对话与文本续写,支持个性化会话配置,成为用户的“口袋级”生产力伙伴。例如其中的RWKV7-G1 2.9B模型在高通手机平台的速度可达30 token/s,且由于RWKV架构无需KV cache,在超长推理后仍然可以速度恒定,内存占用恒定。

  • RWKV Sudoku:超长CoT

RWKV 数独则展示了20M超小参数模型在超长链式推理(CoT)下的数学解题能力,凭借恒定内存与极少token消耗,轻松破解复杂数独,直观呈现RWKV架构在端侧的高效潜能。

在Transformer架构主导大模型领域的当下,移远通信以前瞻性的眼光,积极布局非Transformer的技术路线,致力于为客户提供更低算力、更少内存消耗的解决方案。

此次展出的RWKV7-G1 1.5B模型,经过移远通信的工程优化后,在SG885G模组上的实测数据表现亮眼,明显优于同等参数量的Transformer架构的模型,具体来说,

在Prefill阶段:

  • 平均耗时减少83%
  • 平均处理速度提升345%

    在Decoding阶段:

    • 平均CPU使用减少23%
    • 平均内存使用减少36%
    • 平均功耗减少18%

      移远通信的SG885G基于高通QCS8550平台开发,其AI综合算力高达48 TOPS,能够支撑7B左右参数级的多模态模型在本地化推理,从而实现实时视觉理解与多模态信息融合。在模型兼容性方面,移远构建了强大的端侧适配体系,率先实现对Llama、『通义千问』、『DeepSeek』等主流开源模型的全方位兼容,兼容的参数范围覆盖0.5B至8B,打造出了功能强大的端侧大模型超级平台。此外,在架构创新上,SG885G支持运行非Transformer路线的RWKV7架构,这一特征显著降低了对算力和内存的需求。

      移远通信首席运营官张栋表示:“此次与RWKV的战略合作,是移远通信 ‘让终端拥有AI大心脏’技术理念的关键落地!RWKV的线性注意力架构,突破性地解决了端侧设备的长序列处理瓶颈,再结合移远的高算力模组,成功将AI大模型‘装进’了物联网终端。当农机能‘看懂’土壤的干湿,当手表可以‘提醒’健康风险,AI就不再是飘在云里的概念,而是真真切切来到了田间地头、来到了你我的手腕上,让科技真正服务于每一处需要它的地方。”

      RWKV联合创始人&COO罗璇表示:“我们希望让每一台设备都聪明起来,就像为它们植入了会思考的‘大脑’。随着RWKV架构在移远算力平台上实现规模化部署,让终端设备突破资源限制,构建‘云端能力+本地智能’的双引擎协同生态,为万物智联时代奠定技术基石。”

      移远通信与RWKV的战略合作,不仅是一次技术与硬件的强强联合,更是推动智能计算走向普惠的关键里程碑,让“AI大模型”真正走出云端,融入万物。

      特别声明:[端侧大模型迎来轻革命!移远通信 × RWKV 打造“轻量AI大脑”(端侧是什么意思)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

      猜你喜欢

      爆跳腰王莫兰特系列篮球手环,灰熊队12号球星周边怎么选?(nba莫兰特弹跳数据)

      “爆跳腰王”莫兰特火遍全网,他的灰熊队12号篮球手环也成了球迷抢购爆款!这款运动手环不仅是颜值担当,更是身份象征。本文带你深度科普手环材质、佩戴体验、适配人群和选购要点,教你避开“贴牌货”陷阱,轻松入手正品球星周边,送给热爱NBA的他或自己

      爆跳腰王莫兰特系列篮球手环,灰熊队12号球星周边怎么选?(nba莫兰特弹跳数据)

      秋老虎+早晚凉,感冒缠上你?分清风热风寒,护理不盲目(秋老虎早晚天气)

      秋季气候多变,昼夜温差大,是感冒的高发季节。很多人疑惑秋季感冒到底是风热还是风寒,其实两者在症状、诱因上有明显区别,护理方式也不尽相同。分清类型、对症护理才能帮助身体更快康复

      秋老虎+早晚凉,感冒缠上你?分清风热风寒,护理不盲目(秋老虎早晚天气)

      活力中国调研行 | 在无锡,藏着一家全球电子修理铺(活力中国调研行 重庆)

      无锡高新区综合保税区给了我们‘境内关外’的便利条件,客户设备运进来维修、修好再返运出境,中间免征关税,通关手续也大大简化。”从最初的代工制造,到如今承接设计,再到提供全球化服务,中国工业的名片,正从数量优势走…

      活力中国调研行 | 在无锡,藏着一家全球电子修理铺(活力中国调研行 重庆)

      淘宝拍立淘AI找低价功能已全量上线(手机淘宝拍立淘)

      新榜讯 淘宝在图片搜索场景推出“AI找低价”AI导购工具。该工具凭借AI能力,可自动对同款商品分类、解析价格差异、推荐高性价比平替,助力用户快速定位同款低价且优质的商品。用户拍照或上传商品图片后,“AI找低价…

      淘宝拍立淘AI找低价功能已全量上线(手机淘宝拍立淘)

      石家庄轩浩桩基础施工队,承接各种钻孔桩、地基打桩打孔桩(石家庄轩宇机械制造厂)

      在建筑行业中,桩基础作为承载上部结构荷载的重要部分,其施工质量直接关系到整体工程的安全与稳定。轩浩桩基础施工队拥有超过二十年的打桩实践经验,积累了丰富的现场操作经验和问题处理能力。 此外,轩浩还提供事故桩处…

      石家庄轩浩桩基础施工队,承接各种钻孔桩、地基打桩打孔桩(石家庄轩宇机械制造厂)