记者从第四范式了解到，2月25日，第四范式推出大模型推理端侧解决方案ModelHub AIoT，用户在端侧可轻松部署包括DeepSeek R1、Qwen 2.5、Llama 2/3系列等小尺寸蒸馏模型，并实现离线运行。
上证报今日霍州讯（记者 王子霖）记者从第四范式了解到，2月25日，第四范式推出大模型推理端侧解决方案ModelHub AIoT，用户在端侧可轻松部署包括DeepSeek R1、Qwen 2.5、Llama 2/3系列等小尺寸蒸馏模型，并实现离线运行。用户可灵活在多个模型之间切换，兼顾了模型压缩、推理性能，解决了部署与优化的复杂性。公司表示，该方案不仅能够满足用户对隐私和实时性的需求，还极大降低了AI大模型推理成本。
据悉，ModelHub AIoT在网络不稳定或离线环境下，端侧模型仍能正常运行，确保服务的连续性。安全性方面，在端侧部署模型，数据无需上传至云端，所有计算和处理都在本地设备上完成，避免了云端传输和存储过程中的潜在泄露风险，降低了数据被黑客攻击或滥用的可能性。成本优化方面，端侧部署可有效降低对云端资源的依赖，本地处理减少了云端计算和存储的需求，降低了服务器成本和API调用成本，无需频繁上传大量数据，节省了网络带宽资源。
