漳平市师桑坝239号 +13594780288 rapt@mac.com

新闻动态

  • Home
  • 新推理引擎发布,机器人应用大模型实现快速部署

新推理引擎发布,机器人应用大模型实现快速部署

2026-09-29 6270

随着9月的到来,机器人领域发生了许多重要事件。松延动力于8日发布了HERON-World Model,接着智元在9日推出AGILE 2.0和GE-Act 2.0,而宇树在10日开源了UnifoLM-WLA-1.0,一个拥有6B参数的多任务模型。到15日,松延再补充了HERON-CRA。在短短八天内,三家企业推出了五个新模型,展示了该领域的活力。

与此同时,机器人的物理应用正在加速发展。启元机器人于9月20日发布了两款新的个人机器人,定价从19999元起。而优必选在10日宣布获得超过5000万元的海外订单,涉及多个产品。市场对这些具身企业的评价标准也在改变,开始关注复购率、现金流和真实履约成本等指标,这些反映了企业的实际运营能力。

在这个背景下,出现了一个核心问题:如何高效且稳定地将强大的具身大模型部署到算力有限的机器人硬件上。为了解决这一难题,清华大学与无问芯穹、上海交通大学于9月15日联合开源了APXInf,这是一款专为具身模型设计的端侧推理引擎。这款引擎解决了两个主要问题:如何在受限的算力、内存和功耗条件下,使具身模型在机器人上的推理速度达到可用水平,以及如何保持引擎的适应能力,使其在模型迭代中不落后。

在性能上,APXInf通过全栈优化,将推理延迟从278ms降低至26ms,实现了约10.7倍的提速,显示出高达38.46Hz的实时控制能力。这一技术进步意味着机器人能更快速地响应控制指令,而无需改变现有模型。此外,APXInf还建立了一套可持续复用的工作流程,使得模型适配和优化不再依赖专家,从而简化了整个过程。

具身模型的推理引擎在机器人中的位置至关重要。它位于主控、算力盒子和外设之间,负责采集数据、推理动作并执行控制指令,因此需要在小批量、实时性和延迟方面满足特定要求。然而,传统的云推理框架在这些方面通常无法满足需求。

机器人端侧的性能面临多重挑战,因算力和功耗受到限制,同时需要进行复杂的多视角感知和动作生成。而将模型部署到端侧不仅仅是简单的复制,更是一项需要系统思维的工程,需要各种专业知识的协同。

APXInf旨在解决这些瓶颈,帮助构建一套可持续发展的基础设施,提升模型的实时推理效率。通过压缩推理时间,APXInf为机器人在实际使用中提供了更高的稳定性和灵活性。

发表评论