在 Arm CPU 上运行 Meta 最新 Llama 3.2 版本,其云端到边缘侧的性能均得到显著提升,这为未来 AI 工作负载提供了强大支持,Meta 与 Arm 的合作加快了用例的创新速度,例如个性化的端侧推荐以及日常任务自动化等 ,Arm 十年来始终积极投资AI领域,并广泛开展开源合作,为 1B 至 90B 的 LLM 实现在 Arm 计算平台上无缝运行···
Arm 通过把 Kleidi 技术集成到 PyTorch 和 ExecuTorch,将关键的 AI 性能优势从边侧拓展至云端,赋能新一代应用在 Arm CPU 上运行大语言模型。对普及 ML 工作负载的持续投入将使任一技术栈的开发者能够在最新的生成式 AI 模型上即刻获得显著的推理性能提升。通过扩大与云服务提供商以及主要的 ML 独立软件开发商合作,进一步赋能全球的 AI 开发者。