高通正在开发最新的骁龙芯片，高通和Facebook母公司Meta周二宣布，从2024年开始让采用高通处理器的智能手机和电脑上运行Meta基于Llama 2的生成式 AI。
与单独使用基于云的人工智能实施和服务相比，设备上人工智能实施有助于增加用户隐私、解决安全偏好、增强应用程序可靠性并实现个性化，从而显着降低开发人员的成本。
该芯片设计将允许 Llama 2 大语言模型直接在设备上运行，而不依赖于单独使用云服务。在智能手机、PC、VR/AR 耳机和车辆等设备上运行 Llama 2 等生成式 AI 模型的能力使开发人员能够节省云成本，并为用户提供私密、更可靠和个性化的体验。
高通将使Meta的开源Llama 2模型在高通设备上可用，它认为这将使智能虚拟助理等应用成为可能。Meta的Llama 2可以做许多与ChatGPT相同的事情，但它可以打包在一个更小的程序中，使得它可以在手机上运行。
高通的芯片包括一个“张量处理器单元”，即TPU，非常适合人工智能模型所需的各种计算。不过，移动设备上可用的处理能力与配备尖端GPU的数据中心相比就相形见绌了。
Meta的Llama受到市场关注，主要是因为Meta公布了它的参数，这是一组帮助管理特定人工智能模型如何工作的数据。
Meta于2023年2月免费开放其Llama 2开源大语言模型，可供研究和商业使用。共有三个版本，参数数量分别为70亿、130亿和700亿。这将允许研究人员和最终的商业企业在自己的计算机上使用人工智能模型，而无需请求许可或支付费用。目前市场中的主流大型语言模型，如OpenAI的GPT-4，或谷歌的Bard，都是闭源大型语言模型，它们的参数数据是严格保密的。
高通过去曾与Meta密切合作，尤其是在虚拟现实设备Quest的芯片方面。高通还展示了一些在其芯片上缓慢运行的人工智能模型，如开源图像生成器Stable Diffusion。
高级副总裁兼技术总经理 Durga Malladi 表示：“我们赞赏 Meta 实现开放和负责任的 AI 的方法，并致力于通过在设备上引入生成式 AI 来推动创新并减少任何规模的开发者的进入壁垒。”规划和边缘解决方案业务，Qualcomm Technologies, Inc.“为了有效地将生成式人工智能扩展到主流，人工智能需要在云和边缘设备上运行，例如智能手机、笔记本电脑、车辆和物联网设备。”
开发人员今天就可以开始使用 Qualcomm AI Stack 优化设备端 AI 的应用程序，这是一套专用工具，可以在 Snapdragon 上更高效地处理 AI，从而使设备端 AI 即使在小型、薄型和轻型设备中也成为可能。
最前沿的电子设计资讯
