广告

Meta推出下一代AI基础设施MTIA芯片,整体性能提升达3倍

2024-04-16 16:57:03 综合报道 阅读:
2023年,Meta推出了元训练和推理加速器(MTIA)v1,这是一款专为Meta的深度学习推荐模型设计的第一代人工智能推理加速器,与上一代相比,最新版本芯片的性能得到了显著的提升···

近日,Meta公司宣布,其下一代大规模基础设施正在以人工智能为基础进行构建,将支持包括新的生成式人工智能产品、推荐系统和先进的人工智能研究,并介绍了其新款MTIA芯片的相关细节。pncednc

pncednc

2023年,Meta推出了元训练和推理加速器(MTIA)v1,这是一款专为Meta的深度学习推荐模型设计的第一代人工智能推理加速器。与上一代相比,最新版本芯片的性能得到了显著的提升,采用了更高的5nm工艺(上一代为7nm),采用了更大的物理设计,让芯片拥有更多的处理核心,功耗提升到了90W,时钟频率提高到了1.35GHz(上一代功耗为25W,时钟频率为800MHz)。pncednc

pncednc

据Meta介绍,新款芯片能将该公司之前解决方案的计算和内存带宽增加一倍以上,目前已有16个数据中心使用了新款芯片,与前代相比整体的性能提升达到了3倍,新芯片的使用将极大的帮助其增强在Facebook和Instagram上的排名和推荐广告模型。pncednc

pncednc

而随着人工智能模型的复杂性不断增加,Meta预计未来几年内对MTIA芯片的投入将会不断增长,下一代MTIA芯片的开发正是其全栈开发计划的一部分,用于定制、特定领域的芯片,可解决他们独特的工作负载和系统问题。pncednc

事实上,使用定制芯片解决企业特定问题是一种十分高效的解决方案,与直接使用商用的GPU单元相比,使用定制芯片可以针对应用更好的实现适配和优化,极大的提升系统效率,节约项目开发时间。不过,定制芯片本身就意味着巨大的资金投入,同时要想真正发挥好定制芯片的效能,除了投资芯片本身外,内存带宽、网络和容量以及其他下一代硬件系统都是Meta需要考虑的内容。pncednc

责编:Ricardo
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 新一代MCU向着边缘AI和实时控制发展 在工业和汽车领域,电机驱动和数字电源转换是典型的实时控制系统,要求处理器具有高实时性和强大的数学计算与处理能力。这些应用需要优质的ADC和PWM功能,并通过联动机制,形成高效、有机的实时控制系统。
  • Arm年度技术大会:2025年底预计将有1,000亿台具备AI能力 近日,作为 Arm 一年一度的技术盛会,2024 年度技术大会 (Arm Tech Symposia 2024) 在上海和深圳成功举办。这次的大会十分特殊,以往 Arm 年度技术大会往往会专注于特定的应用市场,而今年的大会只聚焦于一个领域——AI···
  • Arm Tech Symposia 年度技术大会顺利收官,继续构建 作为当今时代最重大的技术变革之一,AI 极有潜力成为人类毕生最重要的技术。Arm 不仅提供了应用广泛的通用计算平台,还通过将 IP 与开源软件和工具乃至广泛的行业领先生态系统相结合,让全球 2,000 万开发者都能够使用 Arm 计算平台作为 AI 创新基础···
  • 继联网传输视频、图片之后,现在连气味也能远程传送了? 这是一家名为Osmo的“数字嗅觉”公司推出的技术,该公司在最近成功利用 AI 技术分析一个位置的气味,并在无需人工干预的情况下在其他地方复制它,实现了气味的远程传送···
  • AI 大模型迈向多模态,助力具身智能与机器人实现创新 你听过莫拉维克悖论 (Moravec's paradox) 吗?该悖论指出,对于人工智能 (AI) 系统而言,高级推理只需非常少的计算能力,而实现人类习以为常的感知运动技能却需要耗费巨大的计算资源···
  • 2024诺贝尔奖公布,竟然有两项都颁给了AI? 诺贝尔奖被普遍认为是在世界范围内,所有颁奖领域内能够取得的最高荣誉,最近,2024年的诺贝尔奖获奖名单也陆续公布了出来,而在目前公布的奖项中竟然有两项都与人工智能相关···
  • 无处不在的 Arm 软硬件生态赋能开发者 AI 创新 人工智能 (AI) 是当今最重大的技术变革之一,并正以前所未有的速度推动着各行各业的发展···
  • AI普及给嵌入式设计人员带来新挑战 探讨了人工智能(AI)的普及给嵌入式设计人员带来的新挑战。在创建“边缘机器学习(ML)”应用时,设计人员必须确保其能有效运行,同时最大限度地降低处理器和存储开销,以及物联网(IoT)设备的功耗。
  • AI利用HDMI线泄漏的信号窥探你的电脑屏幕 乌拉圭共和国大学工程学院的研究团队开发了一种人工智能模型,该模型特别针对从HDMI信号中恢复文本信息,能够解析并重建从几米远距离接收到的泄露信号,从而恢复原本的数字视频流,并成功将字符错误率(CER)降低至大约30%。
  • 自制一个能拍照、能回答问题的智能眼镜,只要180块? 在Meta近日举办的Llama 3 hackathon黑客马拉松活动中,一项名为“Open Glass AI”的开源项目仅花费了20美元(约144元人民币)的物料成本就将一副普通的眼镜改装成了智能眼镜,成功斩获了比赛第一名···
  • 设计汽车雷达系统的挑战 高清雷达在任何天气条件下都能有效地进行基于人工智能的前端物体探测,与其他传感器通道相辅相成,进一步提高了准确性和安全性。对于构建高价值嵌入式雷达系统的制造商来说,市场潜力巨大。然而,如何有竞争力地发掘这一潜力却充满挑战。在本文中,我们探讨了其中一些挑战。
  • 英特尔推出全球最大神经拟态系统,速度比人脑快200倍 4月18日,英特尔宣布,其打造出了全球最大的神经拟态系统——Hala Point,该系统内置1152个英特尔Loihi 2处理器,拥有11.5 亿个神经元和1280亿个突触,速度最高可达人脑的 200 倍···
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了