Meta 承诺,下一代强大人工智能芯片将更加强大
他们的目标是最终扩大芯片的功能,开始训练生成式人工智能
最近更新时间 2024-04-11 10:08:54
Meta 承诺其下一代定制人工智能芯片将更加强大,能够更快地训练排名模型。这些芯片旨在与 Meta 的排名和推荐模型配合使用,提高训练效率并简化推理任务。Meta 表示,MTIA 是其长期计划中关于如何在服务中使用人工智能构建基础设施的重要组成部分。
在一篇博文中,Meta 表示:“实现我们对定制芯片的雄心意味着不仅要投资于计算芯片,还要投资于内存带宽、网络和容量以及其他下一代硬件系统。”他们于 2023 年 5 月发布了 MTIA v1,主要面向数据中心提供这些芯片,而下一代芯片也可能会针对数据中心。尽管 MTIA v1 预计要到 2025 年才会发布,但 Meta 表示这两款芯片目前都已投入生产。
目前,MTIA 主要用于训练排名和推荐算法,不过 Meta 表示,他们的目标是最终扩大芯片的功能,开始训练生成式人工智能,比如他们的 Llama 语言模型。
新的 MTIA 芯片“从根本上侧重于提供计算、内存带宽和内存容量的适当平衡”。这款芯片将拥有 256MB 的片上内存和 1.3GHz 的主频,而 v1 芯片只有 128MB 和 800GHz。早期测试结果显示,在四种型号中,新芯片的性能比第一代高出三倍。
Meta 公司已经有一段时间在开发 MTIA v2,该项目在内部被称为 Artemis,之前有报道称其专注于推理任务。其他人工智能公司也在研究制造自己的芯片,如谷歌的新 TPU 芯片、微软的 Maia 100 芯片和亚马逊的 Trainium 2 芯片。这些竞争表明了拥有定制芯片来运行人工智能模型的重要性。
随着对计算能力的需求增长,目前在人工智能芯片市场占主导地位的英伟达(Nvidia)估值已达 2 万亿美元。这些信息凸显了购买功能强大芯片的竞争,以及对芯片需求的迅速增长。