Meta宣布AI训练与推理芯片计划:首款定制化芯片问世!

脸书母公司Meta Platforms周四(18日)公开旗下资料中心项目支持人工智能(AI)工作的细节,其中提到已打造一款定制芯片简称“MTIA”,用于加快生成式 AI 模型的训练。 这是Meta首次推出AI定制芯片,该公司表示MTIA是加快AI训练和推理工作的芯片家族的一份子。

MTIA 全称为 Meta 训练和推理加速器。所谓推理是指运作经过训练的模型。 MTIA 是一种定制芯片,也就是将不同电路整合在一块板上的芯片,可以将它进行编程,执行一项或多项任务。

Meta称,2020年设计第一代MTIA芯片,那是同名MTIA项目的部分工作。 打造第一代芯片的目的是提高推荐模型的效率,那些模型服务于广告和其他新闻推送内容。 第一代MTIA可以将内部128MB的内存扩展到高达128GB。 在 Meta 设计的基准测试中,它处理了低等和中等复杂度的 AI 模型,效率比 GPU 高。

Meta宣布AI训练与推理芯片计划:首款定制化芯片问世!

Meta宣布AI训练与推理芯片计划:首款定制化芯片问世!

Meta 的软件工程师 Joel Cohurn 介绍新芯片时说,Meta 最初用图形处理器(GPU)执行推理任务,发现 GPU 不太适合这种工作。 用GPU固然可以大幅优化软件,但对真实模型的效率很低,现实配置时难度大、成本高,所以Meta需要MTIA。

今年 ChatGPT 掀起 AI 的热潮后,Meta 正在努力追赶其他硅谷巨头加速开发 AI 功能的脚步。

2月Meta推出针对研究社区的大型语言模型LLaMA,不同于ChatGPT和必应这类聊天机器人,它是开源的研究工具,可以在非商业许可下提供给政府、社区和学术界的研究人员和实体工作者。 当月有报道指出,Meta 将 AI 率先用于广告功能,推出名为 Advantage 的广告产品,针对不同的用户,让 AI 根据算法自动生成广告。

上月初传出Meta年底前推出AI广告工具的消息。 Meta 技术官 Andrew Bosworth 当时说,Meta 将推出生成广告图像的 AI 工具,帮助公司针对不同的受众制作不同的图像。

上月末Meta公布优于预期的第一季度业绩,并承诺要对火爆的AI领域加大押注。 Meta 首席执行官扎克伯格评价第一季度业绩时表示,AI推动应用程序(App)和业务取得良好成果,还在业绩电话会上说,对AI和元宇宙要两手抓。

声明:本文内容采编自互联网,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请点击举报,一经查实,本站将立刻删除。

本文链接:https://www.vivst.com/27849.html

相关文章