即时看!Meta正研发首款定制AI芯片:功耗低于NVIDIA

快科技   2023-05-20 05:58:19


【资料图】

快科技5月19日消息,当地时间周四,Meta宣布,它正在研发首款专门用于运行人工智能模型的定制芯片。jJBAgO

Meta并不像谷歌、微软等科技巨头从事销售云计算服务的业务js,过去公司从未公开谈论其内部数据中心芯片项目。但Meta高管称,全球科技界都对此表现出兴趣,所以有必要与外界沟通。

这款芯片名为Meta训练和推理加速器”(Meta Training and Inference Accelerator,简称MTIA”),功耗仅为25瓦,远低于NVIDIA等厂商的芯片功耗。

据Meta介绍,首个MTIA芯片将专注于AI推理。Meta软件工程师Joel Coburn表示,Meta最初考虑将GPU用于推理任务,但后来发现GPU并不不太适合推理工作。

GPU在真实模型应用方面的效率仍然很低,而且部署起来成本高昂。”Meta软件工程师Coburn表示,这就是我们需要MTIA的原因。”

此外,Meta还介绍了一种称作可规模化视频处理器”(MSVP)的芯片,可用于处理视js频并传输,同时降低能编程客栈源需求,该公司称,每天需要处理40亿个视频的任务。

猜你喜欢
最新资讯