NVIDIA黄仁勋“挑战”CPU：GPU训练AI大模型可降低96%成本

(资料图)

5月29日消息，在刚刚召开的2023年台北电脑展上，NVIDIA首席执行官黄仁勋进行了演讲。

在演讲中，黄仁勋向传统的CPU服务器集群发起“挑战”，认为在人工智能和加速计算这一未来方向上，GPU服务器有着更为强大的优势。

根据黄仁勋在演讲上展示的范例，训练一个LLM大语言模型，将需要960个CPU组成的服务器集群，这将耗费大约1000万美元（约合人民币7070万元），并消耗11千兆瓦时的电力。

相比之下，同样以1000万美元的成本去组建GPU服务器集群，将以仅3.2千兆瓦时的电力消耗，训练44个LLM大模型。

关键词：