Nvidia的H100 GPU：功耗及对能源使用的影响

Nvidia的H100 GPU的功耗

保罗·切诺克指出，Nvidia的H100 GPU的峰值功耗为700W，相当于美国家庭的平均功耗。预计2024年销售量为150-200万个H100 GPU，这些芯片将排在第五位的功耗消耗者之中，仅次于德克萨斯州休斯顿和亚利桑那州凤凰城。

预计功耗

假设Nvidia在2023年销售150万个H100 GPU，2024年销售200万个，到2024年底部署的处理器总数将达到350万个。以61%的年利用率计算，每个H100 GPU每年将消耗约3740千瓦时（kWh）的电力。这将导致惊人的总功耗为13091.82吉瓦时（GWh）每年，相当于格鲁吉亚、立陶宛或危地马拉等国家的年度功耗。

考虑因素和未来发展

尽管Nvidia的H100 GPU的功耗很大，但值得注意的是，AI和HPC GPU的效率正在提高。即将推出的基于Blackwell架构的B100预计将超过H100的功耗，同时提供更高的性能和每单位功耗的工作效率增加。