算力巨兽能耗惊人:英伟达H100 AI芯片总耗电量将超欧洲小国

admin12个月前生活百科3
󦘖

微信号

KTV115116

添加微信

转自:金融界

本文源自:IT之家

随着人工智能的飞速发展,对计算能力的需求也水涨船高。英伟达的 AI 处理器 H100 目前十分畅销,然而每块 H100 的峰值功耗高达 700 瓦,超过了普通美国家庭的平均功耗。随着大量 H100 被部署,专家预测,其总功耗将与一座美国大城市不相上下,甚至超过一些欧洲小国。

IT之家注意到,法国施耐德电气公司早在去年 10 月就估计,用于 AI 应用的数据中心的总功耗已经与塞浦路斯全国相当。那么,最热门的 AI 处理器之一 —— 英伟达的 H100,功耗究竟几何?

微软数据中心技术治理和战略部门首席电气工程师保罗・楚诺克(Paul Churnock)预测,到 2024 年底,当数百万块 H100 部署完毕时,其总功耗将超过美国亚利桑那州凤凰城所有家庭的用电量,但仍低于得克萨斯州休斯敦等更大的城市。

楚诺克在领英上发帖称:“英伟达的 H100 GPU 峰值功耗为 700 瓦,按照 61% 的年利用率计算,相当于一个美国家庭的平均功耗(假设每个家庭 2.51 人)。英伟达预计,2024 年 H100 的销量将在 150 万到 200 万块之间。按城市居民用电量排名,H100 的总功耗将位居全美第五,仅次于休斯敦,排在凤凰城之前。”

按照 61% 的年利用率,每块 H100 每年将消耗约 3740 千瓦时 (kWh) 的电量。如果英伟达在 2024 年售出 150 万块 H100,2024 年售出 200 万块,到 2024 年底,将有 350 万块 H100 芯片被部署。这些芯片的总年耗电量将达到惊人的 130.91 亿千瓦时,即 13091.82 吉瓦时 (GWh)。

相比之下,格鲁吉亚、立陶宛或危地马拉等国家的年均电力消耗也大约为 13092 吉瓦时。虽然 H100 的功耗令人震惊,但值得注意的是,AI 和高性能计算 (HPC) GPU 的效率正在不断提高。因此,虽然英伟达下一代 Blackwell 架构的 B100 芯片的功耗可能会超过 H100,但它也将提供更高的性能,从而以更少的单位功耗完成更多工作。

随着 AI 技术的发展,如何平衡算力与能耗之间的矛盾,将成为未来亟需解决的重要课题。

相关文章

流量是什么-流量是什么

流量是什么-流量是什么

本文目录一览: 1、流量是什么 2、什么是流量 3、流量是什么意思 流量是什么 流量,在规定期间内通过一指定点的车辆或行人数量,在网络指在一定时间内打开网站地址的人气访问量,或者是手机移动数...

葛隽戎:用好产品爱这个世界,这是成为一个生态品牌最核心的东西

  7月15日,由新浪财经和迎驾贡酒联合主办的首届生态品牌论坛暨2024“百大年度品牌榜”颁奖典礼在安徽省六安市霍山县迎驾山庄举办,挑战者创投、投资合伙人葛隽戎出席并发言。   葛隽戎表示,一个企业一...

windows10激活密钥专业版-win10专业版激活密钥是什么?

windows10激活密钥专业版-win10专业版激活密钥是什么?

本文目录一览: 1、win10专业版激活密钥是什么? 2、windows10专业版密钥激活码? 3、windows10激活密钥 4、win10专业版激活密钥是什么?求一个能用的win10专...

深夜公告,千亿景林买了啥?

深夜公告,千亿景林买了啥?

  来源:资本深潜号   北京时间8月11日深夜,景林资产披露美股最新持仓明细。   景林资产是管理超千亿元人民币的中国对冲基金,亦是内地少有的进行大手笔持有美股的买方机构之一。   截至2024年二...

卖药买煤  赤天化资本运作遭问询

卖药买煤 赤天化资本运作遭问询

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!   来源:北京商报   从“赤天化”到“圣济堂”,再到如今的赤天化(600227),证券简称的频繁变更也反映出了赤天化近...

纽交所暂停容联云ADS交易 并启动退市程序

容联云(RAAS.US)收到纽约证券交易所关于暂停公司美国存托股票(ADS)交易和启动退市程序的通知,因为公司未能及时提交财务报告。 容联云必须在2024年6月1日前提交书面申请,对纽交所的退市决定提...

微信号复制成功

打开微信,点击右上角"+"号,添加朋友,粘贴微信号,搜索即可!