你知道吗？
一块NVIDIA H100 GPU的耗电量，竟然等同于一个德国人的年均用电量！
这个令人惊讶的对比来自François Fleuret教授的一条推文。作为日内瓦大学和EPFL的教授，Fleuret在人工智能和机器学习领域有着深厚的造诣。
H100：AI界的"电老虎"
NVIDIA H100 GPU是目前AI训练和推理的主力军，其强大的性能背后是惊人的能耗。
据NVIDIA官方数据，H100的峰值功耗高达700瓦。
为了更直观地理解这个数字，Fleuret教授对比了德国人均用电量。数据显示，德国人均年用电量约为6000千瓦时。如果我们假设H100全年满负荷运行，其年耗电量将达到：
700瓦 × 24小时 × 365天 ≈ 6132千瓦时/年
这个数字与德国人均用电量惊人地接近！
François Fleuret(@francoisfleuret) 指出这一惊人对比:
So a H100 uses as much power as a German.
(一个H100的耗电量和一个德国人一样多。)
能耗的背后
这个对比引发了热烈讨论。有人关注效率，有人担忧环境影响，还有人从不同角度解读这个数据。
Klotzkette(@Klotzkette) 提出了一个有趣的问题:
So which one is more efficient in output, the average German or the average H100?
(那么，在输出效率上，平均的德国人和平均的H100哪个更高呢？)
如何衡量AI与人类的"效率"？这是个好问题！
这不仅涉及计算能力，还包括创造力、判断力等复杂因素。
如果只考虑浮点运算，那么人类必败无疑。但如果考虑具身智能，那H100 离人类还差之千里。
nisten - e/acc(@nisten) 则从能源结构角度进行了补充:
probably uses a lot less coal though
(不过可能用的煤要少得多)
尽管H100耗电量大，但如果使用清洁能源，其环境影响可能比使用化石燃料的低能耗设备更小。
appughar(@appughar) 对数据进行了更深入的分析:
Isn't 700wph peak power draw? It kinda make sense, that if you are making it go brr 100% all the time, it will take draw as much power as average appliances on all the time in a home / number of people living there.
(700瓦不是峰值功耗吗？如果你让它一直100%运转，它消耗的电量和家里所有电器一直开着差不多，除以家里的人数就是这个结果，这似乎说得通。)
确实，在比较时要注意峰值功耗和平均功耗的区别。实际使用中，H100并不总是满负荷运行。
能效与AI发展
随着AI技术的飞速发展，其能耗问题越来越受到关注。Göktuğ(@goktugyksl) 提出了一个前瞻性的观点:
Why are we comparing these two in terms of power consumption?
Energy should be abundant already, it is inevitable that the tech complex will consume way more power than people
(为什么我们要比较这两者的能耗呢？能源应该已经很丰富了，科技综合体消耗比人更多的能源是不可避免的。)
Mahaoo(@mahaoo_ASI) 则描绘了一个有趣的未来场景:
The future where the only reason to hire a human brain instead of an artificial brain is because it's more energy efficient and can be powered by a banana field instead of a nuclear power plant
(未来雇佣人脑而不是人工大脑的唯一原因是人脑更节能，可以用香蕉园而不是核电站来供能。)
相关阅读
https://www.nvidia.com/en-us/data-center/h100/
https://en.wikipedia.org/wiki/List_of_countries_by_electricity_consumption
👇
👇
👇
👇
本文同步自知识星球《AGI Hunt》
星球实时采集和监控推特、油管、discord、电报等平台的热点AI 内容，并基于数个资讯处理的 AI agent 挑选、审核、翻译、总结到星球中。
每天约监控6000 条消息，可节省约800+ 小时的阅读成本；
每天挖掘出10+ 热门的/新的 github 开源 AI 项目；
每天转译、点评 10+ 热门 arxiv AI 前沿论文。
星球非免费。定价99元/年，0.27元/天。(每+100人，+20元。元老福利~）
一是运行有成本，我希望它能自我闭环，这样才能长期稳定运转；
二是对人的挑选，鱼龙混杂不是我想要的，希望找到关注和热爱 AI 的人。
欢迎你的加入！
