据OpenAI执行长奥特曼透露，ChatGPT每次查询的平均能耗为0.34瓦时，这一数字相当于一个烤箱运行一秒钟或节能灯泡点亮数分钟所需的电量。他还提到，随着数据中心自动化水平的提升，AI智能的成本将逐渐接近电力成本。虽然单次查询的能耗较低，但如果AI技术全面普及，整体能耗将成为未来社会需要重点关注的问题。
AI技术的迅猛发展为产业带来了无限的可能性，但同时也引发了电力需求的激增。从服务器机柜的角度来看，传统服务器机柜的耗电量约为4kW，相当于一个普通家庭的用电功率。而AI服务器机柜的耗电量则高达80kW，是传统服务器的20倍。如果未来出现算力更强的AI芯片，其耗电量可能进一步攀升，这也让AI被称为“吃电怪兽”。
业内人士指出，过去单一服务器通过气冷散热能够解决的热量通常在千瓦以下，但随着下一代AI芯片功耗的不断上升，破千瓦的功耗已成为“基本消费”。这一趋势也对散热技术和能源管理提出了更高的要求。
