大模型主机供电与散热:电源选型、功耗限制与风道规划 - 大模型主机供电与散热

大模型主机供电与散热:电源选型、功耗限制与风道规划

本地大模型服务器是那种人们容易在“无聊部分”上偷工减料的电脑。显卡吸引了所有注意力,而电源和风道决定了这台机器是能稳定运行几个月,还是在长任务中途关机。这篇关于大模型主机供电与散热的指南,讲怎样用官方数据给电源选型,怎样用功耗限制来降低发热和噪音,大显卡需要什么样的风道,以及双显卡机器要检查什么。它是对装机配置清单的补充:那篇选配件,这篇讲怎么让它们持续稳定地运转。

核对说明:显卡的板卡功耗、建议整机电源和最高温度来自英伟达 RTX 5060 Ti、RTX 3090、RTX 4090 和 RTX 5090 的产品页,功耗限制选项来自英伟达 nvidia-smi 文档,均于 2026-10-30 阅读。峰值功耗数字是我们的推算,假设其余部件占 250W,不是实测。电源参考价来自我们自己的价格表。写这篇文章时我们没有测量噪音或温度。

要点速览(更新于 2026-10-30)

  • 从英伟达给出的整机电源要求开始:RTX 5060 Ti 16GB 为 600W,RTX 3090 为 750W,RTX 4090 为 850W,RTX 5090 为 1000W,再为 CPU 和第二块 GPU 留出余量。
  • 用 nvidia-smi 设置功耗限制是降低发热和噪音的低成本办法,需要管理员权限,并且必须在显卡报告的范围内。

  • 大显卡需要前部进风和畅通的排风路径;机箱拥挤或两张卡紧贴在一起,是热降频最常见的原因。

大模型主机供电与散热:为什么更看重供电

游戏对显卡的负载并不均匀,而语言模型服务器在生成长回答或跑批处理时,可以连续几分钟让显卡接近上限。受内存带宽限制的推理不一定能达到最大板卡功耗,但微调、图像生成和大量并发使用会。电源的额定值是持续输出能力,电源太小,在负载下可能自动关机,表现为随机崩溃,还可能损坏文件。相对于它所保护的 GPU,更好的电源多花的钱很少。

用官方数字给电源选型

请使用厂商的数据。英伟达的产品页列出了每张显卡的总显卡功耗和要求的整机电源。图表显示:RTX 5060 Ti 16GB 额定 180W,整机要求 600W;RTX 3090 为 350W 与 750W;RTX 4090 为 450W 与 850W;RTX 5090 为 575W 与 1000W。要求的整机电源已经假定显卡周围是一台典型的电脑,所以请把它当作下限。

四款显卡的总功耗与英伟达建议整机电源的分组柱状图
图 1:显卡功耗与英伟达建议的整机电源(官方产品页)
显卡 总显卡功耗 英伟达要求的整机电源 该级别电源参考价(元)
RTX 5060 Ti 16GB 180W 600W 650W 级约 350
RTX 3090 350W 750W 850W 级约 1070
RTX 4090 450W 850W 850W 级约 1070
RTX 5090 575W 1000W 1000W 级约 1199

价格是我们 2026-10-30 价格表的参考价中位数,仅供比较。对单张高端显卡来说,850W 是最实用的中间选项,这也是我们在几个参考装机里使用它的原因。

自己估算时,把所有显卡的功耗相加,再加 250W 作为 CPU、主板、硬盘和风扇的余量,然后除以约 0.8,让电源在峰值时保持在额定值的 80% 左右。这是常见的经验法则,不是标准,下面的推算数字就是这样来的。

单卡 RTX 3090、4090、5090 与双 RTX 3090 主机的峰值功耗推算柱状图
图 2:示例机型的峰值功耗推算,非实测

一张 RTX 4090 是 450 加 250 等于 700W,除以 0.8 约为 875W,所以 850W 到 1000W 的电源合适。两张 RTX 3090 是 700 加 250 等于 950W,按同样的规则需要 1200W 的电源,或者对显卡施加功耗限制。也一定要检查实际的接口:高端显卡使用 12 伏高功率线,或者通过转接头使用多根 8 针线,电源必须有足够数量且类型正确的线。

功耗限制:少发热,速度损失很小

英伟达的 nvidia-smi 工具可以用 power-limit 选项设置最大功耗。文档说明这个值必须位于显卡所报告的最小和最大功耗限制之间,并且命令需要管理员权限。降低限制可以减少发热、风扇噪音和电源负担。对速度的影响取决于负载和显卡,我们没有测量过,所以请自己测试:在设置前后各跑一次典型的生成,比较每秒 token 数和温度。对于受内存带宽限制的推理,很多人发现适度的限制几乎不损失速度;对计算密集的工作则损失更多。这个限制通常在重启后会复位,所以服务器需要用启动脚本或服务来应用它。

散热:风道比风扇数量重要

热量必须被排出机箱。最简单的布局是前部进风、后部和顶部排风,并且在显卡周围留出足够空间。英伟达列出的最高 GPU 温度是:RTX 4090 和 RTX 5090 为 90C,RTX 3090 为 93C,RTX 5060 Ti 为 87C。让温度远低于这些数字,显卡才不会自己降频。要在长任务期间观察温度,而不是空闲时,并同时查看 GPU 核心以及(在能报告的显卡上)显存的温度。

三槽显卡需要空间。英伟达页面提到需要三个空闲的扩展槽和给散热器留出的空间,这意味着小机箱可能成为短板。网状前面板、不被遮挡的风扇、不阻碍气流的理线,往往比多加几个风扇更重要。防尘网每隔几个月要清理一次,特别是对于全天运行的机器。

双显卡与开放式机架

两张大卡紧挨着会互相加热。上面的卡吸入的是下面那张卡排出的热空气,所以它们之间的间距很重要。可选的办法包括使用间距更宽的主板、专门设计的机箱、向机箱后方排风的涡轮式显卡,或者给两张卡都设置功耗限制。我们的双显卡装机指南详细讲了布局。开放式的矿机风格机架对多张卡的散热最好,但会让硬件暴露在灰尘中,也很难保持安静,所以更适合车库而不是客厅。

噪音、电费与摆放位置

一台整天开着的机器应该足够安静,不影响所在的房间。大而慢的风扇比小而快的风扇安静,功耗限制也会降低显卡需要的风扇转速。待机功耗关系到电费:英伟达标注 RTX 4090 待机 19W,但整台电脑的待机功耗更高,所以请用插座功率计测量墙上的功率,再乘以你当地的电价。把机器放在能吸入冷空气的位置,不要放进封闭的柜子里。如果你打算搭一台共享的家用服务器,我们的家用 AI 服务器指南讲了 UPS、远程访问和监控。

长任务期间的监控

不测量就无法调优。nvidia-smi 工具可以显示当前功耗、温度、风扇转速和时钟频率,并且可以每秒刷新,所以在长时间的生成或批处理任务期间,让它在另一个终端里运行。请留意三件事。第一,功耗是否长时间停在限制值,这意味着显卡在满负荷工作。第二,温度是缓慢上升后趋于平稳,这是健康的,还是持续向最高值攀升,这说明风道不足。第三,在温度或功耗较高时频率是否下降;英伟达文档描述了各种降频原因,包括软件功耗上限和热降频,所以负载下频率下降,说明发热或供电限制了性能。

在信任一台新机器之前,用接近真实使用的负载记录一整小时的数据。一台十分钟内稳定的机器,在机箱、电源和房间都升温后一小时,仍然可能出问题。如果打算让任务无人值守运行,也要测试断电时会发生什么:一台小型 UPS 能让机器干净关机,而干净关机的服务器,之后模型文件和数据库需要修复的可能性要小得多。

为下一次升级选机箱和电源

按你一年后可能想要的显卡来买,而不只是按今天已有的。能装下大型三槽显卡的机箱和 1000W 的电源,价格只比小的略高,却能让你升级时不必重做整台机器。模组化线材让内部更整洁,有利于风道。优先选择知名厂商、保修期长并公布了能效等级的电源,不要为了省几十元去买无品牌的产品,因为电源是出故障时能损坏其他所有部件的那个零件。

上机前检查清单

检查项 看什么 原因
电源额定值 不低于英伟达要求的整机电源;双 GPU 更高 防止负载下关机
接口 类型和数量正确,插到位 避免线缆过热
风道 前进风、后上排风、滤网干净 防止显卡降频
功耗限制 设置在显卡报告的范围内 减少发热和噪音
监控 长任务期间记录温度和功耗 在崩溃前发现问题
二手配件 检查风扇、导热垫和线缆 见我们的二手显卡指南

常见错误

  • 最后才买电源:电源要和显卡一起选,不要用预算剩下的钱去凑。
  • 继续使用旧电源:老化的电源会损失容量,也可能缺少合适的接口。
  • 两张卡紧贴着安装:上面那张卡会过热并降频。
  • 把电源线弯得很急或没插到位:请按显卡厂商的安装说明操作。
  • 忘了功耗限制会复位:如果依赖它,就在开机时应用。

常见问题

RTX 3090 或 4090 需要什么电源?

英伟达标注 RTX 3090 要求整机电源 750W,RTX 4090 要求 850W。选一款接口合适的优质电源,如果再加第二块 GPU,则需要更大的电源。

限制显卡功耗安全吗?

在显卡通过 nvidia-smi 报告的范围内是安全的。请测试你的负载并观察温度;设置需要管理员权限。

GPU 温度多高算太热?

英伟达给出这些显卡的最高 GPU 温度是 87C 到 93C。长时间运行时,请让温度远低于该范围。

需要水冷吗?

通常不需要。对大多数单显卡的机器,良好的风道和合理的间距就足够了。

本地大模型服务器耗电多少?

取决于硬件和使用频率。请在墙上测量待机和负载功率,再乘以你的电价。

850W 电源能带两张显卡吗?

对较小的显卡加上严格的功耗限制也许可以,但两张高端显卡通常需要更大的电源。请用官方数据做一次算术。

和我们聊聊

在规划装机,对供电或散热没把握?欢迎加入社区,或发邮件到 admin@microaione.com。

参考资料:英伟达 RTX 5090 规格、英伟达 RTX 4090 规格、英伟达 RTX 3090 规格、nvidia-smi 文档。

类似文章