大模型主机供电与散热:电源选型、功耗限制与风道规划
本地大模型服务器是那种人们容易在“无聊部分”上偷工减料的电脑。显卡吸引了所有注意力,而电源和风道决定了这台机器是能稳定运行几个月,还是在长任务中途关机。这篇关于大模型主机供电与散热的指南,讲怎样用官方数据给电源选型,怎样用功耗限制来降低发热和噪音,大显卡需要什么样的风道,以及双显卡机器要检查什么。它是对装机配置清单的补充:那篇选配件,这篇讲怎么让它们持续稳定地运转。
核对说明:显卡的板卡功耗、建议整机电源和最高温度来自英伟达 RTX 5060 Ti、RTX 3090、RTX 4090 和 RTX 5090 的产品页,功耗限制选项来自英伟达 nvidia-smi 文档,均于 2026-10-30 阅读。峰值功耗数字是我们的推算,假设其余部件占 250W,不是实测。电源参考价来自我们自己的价格表。写这篇文章时我们没有测量噪音或温度。
要点速览(更新于 2026-10-30)
- 从英伟达给出的整机电源要求开始:RTX 5060 Ti 16GB 为 600W,RTX 3090 为 750W,RTX 4090 为 850W,RTX 5090 为 1000W,再为 CPU 和第二块 GPU 留出余量。
用 nvidia-smi 设置功耗限制是降低发热和噪音的低成本办法,需要管理员权限,并且必须在显卡报告的范围内。
大显卡需要前部进风和畅通的排风路径;机箱拥挤或两张卡紧贴在一起,是热降频最常见的原因。
大模型主机供电与散热:为什么更看重供电
游戏对显卡的负载并不均匀,而语言模型服务器在生成长回答或跑批处理时,可以连续几分钟让显卡接近上限。受内存带宽限制的推理不一定能达到最大板卡功耗,但微调、图像生成和大量并发使用会。电源的额定值是持续输出能力,电源太小,在负载下可能自动关机,表现为随机崩溃,还可能损坏文件。相对于它所保护的 GPU,更好的电源多花的钱很少。
用官方数字给电源选型
请使用厂商的数据。英伟达的产品页列出了每张显卡的总显卡功耗和要求的整机电源。图表显示:RTX 5060 Ti 16GB 额定 180W,整机要求 600W;RTX 3090 为 350W 与 750W;RTX 4090 为 450W 与 850W;RTX 5090 为 575W 与 1000W。要求的整机电源已经假定显卡周围是一台典型的电脑,所以请把它当作下限。

| 显卡 | 总显卡功耗 | 英伟达要求的整机电源 | 该级别电源参考价(元) |
|---|---|---|---|
| RTX 5060 Ti 16GB | 180W | 600W | 650W 级约 350 |
| RTX 3090 | 350W | 750W | 850W 级约 1070 |
| RTX 4090 | 450W | 850W | 850W 级约 1070 |
| RTX 5090 | 575W | 1000W | 1000W 级约 1199 |
价格是我们 2026-10-30 价格表的参考价中位数,仅供比较。对单张高端显卡来说,850W 是最实用的中间选项,这也是我们在几个参考装机里使用它的原因。
自己估算时,把所有显卡的功耗相加,再加 250W 作为 CPU、主板、硬盘和风扇的余量,然后除以约 0.8,让电源在峰值时保持在额定值的 80% 左右。这是常见的经验法则,不是标准,下面的推算数字就是这样来的。

一张 RTX 4090 是 450 加 250 等于 700W,除以 0.8 约为 875W,所以 850W 到 1000W 的电源合适。两张 RTX 3090 是 700 加 250 等于 950W,按同样的规则需要 1200W 的电源,或者对显卡施加功耗限制。也一定要检查实际的接口:高端显卡使用 12 伏高功率线,或者通过转接头使用多根 8 针线,电源必须有足够数量且类型正确的线。
功耗限制:少发热,速度损失很小
英伟达的 nvidia-smi 工具可以用 power-limit 选项设置最大功耗。文档说明这个值必须位于显卡所报告的最小和最大功耗限制之间,并且命令需要管理员权限。降低限制可以减少发热、风扇噪音和电源负担。对速度的影响取决于负载和显卡,我们没有测量过,所以请自己测试:在设置前后各跑一次典型的生成,比较每秒 token 数和温度。对于受内存带宽限制的推理,很多人发现适度的限制几乎不损失速度;对计算密集的工作则损失更多。这个限制通常在重启后会复位,所以服务器需要用启动脚本或服务来应用它。
散热:风道比风扇数量重要
热量必须被排出机箱。最简单的布局是前部进风、后部和顶部排风,并且在显卡周围留出足够空间。英伟达列出的最高 GPU 温度是:RTX 4090 和 RTX 5090 为 90C,RTX 3090 为 93C,RTX 5060 Ti 为 87C。让温度远低于这些数字,显卡才不会自己降频。要在长任务期间观察温度,而不是空闲时,并同时查看 GPU 核心以及(在能报告的显卡上)显存的温度。
三槽显卡需要空间。英伟达页面提到需要三个空闲的扩展槽和给散热器留出的空间,这意味着小机箱可能成为短板。网状前面板、不被遮挡的风扇、不阻碍气流的理线,往往比多加几个风扇更重要。防尘网每隔几个月要清理一次,特别是对于全天运行的机器。
双显卡与开放式机架
两张大卡紧挨着会互相加热。上面的卡吸入的是下面那张卡排出的热空气,所以它们之间的间距很重要。可选的办法包括使用间距更宽的主板、专门设计的机箱、向机箱后方排风的涡轮式显卡,或者给两张卡都设置功耗限制。我们的双显卡装机指南详细讲了布局。开放式的矿机风格机架对多张卡的散热最好,但会让硬件暴露在灰尘中,也很难保持安静,所以更适合车库而不是客厅。
噪音、电费与摆放位置
一台整天开着的机器应该足够安静,不影响所在的房间。大而慢的风扇比小而快的风扇安静,功耗限制也会降低显卡需要的风扇转速。待机功耗关系到电费:英伟达标注 RTX 4090 待机 19W,但整台电脑的待机功耗更高,所以请用插座功率计测量墙上的功率,再乘以你当地的电价。把机器放在能吸入冷空气的位置,不要放进封闭的柜子里。如果你打算搭一台共享的家用服务器,我们的家用 AI 服务器指南讲了 UPS、远程访问和监控。
长任务期间的监控
不测量就无法调优。nvidia-smi 工具可以显示当前功耗、温度、风扇转速和时钟频率,并且可以每秒刷新,所以在长时间的生成或批处理任务期间,让它在另一个终端里运行。请留意三件事。第一,功耗是否长时间停在限制值,这意味着显卡在满负荷工作。第二,温度是缓慢上升后趋于平稳,这是健康的,还是持续向最高值攀升,这说明风道不足。第三,在温度或功耗较高时频率是否下降;英伟达文档描述了各种降频原因,包括软件功耗上限和热降频,所以负载下频率下降,说明发热或供电限制了性能。
在信任一台新机器之前,用接近真实使用的负载记录一整小时的数据。一台十分钟内稳定的机器,在机箱、电源和房间都升温后一小时,仍然可能出问题。如果打算让任务无人值守运行,也要测试断电时会发生什么:一台小型 UPS 能让机器干净关机,而干净关机的服务器,之后模型文件和数据库需要修复的可能性要小得多。
为下一次升级选机箱和电源
按你一年后可能想要的显卡来买,而不只是按今天已有的。能装下大型三槽显卡的机箱和 1000W 的电源,价格只比小的略高,却能让你升级时不必重做整台机器。模组化线材让内部更整洁,有利于风道。优先选择知名厂商、保修期长并公布了能效等级的电源,不要为了省几十元去买无品牌的产品,因为电源是出故障时能损坏其他所有部件的那个零件。
上机前检查清单
| 检查项 | 看什么 | 原因 |
|---|---|---|
| 电源额定值 | 不低于英伟达要求的整机电源;双 GPU 更高 | 防止负载下关机 |
| 接口 | 类型和数量正确,插到位 | 避免线缆过热 |
| 风道 | 前进风、后上排风、滤网干净 | 防止显卡降频 |
| 功耗限制 | 设置在显卡报告的范围内 | 减少发热和噪音 |
| 监控 | 长任务期间记录温度和功耗 | 在崩溃前发现问题 |
| 二手配件 | 检查风扇、导热垫和线缆 | 见我们的二手显卡指南 |
常见错误
- 最后才买电源:电源要和显卡一起选,不要用预算剩下的钱去凑。
- 继续使用旧电源:老化的电源会损失容量,也可能缺少合适的接口。
- 两张卡紧贴着安装:上面那张卡会过热并降频。
- 把电源线弯得很急或没插到位:请按显卡厂商的安装说明操作。
- 忘了功耗限制会复位:如果依赖它,就在开机时应用。
常见问题
RTX 3090 或 4090 需要什么电源?
英伟达标注 RTX 3090 要求整机电源 750W,RTX 4090 要求 850W。选一款接口合适的优质电源,如果再加第二块 GPU,则需要更大的电源。
限制显卡功耗安全吗?
在显卡通过 nvidia-smi 报告的范围内是安全的。请测试你的负载并观察温度;设置需要管理员权限。
GPU 温度多高算太热?
英伟达给出这些显卡的最高 GPU 温度是 87C 到 93C。长时间运行时,请让温度远低于该范围。
需要水冷吗?
通常不需要。对大多数单显卡的机器,良好的风道和合理的间距就足够了。
本地大模型服务器耗电多少?
取决于硬件和使用频率。请在墙上测量待机和负载功率,再乘以你的电价。
850W 电源能带两张显卡吗?
对较小的显卡加上严格的功耗限制也许可以,但两张高端显卡通常需要更大的电源。请用官方数据做一次算术。
和我们聊聊
在规划装机,对供电或散热没把握?欢迎加入社区,或发邮件到 admin@microaione.com。
参考资料:英伟达 RTX 5090 规格、英伟达 RTX 4090 规格、英伟达 RTX 3090 规格、nvidia-smi 文档。
