
一、装显卡前,先分清你是哪种卡
服务器里装"显卡"一般分两种:一种是普通显示输出卡(给服务器接显示器用),另一种是AI/计算GPU卡(剪视频、跑大模型、做渲染)。两者需求完全不同:普通卡功耗低、出画面;计算卡功耗高、需要重点考虑供电和散热。
搞清楚自己要用GPU做什么,是选卡和装卡的第一步。计算卡和游戏卡的区别可读服务器GPU和游戏显卡的区别,想配一台能跑AI的服务器,先看GPU服务器配置指南。
二、装卡前要确认的几个接口条件
不是所有服务器都能随便插GPU,先确认:
| 条件 | 要点 |
|---|---|
| PCIe插槽 | 有无空闲x16(或x8)接口,且供电足够 |
| 接口带宽 | PCIe 4.0/5.0,见下文 |
| 机箱空间 | 双槽/三槽卡尺寸能否装下 |
| 供电接口 | 8PIN/12VHPWR接线是否符合 |
| BIOS设置 | 是否需开启Resizable BAR/Above 4G |
| 整机散热 | 功耗是否超出风道承压 |
PCIe插槽和带宽对GPU性能有直接影响,详细可读服务器PCIe插槽:4.0 vs 5.0影响;扩展能力不够的机器可以看联想SR650 V3扩展能力详解这类机型。
三、显卡供电怎么接
供电是装卡最容易出问题的环节:
- 确认电源功率:显卡TDP + 整机其他功耗 < 电源额定功率的80%,见服务器功耗计算与电费估算;
- 插对供电口:8PIN/6PIN/12VHPWR对齐插牢,别斜插;
- 双卡以上:最好每卡独立供电线,别一根线串太多;
- 标称功耗高的卡:确认电源是否有相应PCIe供电能力。
功耗算错会导致整机掉电或重启,多卡更是如此。想彻底搞懂电源怎么配,可读服务器电源选型完全指南和电源冗余与UPS搭配。散热功耗是装高密度GPU绕不开的课题。
四、多卡安装的注意事项
跑AI通常要上多卡,这里坑更多:
- 插槽间距:多卡间距要够,否则散热互相干扰;
- 双槽卡逐槽排:中间隔一个槽位加强风道;
- 卡间互联(NVLink等):需要互联的多卡要插在对应桥接位置;
- 信号完整性问题:多卡高负载可能出现掉卡,见8卡GPU服务器为什么容易掉卡。
多卡的供电、散热、信号是三大难点,装之前最好把机器结构先摸清。多卡到底要不要互联、怎么连,见GPU网络配置:NVLink/RoCE/InfiniBand。
五、装好后怎么装驱动
硬件装完,驱动别装错:
- 进BIOS确认GPU被识别,开Above 4G Decoding / Resizable BAR;
- 去官方渠道下载对应型号驱动(NVIDIA/AMD/昇腾各有官方包);
- 按显卡厂商文档安装,别用通用显卡驱动凑数;
- 安装后确认:
nvidia-smi(NVIDIA)/对应厂商工具能读到卡; - 装CUDA等计算栈,配套部署见AI训练服务器配置方案。
驱动装不上,多数是BIOS设置或系统版本问题,先排查这两个再重装。国产卡(如昇腾)驱动和NVIDIA不同,别混装,选型对比见国产GPU服务器选型对比。
六、如何确认GPU正确工作
装完别急着用,先验证:
nvidia-smi能看到卡型号、显存、温度、功耗正常;- 满载跑个负载测试看温度和频率稳定,见服务器压力测试实战;
- 核查显卡占用和显存是否被应用正确调用;
- 温度和功耗是否在正常范围,散热方案见服务器散热与制冷匹配计算。
如果识别到但一跑就重启或降频,多半是供电或散热问题,回到第三、七节排查。GPU是否被正确压榨,还取决于应用是否走了GPU而不是CPU,这在部署大模型时尤为关键。
七、散热与功耗别忽视
高功耗GPU在服务器里热量惊人:
- 单卡300W级以上的,机箱风道必须通畅;
- 8卡整机功耗可到数千瓦,供电和散热同步规划,见服务器电源冗余配置;
- 发热过大可能降频、掉卡、宕机,方案对比见GPU服务器散热:液冷vs风冷;
- 温度监控可纳入服务器温度监控与过热防护。
散热规划做得不好,再好的显卡也白搭。尤其多卡高密度部署,务必在装之前就把风道和供电算清楚。
八、常见误区
- 看接口一样就插:PCIe通道/供电/BIOS都可能不兼容;
- 电源功率扣得紧:瞬时功耗可能超过额定,留足余量;
- 驱动乱装:用错驱动白折腾,认准官方包;
- 忽视散热:高功耗卡没风道,性能暴跌。
服务器装显卡,本质是"确认兼容→接好供电→配好散热→装对驱动→验证工作"五步。把这五步走扎实,GPU就能在服务器上稳定为AI、渲染、计算服务。
延伸阅读推荐:

