双 V100 本地推理装机：讲者配置与检查要点

根据机器转写整理，未经原音、画面、硬件或性能测试核对。本文记录讲者的一次双卡装机思路；价格、型号兼容和速度均不构成当前采购建议或对其他设备的性能保证。

先确定显卡和安装空间

讲者曾尝试把一张消费级显卡和一张 V100 组合使用，发现实际运行体验不符合预期，之后改为两张 V100。两卡的显存、带宽、连接方式与推理软件如何分配计算都会影响表现，应按目标模型和实际框架测试，不能推断异构组合一定不可用或一定由慢卡决定总速度。

该案例中的 V100 已改装散热器和供电接口。讲者比较了自制水冷与风冷改装的维护、噪音和安装难度，并提到老卡主要依赖二手市场。不同改装方案的适配与稳定性需要单独核查。

主板、内存和电源

讲者用现有 DDR4 内存和 X99 平台组装，提醒选主板时确认两条显卡插槽的实际 PCIe 通道、插槽间距，以及 CPU 和内存兼容性。插槽外形是全长，并不自动证明每条都能以期望的通道数运行；性能也会受工作负载及整机配置影响。

案例使用 SATA 固态盘和有余量的电源。电源容量需要按实际显卡、其他部件和同时运行的任务核算；模组线应使用与电源明确兼容的配套线，不能按接口外观混用。权重卸载到系统内存、模型加载时间和运行速度也应在目标配置上测量，不能一概认定内存、CPU 或存储速度没有影响。

机架与使用代价

讲者的两张改装卡较厚，使用开放式机架和 PCIe 延长线解决安装空间与散热问题。其日常使用中提到待机功耗、风扇噪音、电流声和二手硬件状态；这些现象及具体数值来自个人设备，不能推广到所有 V100。

老架构显卡与驱动、推理框架和模型的兼容性需要按实际版本核验。二手设备还应核对卖家保障、设备状态、散热和供电，结合真实测试判断；转写未包含画面中的完整诊断命令，也不能据单次 ECC 记录推断设备寿命。案例中的模型速度和本地隐私保证未经独立核验。