1. AI大模型本质是海量矩阵运算，CPU不擅长，需要大量GPU并行； ​ 2. 大模型吃巨量显存，单卡不够，得多卡协同； ​ 3. 多卡之间需要超高带宽互联，不能用普通通道； ​ 4. GPU功耗巨大，电源、散热、内存、硬盘、网卡全部要配套升级； 所以AI服务器硬件规格、成本、功耗全方位碾压传统服务器。 ​