混合负载下的 GPU 性能推演，怎么算真实性能？

很多人有个疑问： 我知道单跑 SD 画图速度是多少，单跑大模型推理速度是多少，那两个一起跑，速度是多少？ 大部分人会说：简单啊，各占一半性能呗。 不对，实际差远了。 混合负载下的 GPU 性能，不是简单的加权平均，也不是线性下降。 带宽冲突、缓存争用、调度开销、时序干扰，一堆因素叠加，最后性能可能只有你想象的一半。 今天就给你讲一个简化的推演模型，教你怎么算混合负载下的真实性能。 不是那种拍脑袋的估算，是有公式、有逻辑、能验算的。 一、先讲清楚：为什么混合负载不是简单相加？ 很多人以为 GPU 是这样的： 100% 算力，A 任务用 30%，B 任务用 50%，剩下 20% 闲着 加起来 80%，两个任务都能跑满各自的性能 大错特错。 GPU 不是时间片轮转的 CPU，也不是可以随便切分的蛋糕。 GPU 是一个共享资源的复杂系统，所有单元共享显存带宽、共享缓存、共享总线。 多个任务一起跑的时候，会产生各种冲突和干扰： 带宽冲突：大家都抢显存带宽，谁也跑不满 缓存争用：大家都用 L2 缓存，互相挤，命中率下降 调度开销：多任务调度要花时间，流水线效率下降 时序干扰：一个任务的峰值，正好撞上另一个任务的峰值，堵上加堵 这些因素加起来，就导致混合负载下的真实性能，远低于线性估算。 举个极端的例子： 单跑 A 任务，GPU 利用率 50%，性能 100 分 单跑 B 任务，GPU 利用率 50%，性能 100 分 两个一起跑，不是各 50 分，可能各只有 30 分，加起来 60 分 剩下的 40%，全浪费在冲突和开销上了 这就是为什么很多人觉得 “我 GPU 才用了一半，怎么加个任务就卡成狗” 的原因。 二、核心影响因素有哪些？ 我们一个一个讲：