算力节点

承接推理请求的机器。首字延迟、单流速度、吞吐与缓存命中是最近一小时的实测值，不是标称参数。