config: Add VLLM_DISABLE_COMPILE_CACHE=1 to environment variables across VLLM scripts.

Šī revīzija ir iekļauta:
Donato Capitella
2026-03-09 14:07:43 +00:00
vecāks 8de950d9ca
revīzija 16405e8943
5 mainīti faili ar 5 papildinājumiem un 0 dzēšanām
+1
Parādīt failu
@@ -163,6 +163,7 @@ def run_throughput(model, tp_size, backend_name="Default", output_dir=RESULTS_DI
# ENV Setup: Global + Model Specific
env = os.environ.copy()
env["VLLM_DISABLE_COMPILE_CACHE"] = "1"
# Inject model specific env vars (e.g. for AWQ)
model_env = MODEL_TABLE[model].get("env", {})